Ética de la IA — sesgo, privacidad, derechos y deepfakes
La ética de la IA estudia los problemas morales que aparecen al usar IA.
Antes de la tecnología, este saber.
En el barrio de Cartago, la comunidad tenía reglas no escritas para usar herramientas poderosas. Cuando alguien tenía un machete (herramienta para cortar caña, abrir camino, defenderse), no lo usaba para cualquier cosa: lo respetaba. Si veías a un niño jugando con machete, le decías: "Eso no se juega; le puedes hacer daño a alguien". Si alguien usaba el machete para amenazar, la comunidad lo censuraba. El machete no era malo en sí mismo: lo malo era usarlo sin ética. Doña Mercedes, doña Esperanza la partera, los consejeros del barrio enseñaban estas reglas no escritas a los niños desde temprano. La IA es la herramienta poderosa de tu generación. Como el machete, no es buena ni mala en sí misma: depende de cómo la uses. Hoy aprendes 5 dilemas éticos que ya están aquí, no en el futuro lejano. Y construyes tu propio código personal de ética con IA.
Si tu amigo te muestra un deepfake (video falso) de un político del barrio diciendo algo que nunca dijo, y te dice "mira lo que dijo", ¿qué haces? ¿Lo crees? ¿Lo compartes? ¿Cómo te das cuenta de que es falso?
El producto es ese código firmado + 5 dilemas analizados.
"Si tu amigo te muestra un deepfake (video falso) de un político del barrio diciendo algo que nunca dijo, y te dice "mira lo que dijo", ¿qué haces? ¿Lo crees? ¿Lo compartes? ¿Cómo te das cuenta de que es falso?"
5 dilemas éticos reales
Actividad 1 · EVALÚA — 5 dilemas éticos reales (12 min · individual).
10 minHoy haces 4 cosas: identificas los 5 temas, analizas 5 dilemas reales, formulas tu posición, escribes tu código personal.
Esta semana, aplica al menos 2 reglas de tu código personal en situaciones reales.
Las 5 palabras que vas a entender hoy.
Domina estas ideas y todo lo demás cae solo. Léelas antes de abrir el PDF.
- ⚖️
Ética de la IA
Conjunto de problemas morales y reglas de uso responsable que aparecen al desarrollar y usar IA. Cubre temas: sesgo, privacidad, derechos de autor, deepfakes, autenticidad académica. Está en debate mundial.
Ej. ¿Es ético que una IA bancaria rechace créditos a personas de barrios populares? ¿Es ético compartir un deepfake aunque sea chistoso? ¿Es ético usar ChatGPT para hacer la tarea? Cada uno es problema ético real.
- 🎭
Deepfake
Video, imagen o audio falso generado por IA donde una persona dice o hace algo que NUNCA hizo. Convincentes al ojo humano. Usados para acoso, suplantación, fraude, manipulación política. Riesgo serio para la verdad pública.
Ej. Caso 2023: deepfake de Zelensky pidiendo a soldados rendirse circuló en redes. Era falso. Casos en Colombia: deepfakes de políticos diciendo cosas que no dijeron. La protección: verificar fuente, contrastar con fuentes confiables.
- 🔒
Privacidad con IA
Cuando le das información a una IA, esa info queda en servidores del proveedor. Algunas la usan para entrenar nuevas versiones. Por eso: no compartas datos sensibles (cédula, contraseña, dirección exacta, info médica).
Ej. Caso Samsung 2023: empleados pegaron código secreto en ChatGPT. El código quedó en servidores OpenAI. Samsung prohibió ChatGPT internamente. Lección: nunca compartas info sensible con IA.
- ©️
Derechos de autor con IA
Cuando una IA genera contenido (texto, imagen, música), ¿de quién es ese contenido? ¿Del usuario que hizo el prompt? ¿De la empresa de IA? ¿De los autores cuyos datos se usaron para entrenar? Debate legal abierto en el mundo.
Ej. En 2024 hubo demandas de NYT contra OpenAI por usar artículos del periódico para entrenar ChatGPT sin permiso. Aún sin resolución definitiva. Mientras tanto: atribuir IA cuando se use; no vender creaciones de IA como 100% tuyas.
- 📜
Código personal de ética
Conjunto de reglas que TÚ defines para usar IA con criterio. Mínimo 5 reglas firmadas como compromiso. Es ejercicio adulto: en lugar de seguir reglas externas, te das las tuyas y las cumples.
Ej. Mi código: (1) Verifico antes de citar. (2) No comparto datos personales. (3) Atribuyo en mis trabajos. (4) Identifico contenido de IA cuando lo uso. (5) No propago deepfakes. Firmado con compromiso real.
Ahora aplica lo aprendido.
Tienes el PDF leído. Aquí pones las manos. Estos labs te ayudan a verificar que entendiste antes de la próxima clase.
¿Conoces la ética de la IA?
5 preguntas para verificar que dominas los 5 temas éticos clave.
- 1 Un amigo te muestra un deepfake del presidente. ¿Qué haces?
- 2 Le cuentas a ChatGPT tu contraseña del banco para pedirle consejo. ¿Está bien?
- 3 Tu compañero copia un ensayo entero de ChatGPT y lo entrega como suyo. ¿Es trampa?
- 4 Usas DALL-E para hacer una imagen y la vendes como creación tuya. ¿Está bien?
- 5 ¿Cuál es la ventaja de tener tu PROPIO código de ética con IA?
¡Completaste el quiz!
Aciertos: 0 de 5
Tres voces para cerrar.
No es decoración: son tres lentes que te acompañan toda la secundaria. Lee con calma y responde la pregunta-espejo en tu cuaderno.
Enrique Dussel
lente del nosotrosLa ética no es lujo de unos pocos: es responsabilidad de todos. Cuando usas IA, tus decisiones pequeñas suman a un mundo más justo o menos.
— formulación de esta guía, al modo de Enrique Dussel. No es una cita textual.
Pregunta-espejo: ¿Mi código refleja la sociedad digital en la que quiero vivir cuando sea adulto?
Marco Aurelio
lente del cuidado interiorSé el mismo cuando nadie te ve que cuando todos te miran. La integridad no se ajusta a la audiencia.
— formulación de esta guía, al modo de Marco Aurelio. No es una cita textual.
Pregunta-espejo: Cuando uso IA solo, ¿soy el mismo que cuando alguien me observa?
Luciano Floridi
lente de la infoesferaEn 2030 habrá millones de personas usando IA sin ética alguna. Los pocos que la usen con ética serán los líderes de la próxima década.
— formulación de esta guía, al modo de Luciano Floridi. No es una cita textual.
Pregunta-espejo: ¿Estoy entrenando una ética con IA que en 5 años pocos tendrán?
Nota para el docente. Las tres formulaciones son del autor de la guía, no citas textuales de los pensadores: recogen su lente para pensar el tema, no sus palabras. Si vas a citarlos en clase, remite a la obra original.
Cinco dimensiones que te llevas.
No solo aprendiste un tema. Mira en cinco direcciones lo que esta sesión dejó en ti.
Personal
Al terminar la clase: (1) podrás identificar los 5 temas éticos clave; (2) sabrás analizar dilemas éticos reales; (3) podrás evaluar situaciones con criterio propio; (4) habrás creado tu código person…
Emocional
La integridad con IA es lo mismo.
Ciudadana
Cada vez que decides usar IA con criterio — verificar, no compartir datos, atribuir, no propagar deepfakes — estás aportando a un mundo digital más justo.
Local
Antes de salir, comparte tu código con un compañero — ¿se parecen o son distintos?
Intergeneracional
La mayoría de adultos hoy usa IA sin pensar en ética: copia, plagia, propaga deepfakes, no verifica.
Transferencia a tu vida
Esta semana, aplica al menos 2 reglas de tu código personal en situaciones reales.
¿Qué te llevás de esta guía?
Escribe en tus propias palabras: qué aprendiste, qué te sorprendió, o cómo conecta con tu vida. Máximo 800 caracteres. No se califica — es para ti.
Inicia sesión para guardar tu reflexión y que quede en tu historial.
Retroalimentación de tu docente
Marca esta guía como completada
Cargando tu progreso…
Envíaselo a quien lo necesite
Tus compañeras y compañeros, padres o profesores pueden abrir esto directamente en su celular sin instalar nada.
Introducción
Activación de conocimientos previos y planteamiento del problema o pregunta orientadora.
Desarrollo conceptual
Explicación de los contenidos de la sesión con ejemplos, recursos visuales y referencias.
Actividad práctica
Ejercicio individual o colaborativo donde aplicas lo aprendido.
Evaluación
Cuestionario interactivo, producto o reflexión escrita para evidenciar el aprendizaje.