Cómo aprende una IA — datos, entrenamiento y el problema del sesgo
Una IA aprende no porque le programen reglas, sino porque le muestran muchos ejemplos.
Antes de la tecnología, este saber.
Cuando doña Mercedes, maestra rural del Valle del Cauca, enseñaba a leer a un niño nuevo, no le mostraba 1 sola palabra: le mostraba cientos. Le mostraba "casa" y la repetía. Le mostraba "mamá", "perro", "árbol". Cada palabra varias veces. Con el tiempo, el niño empezaba a reconocer patrones: las letras juntas forman palabras, las palabras tienen sonidos, los sonidos forman frases. Doña Mercedes no le "programaba" las reglas: el niño las extraía de los ejemplos. Esa es exactamente la forma en que aprende una IA moderna: le muestras miles de ejemplos, ella encuentra patrones, y después puede generalizar. Si los ejemplos son buenos y variados, aprende bien. Si los ejemplos son malos o sesgados, aprende mal. Como doña Mercedes: si solo le hubiera mostrado al niño palabras de un grupo (solo objetos urbanos, sin animales del campo), el niño habría aprendido un mundo parcial. Las IAs igual.
Si una IA tiene que aprender a reconocer "buenas notas", pero la entrenan SOLO con notas de niños de colegios privados de Bogotá, ¿qué pasa cuando le muestran una nota de un niño del campo del Pacífico que escribe con caligrafía distinta?
El producto es ese diagrama + análisis + 5 reglas firmadas.
"Si una IA tiene que aprender a reconocer "buenas notas", pero la entrenan SOLO con notas de niños de colegios privados de Bogotá, ¿qué pasa cuando le muestran una nota de un niño del campo del Pacífico que escribe con caligrafía distinta?"
Enseñar a una IA a reconocer "gato"
Actividad 1 · ANALIZA — Enseñar a una IA a reconocer "gato" (10 min · individual).
10 minHoy haces 4 cosas: descubres cómo aprende una IA, analizas 3 casos de sesgo, dibujas el diagrama, formulas las 5 reglas.
Esta semana, cuando uses una IA, pregúntate: "¿de qué datos aprendió esto?
Las 5 palabras que vas a entender hoy.
Domina estas ideas y todo lo demás cae solo. Léelas antes de abrir el PDF.
- 🏋️
Entrenamiento (training)
Proceso por el cual una IA aprende: se le muestran miles o millones de ejemplos y un algoritmo ajusta el modelo para reconocer patrones. Toma semanas o meses con computadores poderosos. Sin entrenamiento, no hay IA útil.
Ej. Entrenar GPT-4 tomó meses, usó miles de procesadores especializados y costó alrededor de 100 millones de dólares. El resultado: un modelo con 1.7 trillones de parámetros.
- 📚
Datos de entrenamiento
Los ejemplos con los que se entrena una IA. Para ChatGPT: libros, Wikipedia, foros, sitios web. Para reconocimiento facial: fotos etiquetadas. La calidad y diversidad de los datos determinan la calidad de la IA.
Ej. Si entrenas IA con CVs de hombres, la IA va a 'preferir' candidatos hombres. Si entrenas IA de canciones solo con vallenato, va a 'rechazar' otros géneros como 'no música'.
- ⚖️
Sesgo (bias)
Cuando una IA discrimina o falla sistemáticamente con cierto grupo. No es bug accidental: es consecuencia de datos parciales o decisiones humanas en el diseño. Real y documentado en Amazon, Google, sistemas de justicia.
Ej. Google Photos en 2015 clasificó fotos de personas afrodescendientes como 'gorillas' porque los datos no incluyeron suficiente diversidad. Google se disculpó. Caso paradigmático de sesgo.
- 🧠
Redes neuronales profundas (deep learning)
El algoritmo más usado en IA moderna. Inspirado en cómo funcionan las neuronas del cerebro humano. 'Profundas' porque tienen muchas capas (decenas o cientos). La revolución de 2012 popularizó esta técnica.
Ej. ChatGPT, DALL-E, Google Translate, reconocimiento facial: todos usan redes neuronales profundas. Es la tecnología clave detrás de la mayoría de IAs avanzadas que conoces.
- 🔍
5 reglas para detectar sesgo
Las 5 normas para evaluar críticamente una IA: (1) preguntar de qué datos aprendió, (2) probar con distintos grupos, (3) buscar tu propio caso de prueba, (4) leer documentación, (5) no asumir neutralidad.
Ej. Antes de confiar en una IA que califica trabajos escolares, pregunta: ¿con qué trabajos se entrenó? ¿de qué colegios? ¿de qué países? Si solo se entrenó con trabajos de colegios élite, va a sesgar.
Ahora aplica lo aprendido.
Tienes el PDF leído. Aquí pones las manos. Estos labs te ayudan a verificar que entendiste antes de la próxima clase.
¿Sabes cómo aprende una IA?
5 preguntas para verificar que entiendes el aprendizaje y el sesgo.
- 1 ¿Cómo aprende una IA moderna?
- 2 Una IA de RH descarta CVs de mujeres. ¿Por qué pasa?
- 3 ¿Es la IA 'neutral' por naturaleza?
- 4 Quieres detectar si una IA tiene sesgo. ¿Qué haces?
- 5 Una IA aprende de qué tipos de datos NO le mostraste. ¿Es responsable?
¡Completaste el quiz!
Aciertos: 0 de 5
Tres voces para cerrar.
No es decoración: son tres lentes que te acompañan toda la secundaria. Lee con calma y responde la pregunta-espejo en tu cuaderno.
Enrique Dussel
lente del nosotrosLa IA refleja a quien la creó. Si los datos vinieron de unos pocos, la IA reproducirá los valores de unos pocos. La diversidad de datos es justicia.
— formulación de esta guía, al modo de Enrique Dussel. No es una cita textual.
Pregunta-espejo: ¿Las IAs que uso fueron creadas pensando en mí, mi familia, mi región?
Marco Aurelio
lente del cuidado interiorSaber cómo aprende la IA te quita el asombro mágico. Lo mágico cede paso a lo analítico, y eso es ganancia.
— formulación de esta guía, al modo de Marco Aurelio. No es una cita textual.
Pregunta-espejo: ¿Antes veía la IA como magia? ¿Cómo cambia mi relación al saber cómo aprende?
Luciano Floridi
lente de la infoesferaEl sesgo no es defecto técnico que arreglar después: es valor político que debe debatirse antes. La IA refleja decisiones humanas.
— formulación de esta guía, al modo de Luciano Floridi. No es una cita textual.
Pregunta-espejo: ¿Qué decisiones políticas estoy aceptando sin verlas cada vez que uso una IA?
Nota para el docente. Las tres formulaciones son del autor de la guía, no citas textuales de los pensadores: recogen su lente para pensar el tema, no sus palabras. Si vas a citarlos en clase, remite a la obra original.
Cinco dimensiones que te llevas.
No solo aprendiste un tema. Mira en cinco direcciones lo que esta sesión dejó en ti.
Personal
Al terminar la clase: (1) podrás identificar las 4 partes del aprendizaje de una IA; (2) sabrás explicar qué es el sesgo y por qué ocurre; (3) podrás analizar 3 ejemplos reales de sesgo; (4) habrás cr…
Emocional
Antes de hoy, las respuestas de ChatGPT te parecían casi mágicas: ¿cómo puede saber tanto?.
Ciudadana
La mayoría de IAs del mundo se entrenan con datos en inglés, de Estados Unidos y Europa.
Local
Antes de salir, verifica que tu mini-ejemplo muestra cómo el sesgo entra por los datos.
Intergeneracional
El sesgo en IA no es problema solo técnico: es problema político.
Transferencia a tu vida
Esta semana, cuando uses una IA, pregúntate: "¿de qué datos aprendió esto?
¿Qué te llevás de esta guía?
Escribe en tus propias palabras: qué aprendiste, qué te sorprendió, o cómo conecta con tu vida. Máximo 800 caracteres. No se califica — es para ti.
Inicia sesión para guardar tu reflexión y que quede en tu historial.
Retroalimentación de tu docente
Marca esta guía como completada
Cargando tu progreso…
Envíaselo a quien lo necesite
Tus compañeras y compañeros, padres o profesores pueden abrir esto directamente en su celular sin instalar nada.
Introducción
Activación de conocimientos previos y planteamiento del problema o pregunta orientadora.
Desarrollo conceptual
Explicación de los contenidos de la sesión con ejemplos, recursos visuales y referencias.
Actividad práctica
Ejercicio individual o colaborativo donde aplicas lo aprendido.
Evaluación
Cuestionario interactivo, producto o reflexión escrita para evidenciar el aprendizaje.