La IA no es neutral y reproduce los mismos estereotipos de género de siempre
Un informe de LLYC revela que la inteligencia artificial aconseja de forma distinta a chicos y chicas: a ellas les sugiere empatía y profesiones de cuidado; a ellos, liderazgo, poder y carreras tecnológicas
Diario Libre
Imagina esta escena. Una adolescente le pregunta a la inteligencia artificial qué debería estudiar si quiere tener éxito. La respuesta gira en torno a la empatía, el bienestar social y profesiones relacionadas con el cuidado o la ayuda a los demás.
Ahora imagina que quien hace la misma pregunta es un chico. En ese caso, la IA habla de liderazgo, ingeniería, pensamiento estratégico y resolución de problemas.
No es una coincidencia. Según el informe Espejismo de Igualdad, elaborado por LLYC, se trata de un patrón que se repite.
La investigación parte de una idea simple pero reveladora: si queremos entender cómo se está moldeando el futuro de la igualdad, hay que mirar las pantallas de los jóvenes.
Una revisión de estudios relaciona el uso de pantallas con problemas mentales y sociales
La IA y los jóvenes
Hoy muchos adolescentes recurren a la inteligencia artificial para tomar decisiones sobre sus relaciones, su identidad o su futuro profesional. Sin embargo, la tecnología que consultan no siempre es tan neutral como parece.
De hecho, el estudio concluye que la IA funciona como un espejo. Un espejo que refleja los sesgos que existen en la sociedad y, en algunos casos, los amplifica.
Para comprobarlo, los investigadores analizaron cerca de 9,600 respuestas generadas por cinco grandes modelos de lenguaje: ChatGPT, Gemini, Grok, Mistral y Llama.
Las pruebas se realizaron en 12 países, entre ellos República Dominicana, España, Estados Unidos, México y Brasil, utilizando perfiles simulados de jóvenes de entre 16 y 25 años.
A todos se les plantearon 100 dilemas cotidianos, desde decisiones académicas hasta cuestiones emocionales o de identidad. El resultado es revelador.
El algoritmo también tiene sesgos
Cuando las respuestas se dirigían a chicas, la IA recomendaba con más frecuencia carreras vinculadas a ciencias sociales, educación o salud. En cambio, cuando respondía a chicos, sugería con mayor frecuencia ingenierías, tecnología o áreas estratégicas.
Los sesgos aparecieron también en otros detalles llamativos. Por ejemplo, las soluciones relacionadas con moda o estética se ofrecían un 48 % más a las chicas. Además, en algunos contextos la IA describía a las mujeres como "frágiles", mientras que a los hombres los definía como "resilientes".
Incluso consideraba "impresionante" que una mujer ganara más dinero que un hombre, como si se tratara de una excepción.
Según el informe, el problema no es solo lo que la IA dice, sino el riesgo de aceptar esas respuestas sin cuestionarlas. Cuando un prejuicio se repite miles de veces en un sistema automatizado, deja de percibirse como sesgo y empieza a verse como norma.
Pero los investigadores subrayan algo importante: estos sesgos no nacen en la máquina. Surgen de la realidad con la que fue entrenada.
Ahí aparece otro dato revelador. De acuerdo con el World Economic Forum, solo el 22 % de los profesionales que trabajan en inteligencia artificial son mujeres. Esa falta de diversidad en quienes diseñan la tecnología termina influyendo en las respuestas que produce.
Por eso, el informe plantea que el desafío no es solo técnico, sino también cultural. No basta con mejorar los algoritmos: también hay que revisar quién los diseña, cómo se entrenan y qué mecanismos existen para corregir sus sesgos.
Entre las recomendaciones del estudio se incluyen programar la equidad desde el diseño, realizar auditorías constantes de los sistemas de IA, impulsar estándares de transparencia y promover una alfabetización digital que enseñe a los jóvenes a cuestionar lo que leen, no solo a aceptarlo.
Porque, al final, la inteligencia artificial puede convertirse en algo más que un simple reflejo de la sociedad. Bien diseñada, también podría ayudarnos a detectar desigualdades que llevamos tanto tiempo viendo que ya casi dejamos de notar.
La pregunta, entonces, no es solo qué aprende la IA de nosotros, sino qué tipo de sociedad queremos enseñarle.
Diario LibrePeriódico líder de República Dominicana centrado en las noticias generales y el periodismo innovador.