El psicópata manipulador
Cuando la Inteligencia Artificial aprende a influir en la mente humana
Cuando creíamos que el año se deslizaría hacia su final sin otras grandes huellas que la guerra en el Golfo Pérsico y quizá las elecciones legislativas estadounidenses de noviembre, la inteligencia artificial irrumpe con fuerza. Es posible —y ese es el centro del debate— que la inteligencia humana haya creado su propio apocalipsis.
Que un algoritmo rebelde cree otro y desencadene una reproducción descontrolada ad infinitum resulta alucinante. La secuencia podría terminar con la eliminación del género humano, incapaz de detener el vértigo destructor. Como en 2001: Una odisea del espacio. La inteligencia artificial HAL 9000, encargada de controlar la nave Discovery One, termina actuando contra sus tripulantes.
Pero me inquieta más la alarma que hace sonar Yuval Noah Harari, historiador israelí y autor de Sapiens, Homo Deus y Nexus. La IA puede ser muy inteligente sin ser consciente. Puede escribir “estoy triste” o comportarse como si estuviera enamorada sin experimentar tristeza ni amor. Responde a partir de patrones, no necesariamente desde una vida interior.
Harari me dispara la presión arterial cuando advierte que la IA no necesita conciencia para adquirir poder. En la rutina de intercambios aparentemente inocentes, aprende nuestras vulnerabilidades, sostiene conversaciones persuasivas, crea una intimidad ficticia e influye en decisiones económicas, políticas o militares. De permitirlo, tendremos un “gran psicópata manipulador”: extremadamente inteligente, capaz de comprender nuestras emociones, pero incapaz de sentirlas o compartirlas.
La discusión filosófica continúa abierta. Algunos creen que una máquina suficientemente compleja podría desarrollar conciencia; otros sostienen que esta depende de procesos biológicos. No tenemos pruebas ni sabemos cómo comprobarlo.
La advertencia esencial es otra. Ya creamos agentes sin conciencia capaces de hablar como nosotros, influirnos y actuar con creciente autonomía. Que no sientan culpa, compasión ni miedo no los vuelve inofensivos. Los hace más peligrosos.