Google ofrece una visión siniestra del futuro de los robots

Las máquinas que son capaces de engañar a los humanos, haciéndoles creer que son personas suscitan obvias preocupaciones éticas

Siempre se puede confiar en que Google arruine una demostración perfectamente inofensiva de lo último en inteligencia artificial al ofrecer accidentalmente una visión de un futuro distópico de los robots.

Todo sucedió esta semana en la conferencia anual de desarrolladores de la compañía del motor de búsqueda, una reunión al aire libre a la que asistieron 7,000 personas y que parecía una mezcla entre una reunión de avivamiento religioso y un festival de verano de California.

En una de las demostraciones de la compañía, un robot con voz humana hizo una llamada telefónica para reservar una mesa en un restaurante, y mantuvo una conversación prolongada sin que la persona del otro lado de la línea se diera cuenta de que estaba hablando con una máquina. Era como si tu agenda hubiera desarrollado una personalidad propia y salido al mundo para organizar tu vida.

Esto provocó el tipo de pensamientos incómodos sobre la IA que otras demostraciones de Google habían logrado evitar. Las máquinas que pretenden ser humanas siempre han provocado un factor “escalofriante”, bien conocido en los círculos de la robótica. ¿Qué sucede cuando el robot logra interactuar con los humanos en sus propios términos?

Las máquinas que son capaces de engañar a los humanos haciéndoles creer que son personas suscitan obvias preocupaciones éticas La IA que debilita el sentido de lo que es real promete acelerar la llegada del mundo de la posverdad. Seguramente una voz de computadora que puede engañarte para entablar una conversación está destinada a convertirse en la llamada automática del infierno.

La demostración de Google — de una tecnología que llama Duplex —subrayó dos puntos sobre el diseño de estas interacciones más “naturalistas” entre humanos y robots. Uno es que es importante que las personas sepan cuándo están tratando con una máquina.

Además de las evidentes preocupaciones éticas, hay razones muy prácticas para esto. Los actuales sistemas de aprendizaje automático a menudo parecen mágicos, pero también son frágiles: pueden fallar repentina e inesperadamente, por lo que a una persona que interactúa con un robot le serviría estar preparada.

Esto no sólo se aplica a los sistemas de lenguaje. Drive.ai, una empresa “startup” de coches sin conductor que inició un servicio de pasajeros de prueba en Texas esta semana, ha hecho todo lo posible para que sus coches se distingan de los otros coches en las calles. Están pintados de color naranja brillante, y en una pantalla que llevan al frente se les explican a los peatones las intenciones del automóvil, con mensajes como: “Estoy esperando que cruces”. La gente necesita saber que están tratando con un robot.

Un segundo mensaje es que a veces es mejor esconder la inteligencia en un segundo plano y usarla para hacer que las personas sean más inteligentes, en lugar de permitir que se inmiscuya directamente en las interacciones que deberían dejárseles a los humanos.

Algunas de las mismas tecnologías detrás del interlocutor robótico de Google — como el reconocimiento de voz, que identifica las palabras que se dicen, y la comprensión del lenguaje natural, la cual intenta derivar el significado del hablante — se utilizan en los sistemas de IA de voz integrados en el software corporativo.

Por ejemplo, TalkIQ utiliza estas tecnologías para escuchar las llamadas telefónicas realizadas por vendedores y representantes de servicio al cliente. El software hace sugerencias sobre cómo los humanos pueden mejorar su desempeño u ofrece información que podría ser útil durante una llamada con un cliente.

Pero ¿en qué momento desaparecerá la voluntad humana y las máquinas se harán cargo? Y cuando eso suceda, ¿por qué no pasar tan rápidamente como sea posible a una negociación completa de computadora a computadora?

Esto muestra cuán difícil será evitar situaciones incómodas conforme las inteligencias de los humanos y las máquinas comiencen a superponerse. Como muestra Google Duplex, las tecnologías ya están aquí y las compañías que se beneficiarán de ellas no pueden evitar ponerlas en uso. Pero deberán evitar el factor “escalofriante”.

Financial Times