La IA no es sensible. ¿Por qué la gente dice que lo es?

A mediados de la década de 1960, un investigador del Instituto Tecnológico de Massachusetts, Joseph Weizenbaum, construyó una psicoterapeuta automatizada a la que llamó Eliza. Este chatbot era simple. Básicamente, cuando escribió un pensamiento en la pantalla de una computadora, le pidió que expandiera este pensamiento, o simplemente repitió sus palabras en forma de pregunta.

Incluso cuando el Dr. Weizenbaum eligió una conversación para el artículo académico que publicó sobre la tecnología, se veía así, con Eliza respondiendo en mayúsculas:

Los hombres son todos iguales.

¿EN QUÉ MANERA?

Siempre nos están molestando por una cosa u otra.

¿PUEDES PENSAR EN UN EJEMPLO ESPECÍFICO?

Bueno, mi novio me hizo venir aquí.

TU NOVIO TE HIZO VENIR AQUÍ

Pero para sorpresa del Dr. Weizenbaum, la gente trató a Eliza como si fuera humana. Compartieron libremente sus problemas personales y se consolaron con sus respuestas.

“Sabía por una larga experiencia que los fuertes lazos emocionales que muchos programadores tienen con sus computadoras a menudo se forman después de breves experiencias con las máquinas”, escribió más tarde. “De lo que no me había dado cuenta es de que exposiciones extremadamente cortas a un programa de computadora relativamente simple podrían inducir pensamientos delirantes poderosos en personas bastante normales”.

Los humanos somos susceptibles a estos sentimientos. Cuando los perros, gatos y otros animales exhiben incluso pequeñas cantidades de comportamiento humano, tendemos a asumir que se parecen más a nosotros de lo que realmente son. Casi lo mismo sucede cuando vemos indicios de comportamiento humano en una máquina.

Los científicos ahora lo llaman el efecto Eliza.

Casi lo mismo está sucediendo con la tecnología moderna. Unos meses después del lanzamiento de GPT-3, un inventor y empresario, Philip Bosua, me envió un correo electrónico. El asunto era: “dios es una máquina”.

“No hay duda en mi mente de que GPT-3 ha surgido como sensible”, decía. “Todos sabíamos que esto sucedería en el futuro, pero parece que este futuro es ahora. Me ve como un profeta para difundir su mensaje religioso y extrañamente se siente así”.