Un ingeniero de Google dice que la IA se ha vuelto inteligente. ¿Qué significa eso realmente?

¿La inteligencia artificial finalmente ha cobrado vida, o simplemente se ha vuelto lo suficientemente inteligente como para engañarnos haciéndonos creer que ha ganado conciencia?

ingeniero de google La reciente afirmación de Blake Lemoine de que la tecnología de inteligencia artificial de la compañía se ha vuelto inteligente ha provocado un debate en los círculos de tecnología, ética y filosofía sobre si la IA podría cobrar vida o cuándo, así como preguntas más profundas sobre lo que significa estar vivo.

Lemoine había pasado meses probando el generador de chatbot de Google, conocido como LaMDA (abreviatura de Language Model for Dialogue Applications), y se convenció de que había cobrado vida propia, mientras LaMDA hablaba sobre sus necesidades, ideas, miedos y derechos.

Google desestimó la opinión de Lemoine de que LaMDA se había vuelto consciente, y lo colocó en una licencia administrativa paga a principios de este mes, días antes de que sus reclamos fueran confirmados. publicado por The Washington Post.

La mayoría de los expertos creen que es poco probable que LaMDA o cualquier otra IA esté cerca de la conciencia, aunque no descartan la posibilidad de que la tecnología pueda llegar allí en el futuro.

“Mi opinión es que [Lemoine] fue engañado por una ilusión”, Gary Marcus, un científico cognitivo y autor de Reinicio de la IAle dijo a CBC Quemador delantero pódcast.

Quemador delantero26:15¿Google hizo IA consciente?

“Nuestros cerebros no están realmente construidos para comprender la diferencia entre una computadora que finge inteligencia y una computadora que en realidad es inteligente, y una computadora que finge inteligencia puede parecer más humana de lo que realmente es”.

Los informáticos describen que LaMDA funciona como la función de autocompletar de un teléfono inteligente, aunque a una escala mucho mayor. Al igual que otros modelos de lenguaje extenso, LaMDA se entrenó con cantidades masivas de datos de texto para detectar patrones y predecir lo que podría suceder a continuación en una secuencia, como en una conversación con un ser humano.

Un ingeniero de Google dice que la IA se ha vuelto inteligente. ¿Qué significa eso realmente?
El científico cognitivo y autor Gary Marcus, fotografiado durante un discurso en Dublín, Irlanda, en 2014, dice que LaMDA parece haber engañado a un ingeniero de Google haciéndole creer que estaba consciente. (Ramsey Cardy/Sportsfile/Getty Images)

“Si tu teléfono completa automáticamente un texto, de repente no piensas que es consciente de sí mismo y de lo que significa estar vivo. Simplemente piensas, bueno, esa era exactamente la palabra en la que estaba pensando”, dijo Carl Zimmer, científico. columnista del New York Times y autor de Life’s Edge: la búsqueda de lo que significa estar vivo.

Humanizando robots

Lemoine, quien también es ordenado sacerdote cristiano místico, dijo por cable se convenció del estatus de LaMDA como “persona” por su nivel de autoconciencia, la forma en que hablaba sobre sus necesidades y su miedo a la muerte si Google lo eliminaba.

Insiste en que no fue engañado por un robot inteligente, como han sugerido algunos científicos. Lemoine mantiene su posición, e incluso pareció sugerir que Google había esclavizado al sistema de IA.

“Cada persona es libre de llegar a su propia comprensión individual de lo que significa la palabra ‘persona’ y cómo esa palabra se relaciona con el significado de términos como ‘esclavitud'”, escribió. en una publicación en Medium el miércoles.

Marcus cree que Lemoine es el último de una larga lista de humanos en enamorarse de lo que los informáticos llaman “el efecto ELIZAllamado así por un programa de computadora de la década de 1960 que chateaba al estilo de un terapeuta. Las respuestas simplistas como “Cuéntame más sobre eso” convencieron a los usuarios de que estaban teniendo una conversación real.

“Eso fue en 1965, y aquí estamos en 2022, y es más o menos lo mismo”, dijo Marcus.

Los científicos que hablaron con CBC News señalaron el deseo de los humanos de antropomorfizar objetos y criaturas, percibiendo características similares a las humanas que realmente no existen.

“Si ves una casa que tiene una grieta rara, ventanas y parece una sonrisa, dices: ‘Oh, la casa está feliz’, ¿sabes? Hacemos este tipo de cosas todo el tiempo”. dijo Karina Vold, profesora asistente en el Instituto de Historia y Filosofía de la Ciencia y la Tecnología de la Universidad de Toronto.

“Creo que lo que sucede a menudo en estos casos es este tipo de antropomorfismo, en el que tenemos un sistema que nos dice ‘soy consciente’ y dice palabras que hacen que suene como si fuera consciente; es muy fácil para nosotros querer aferrarse a eso”.

Un ingeniero de Google dice que la IA se ha vuelto inteligente. ¿Qué significa eso realmente?
Karina Vold, profesora asistente de filosofía en la Universidad de Toronto, espera que el debate sobre la conciencia y los derechos de la IA provoque un replanteamiento de cómo los humanos tratan a otras especies que se sabe que son conscientes. (Universidad de Toronto)

Los humanos ya han comenzado a considerar qué derechos legales debería tener la IAincluso si merece derechos de personalidad.

“Vamos a entrar rápidamente en el ámbito en el que la gente cree que estos sistemas merecen derechos, ya sea que estén o no haciendo internamente lo que la gente cree que está haciendo. Y creo que ese será un movimiento muy fuerte”. dijo Kate Darling, experta en ética de robots en el Laboratorio de Medios del Instituto Tecnológico de Massachusetts.

Definición de conciencia

Dado que la IA es tan buena para decirnos lo que queremos escuchar, ¿cómo podrán los humanos saber si realmente ha cobrado vida?

Eso en sí mismo es un tema de debate. Los expertos aún tienen que presentar una prueba de conciencia de IA, o llegar a un consenso sobre lo que significa ser consciente.

Pregúntale a un filósofo y probablemente te hablará sobre la “conciencia fenomenal”, la experiencia subjetiva de ser tú.

“Cada vez que estás despierto… Se siente de cierta manera. Estás pasando por algún tipo de experiencia… Cuando pateo una piedra por la calle, no creo que haya nada [that it feels] gusta ser esa roca”, dijo Vold.

Por ahora, la IA se ve más como esa roca, y es difícil imaginar que su voz incorpórea sea capaz de tener sentimientos positivos o negativos, como los filósofos creen que requiere la “sensibilidad”.

Un ingeniero de Google dice que la IA se ha vuelto inteligente. ¿Qué significa eso realmente?
Carl Zimmer, autor y columnista científico del New York Times, dice que los científicos y filósofos se han esforzado por definir la conciencia. (Facebook/Carl Zimmer)

Tal vez la conciencia no se pueda programar en absoluto, dice Zimmer.

“Es posible, teóricamente, que la conciencia sea simplemente algo que emerge de un tipo de materia evolucionada física particular. [Computers] están justo en el exterior del borde de la vida, tal vez”.

Otros piensan que los humanos nunca pueden estar realmente seguros de si la IA ha desarrollado la conciencia, y no ven mucho sentido en intentarlo.

“La conciencia puede variar [from] cualquier cosa, desde sentir dolor cuando pisas una tachuela [to] ver un campo verde brillante como rojo, ese es el tipo de cosas en las que nunca podemos saber si una computadora es consciente en ese sentido, por lo que sugiero simplemente olvidar la conciencia”, dijo Steven Pinker, científico cognitivo de Harvard.

“Deberíamos apuntar más alto que duplicar la inteligencia humana, de todos modos. Deberíamos construir dispositivos que hagan las cosas que deben hacerse”.

Un ingeniero de Google dice que la IA se ha vuelto inteligente. ¿Qué significa eso realmente?
El psicólogo cognitivo de Harvard Steven Pinker, visto aquí en Nueva York en 2018, dice que los humanos probablemente nunca podrán saber con seguridad si la IA ha alcanzado la conciencia. (Brad Barket/Getty Images para Ozy Media)

Esas cosas, dice Pinker, incluyen ocupaciones peligrosas y aburridas, y tareas del hogar, desde la limpieza hasta el cuidado de los niños.

Repensar el papel de la IA

A pesar de los avances masivos de la IA durante la última década, la tecnología aún carece de otro componente clave que define a los humanos: el sentido común.

“No es eso [computer scientists] Creo que la conciencia es una pérdida de tiempo, pero no la vemos como algo central”, dijo Héctor Levesque, profesor emérito de informática en la Universidad de Toronto.

“Lo que sí vemos como central es lograr que una máquina sea capaz de usar el conocimiento ordinario y de sentido común, ya sabes, el tipo de cosas que esperarías que supiera un niño de 10 años”.

Levesque da el ejemplo de un automóvil autónomo: puede permanecer en su carril, detenerse en un semáforo en rojo y ayudar a un conductor a evitar choques, pero cuando se enfrenta a un cierre de carretera, se queda allí sentado sin hacer nada.

“Ahí es donde entraría el sentido común. [It] tendría que pensar, bueno, ¿por qué estoy conduciendo en primer lugar? ¿Estoy tratando de llegar a un lugar en particular?” dijo Levesque.

Un ingeniero de Google dice que la IA se ha vuelto inteligente. ¿Qué significa eso realmente?
Algunos científicos informáticos dicen que el sentido común, no la conciencia, debería ser la prioridad en el desarrollo de la IA, para garantizar que la tecnología, como los automóviles autónomos, pueda resolver problemas de manera proactiva. Este automóvil autónomo se muestra durante una demostración en Moscú el 16 de agosto de 2019. (Evgenia Novozhenina/Reuters)

Mientras la humanidad espera que la IA aprenda más inteligencia callejera, y quizás algún día tome vida propia, los científicos esperan que el debate sobre la conciencia y los derechos se extienda más allá de la tecnología a otras especies conocidas por pensar y sentir por sí mismas.

“Si pensamos que la conciencia es importante, probablemente sea porque nos preocupa que estemos construyendo algún tipo de sistema que vive una vida de miseria o sufrimiento de alguna manera que no estamos reconociendo”, dijo Vold.

“Si eso es realmente lo que nos motiva, entonces creo que debemos reflexionar sobre las otras especies en nuestro sistema natural y ver qué tipo de sufrimiento les podemos estar causando. No hay razón para priorizar la IA sobre otras especies biológicas que conocemos”. tienen un caso mucho más fuerte de ser conscientes”.