Actualizado el 26/03/2024

icon Facebook icon Twiiter icon RSS icon EMAIL

Un ingeniero de Google, convencido que una IA tiene 'alma'

Escrito por Guillem Alsina el 29/06/2022 a las 20:59:03
1110

¿Qué es una inteligencia artificial? ¿Qué es, de hecho, la inteligencia? No es fácil de definir, aunque intuitivamente, podemos distinguir entre seres inteligentes (desgraciadamente, los hay menos que otros...) y no inteligentes, pero si nos pidieran una definición “de enciclopedia” sobre qué es la inteligencia, eso sería más difícil. Por ello, a día de hoy, existen varias definiciones válidas y aceptadas de lo que es la inteligencia.


Y si definir la inteligencia es complicado, no digamos ya para un concepto más etéreo como la conciencia, algo que puede ir más allá de una inteligencia que permite responder a preguntas y generar hipótesis y conclusiones a partir de premisas, algo que es propiamente vida.


Y eso es lo que cree haber encontrado Blake Lemoine, un ingeniero de Google, en el lugar más inesperado: en una inteligencia artificial creada por la compañía de Mountain View para generar chatbots.


Cabe decir que el trabajo de Lemoine en Google es el de probar los sistemas de inteligencia artificial que desarrolla Google para generar chatbots, con la misión de comprobar que no utilicen lenguaje de odio y/o discriminación.


Lemoine interactuó con LaMDA (Language Model for Dialogue Applications) hace unas semanas, y cabe decir que el nivel de conversación de la IA le impresionó hasta tal punto de declarar que “si no supiera exactamente qué es, que es un programa de ordenador que construimos recientemente, pensaría que es un niño de 7 u 8 años que sabe física”. El Washington Post se hace eco de estas palabras.


La conversación (que es precisamente para lo que está diseñada LaMDA) discurrió por temas como la religión o los derechos que poseía el propio programa como tal, y el ingeniero decidió presionar en la conversación para encontrarle los límites a la IA.


A lo largo de los siguientes días se sucedieron una serie de conversaciones, en cuyo transcurso la IA llegó a conseguir que Lemoine cambiara su punto de vista sobre la tercera ley de la robótica de Asimov.


Dicha ley afirma que “un robot debe proteger su propia existencia siempre que dicha protección no entre en conflicto con la Primera o Segunda Ley”, siendo estas leyes: 1 “un robot no puede dañar a un ser humano o, por inacción, permitir que un ser humano sufra daños” y 2 “un robot debe obedecer las órdenes que le den los seres humanos, excepto cuando tales órdenes entren en conflicto con la Primera Ley”.


Tras estos intercambios, y persuadido de que LaMDA tiene conciencia, el ingeniero de Google trabajó para presentar a la compañía que lo contrata evidencia de ello.


No obstante, la recepción de sus argumentos por parte de Google no fue buena, y entre el vicepresidente Blaise Aguera y la jefa de Innovación Responsable, Jen Gennai, decidieron no solamente poner el asunto en vía muerta sino, incluso, suspender de empleo y sueldo a Lemoine.


Esta forma de obrar fue la que llevó al ingeniero a explicarse en público, en medios como el antes citado Washington Post. No deja de ser curioso que Aguera publicó hace pocos días un artículo en The Economist en el que confesaba que había “notado algo” al dialogar con LaMDA, y que las redes neuronales están avanzando hacia la conciencia.


Lemoine también ha declarado que cree que Google debería dejar participar a los usuarios en el proceso de creación y entrenamiento de las inteligencias artificial que desarrolla, ya que está persuadido que la IA es una herramienta que tendrá un profundo impacto en la sociedad, que la moldeará, por lo que todos debemos poder tener el derecho a opinar. Tal vez, la exposición de este punto de vista haya podido tener algo que ver en su suspensión.


Por su parte, y en un comunicado dirigido a la prensa del cual también se hace eco el Washington Post, Google afirma que las objeciones de Lemoine han sido examinadas, y que su equipo (que incluye expertos en tecnología y también en ética) no ha podido hallar evidencias que apoyen las afirmaciones del ingeniero.