Una de las máximas en el uso de la IA Generativa es que no debemos publicar nunca sus resultados sin antes revisarlos, puesto que siempre estamos expuestos a las famosas, pese a que indeseadas, alucinaciones.
Estas consisten en que el modelo es capaz de mentirnos, inventarse sucesos para narrarlos como si fueran verdaderos, para responder a nuestras preguntas, aunque si los detectamos y le preguntamos por ello, acaba reconociendo su error. Los científicos desconocen el porqué exactamente de este fenómeno, que puede ser minimizado mediante la correcta redacción del prompt.
Hay algunos casos de uso incorrecto de la IA que han arrojado como resultado, alucinaciones y errores que no se han detectado debido a una falta de revisión, cómo, por ejemplo, el de un abogado estadounidense sancionado por haber utilizado ChatGPT para trabajar su caso, con el resultado de citaciones en sus argumentaciones a casos inexistentes, o bien el de un periodista que firmó un artículo realmente redactado por una IA, que incluyó una serie de citas de personas que, en realidad, no fueron entrevistadas para dicho reportaje, con lo que las citas eran totalmente falsas, inventadas.
Ahora, quienes han incurrido en el gran error de no revisar los contenidos que ha generado la IA, son los responsables de una campaña institucional en Francia para celebrar el Día de la Resistencia, una jornada establecida en 2013 para celebrar la primera reunión del Consejo Nacional de la Resistencia el 27 de mayo de 1943.
En este caso, los responsables gubernamentales de organizar la festividad, utilizaron un modelo de lenguaje para crear un vídeo breve (de 30 segundos de duración) que mostraba una versión POV (point of view) de una miembro de la resistencia, que empezaba repartiendo pasquines, seguía siendo capturada y torturada por las fuerzas de ocupación germanas y, finalmente, la veíamos celebrar la liberación de Francia.
Y es precisamente en ese mismo momento que, en el fondo y como personaje secundario, podemos ver en el vídeo a un soldado que también lo celebra. Pero no es un soldado francés, ni siquiera aliado. Es un soldado alemán, fácilmente distinguible por el tono verde de su uniforme y por su icónico casco, tal vez una de las enseñas más emblemáticas y distinguibles de la Wehrmacht, incluso por un público no aficionado a la historia militar de ese periodo y conflicto.
En su breve aparición, la actitud del soldado es la de celebración, cómo uno más, de la alegría de los parisinos. Si bien al final de la guerra, muchos soldados y oficiales de los ejércitos del eje dejaron de lado sus uniformes e intentaron escabullirse de las fuerzas aliadas en ropa civil, es evidente que el caso que explicamos no pudo darse de ninguna manera.
El vídeo fue publicado por las autoridades galas en TikTok, pero retirado posteriormente debido a la polémica suscitada.
La lección que nos deja este caso es la misma que los anteriormente citados: la inteligencia artificial generativa es útil para desarrollar o tratar determinados temas, pero hay que tenerla en la misma consideración que un becario que acaba de empezar su formación y, por lo tanto, a quien se le tienen que repasar todos los trabajos.
