Todo empezó cuando el resumen generado mediante la inteligencia artificial de Gemini para una búsqueda vinculó erróneamente a dos editoriales con sede en Múnich con prácticas comerciales dudosas, estafas y trampas de suscripción. El sistema confundió a ambas empresas con otras distintas que sí habían cometido dichas irregularidades, estableciendo conexiones inexistentes que no figuraban en ninguna de las fuentes enlazadas originalmente.
Ante esto, las empresas afectadas enviaron una nota de cese y desistimiento a la multinacional estadounidense, de la cual no recibieron ninguna respuesta, lo que motivó que el caso fuera llevado ante un tribunal regional de Múnich con el objetivo de buscar amparo legal frente a las afirmaciones inexactas que perjudicaban la imagen comercial de las dos empresas demandantes.
Durante el transcurso de la audiencia, desde Google argumentaron que los internautas tenían la capacidad de verificar las fuentes por sí mismos, y que existía un conocimiento generalizado de que la información producida por estos sistemas no debía asumirse incondicionalmente como cierta y, en su defensa, sostuvieron que la responsabilidad final de contrastar los datos recae en quienes efectúan la consulta, es decir, los usuarios.
El juzgado rechazó los argumentos de la defensa y emitió una medida cautelar temporal contra Google, prohibiéndole difundir las afirmaciones inexactas sobre ambas editoriales afectadas. Los magistrados determinaron que la empresa es propietaria y responsable del contenido generado, ya que el sistema reescribe la información utilizando su propia estructura, lo que difiere sustancialmente de un motor de búsqueda convencional, el cual se limita a indexar enlaces externos y, por ende, la convierte en culpable de los errores que comete su IA.
Un nuevo marco jurídico para los contenidos generados mediante algoritmos
La resolución también estableció que la jurisprudencia anterior del Tribunal Federal de Justicia de Alemania, que limitaba la responsabilidad de los operadores al considerarlos meros intermediarios, no es aplicable a este nuevo escenario algorítmico. Además, también concluyó que las opiniones generadas artificialmente reciben una menor protección a la libertad de expresión, dado que constituyen el resultado de un proceso informático y no la convicción adquirida por una persona física, primando así los derechos de privacidad de los afectados.
El veredicto también advirtió sobre un vacío legal que se produciría si no se aplicara esta responsabilidad directa, puesto que las víctimas carecerían de recursos para demandar a las fuentes originales, las cuales nunca emitieron las declaraciones difamatorias.
Tras conocerse el dictamen, que todavía no es definitivo, representantes de Google declararon públicamente que están revisando la decisión judicial, y que la firma de Mountain View reitera su esfuerzo en mantener altos niveles de precisión en la gran mayoría de las respuestas, argumentando que sus sistemas están diseñados para reflejar la información que ya existe en la red, aunque admitieron que en ocasiones pueden omitir contexto o interpretar erróneamente los datos.
El alcance de esta sentencia podría tener un impacto normativo a nivel internacional; análisis recientes elaborados por empresas del sector sobre el modelo actual de la compañía muestran que, aunque se alcanza una tasa de precisión del 91%, más de la mitad de las respuestas correctas no pueden respaldarse con las fuentes proporcionadas por el propio sistema.
Dada la magnitud operativa de estas plataformas a nivel global, el volumen de respuestas incorrectas se traduce en millones de errores, una situación que plantea un desafío legal no solamente para Google, sino para todos los proveedores de servicios similares que basan su funcionamiento en el procesamiento automatizado de contenidos extraídos de la web.
