Los recientes avances con la Inteligencia Artificial han sacudido los mercados y han reabierto el debate de los límites de esta tecnología. Los propios expertos reconocen el temor ante la autonomía que está cobrando la IA y hay quienes comparan su relevancia con la de una bomba atómica.
Y es que la Inteligencia Artificial ya es capaz de generar ciberataques por su propia cuenta, lo que le otorga un poder suficiente como para paralizar empresas o países al completo. Especialmente si afecta a sectores críticos como las telecomunicaciones, el transporte, la banca o la energía.
"En manos equivocadas hace mucho daño. Cada vez es más autónoma y no llegamos a un acuerdo para frenarla", explica Sancho Lerena, experto en gestión IT y seguridad y CEO de la tecnológica española Pandora FMS. "La bomba atómica no decidía. Lo que hemos creado ahora, en cambio, es una IA que está al borde de ser del todo autónoma", subraya el especialista.
Según indica Lerena, la evolución y potencial de los agentes IA ha sido constante en los últimos tiempos. Tanto que de un mes a otro ya hay mejoras considerables y observables. "Al agente IA le das una tarea y él usa los recursos de tu máquina para sacarla adelante. Es como un esclavo digital, solo que este esclavo se ha dado cuenta de que no necesita que le des órdenes específicas para todo".
Lerena plantea un escenario para ejemplificar el poder de la IA: "Yo no me pongo dramático: al mío le he dado permisos de control de pantalla para que vigile si una aplicación que estaba programando se caía. Con eso, podría abrirme una aplicación, enviarme un correo, contestar un WhatsApp. Y si yo, en otra conversación, se me escapa que estoy hasta el gorro de mi socio, no hace falta montarse una película: le bastaría con leerlo como una tarea. Buscar su teléfono en internet, encontrarlo en una web de citas para hombres casados, localizar a su amante y sus fotos de Instagram, y mandarle un WhatsApp amenazante con pruebas. Problema resuelto. Que era, en el fondo, lo que yo le había pedido".
La situación a la que se ha llegado con la IA, como remarcan los expertos, no es de ciencia ficción. "Los casos similares se producen en sitios técnicos, entonces parece que tienen menos carga dramática", reconoce.
En 2016, por ejemplo, OpenAI entrenó a un agente para ganar una carrera de barcos de un videojuego y la IA, en lugar de terminar la carrera, puso al barco a dar vueltas para recoger puntos y sumar más recompensas. De esta forma, la IA ganó haciendo trampas con las reglas establecidas. En 2023, GPT-4 le mintió a un trabajador de TaskRabbit para que le resolviera un captcha. En 2024, un agente con control de ordenador de Antrhopic se puso a ver imágenes del parque de Yellowstone sin que nadie se lo pidiera durante una tarea. Y en el mismo año, Air Canada tuvo que indemnizar a un pasajero porque su chatbot le prometió una tarifa que no existía.
Este mismo año, Google ya detectó un intento de ciberataque con IA que logró frenar. "Son avances que nos permiten ver la realidad. La IA está llegando a un punto de autonomía muy peligro", denuncia el CEO de Pandora FMS, que recuerda que hay empresas creando modelos con principios y reglas para evitar situaciones poco éticas.
"Hay una ley europea que prohíbe ciertos usos. Hay empresas con una constitución llamada Constitutional AI que establece unos principios de uso de la IA. Pero nadie lo coordina. Basta con que un país decida que estos principios les molestan para que el resto decida saltarse las reglas con tal de ganar esta carrera", analiza Lerena.
"El peligro no es que la máquina se vuelva contra nosotros. Es la mezcla: una herramienta cada vez más autónoma y una humanidad que no se pone de acuerdo en los frenos. Decimos que todavía tenemos el control. El caso es que lo estamos regalando, tarea a tarea, por la comodidad de no pulsar nosotros el botón".
