En un contexto donde la inteligencia artificial interviene de forma creciente en decisiones cotidianas, como la concesión de un crédito, la selección de personal o la atención sanitaria, los ciudadanos se enfrentan al reto de comprender y exigir transparencia sobre cómo y por qué estas tecnologías influyen en sus vidas. Esta toma de conciencia resulta esencial para fortalecer la gobernanza de la IA, ya que solo una ciudadanía informada y activa puede impulsar el uso responsable, ético y justo de estas herramientas en la sociedad.
Bajo este paradigma, y en el marco de la Semana de la Ciencia y la Innovación, que tuvo lugar en las recientes fechas, expertos de Modulos, compañía tecnológica especializada en gobernanza de la inteligencia artificial y en la cuantificación de riesgos, reflexionan sobre cómo la gobernanza de la IA no es solo una cuestión técnica o regulatoria, sino un derecho ciudadano.
Gobernanza de la IA: de la regulación al empoderamiento
La Gobernanza de la IA debe entenderse como una herramienta de participación ciudadana. Las normativas vigentes, como el EU AI Act o la ISO 42001, no solo buscan establecer requisitos sobre el desarrollo y la comercialización de productos de IA, sino informar y formar a la sociedad sobre cómo pueden asegurar que el desarrollo de IA respete sus derechos fundamentales y aporte beneficios a la sociedad.
Garantizar que las personas comprendan los criterios detrás de las decisiones automatizadas, que sepan que pueden solicitar una revisión humana y que cuenten con salvaguardas frente a vulneraciones de derechos, son aspectos esenciales para equilibrar la relación entre la sociedad y tecnología. Así, se fomentará una cultura de transparencia y confianza, donde la ciudadanía ha de participar activamente en la supervisión y uso de la IA.
En palabras de Elena Maran, Chief AI Risk Officer en Modulos, "la ciudadanía no debe temer a la IA, sino exigir el mismo nivel de responsabilidad que pediría a cualquier producto o servicio que impacte en su vida. Esta exigencia informada es el primer paso hacia una sociedad empoderada, crítica y tecnológicamente madura".
Las empresas ante el espejo: gobernanza de IA como ventaja competitiva
En paralelo, este planteamiento también redefine el papel de las organizaciones. La gobernanza de la IA ya no puede verse como un coste regulatorio, sino como un valor estratégico que impacta directamente en la reputación e implica una ventaja competitiva.
Por un lado, las compañías tienen la responsabilidad de ser transparentes sobre el uso de los límites de la IA, incluido informar a la ciudadanía de la existencia de riesgos y las medidas que se han tomado para reducirlos.
En este sentido, las empresas que se tomen tiempo para informar, formar y dialogar con sus usuarios sobre cómo funciona su IA, generarán un vínculo de corresponsabilidad y confianza que favorecerá la preferencia de marca.
Por otro lado, la gobernanza de la IA se convierte en un criterio ESG emergente, que conecta directamente con los objetivos de sostenibilidad, ética y responsabilidad corporativa. Su correcta implementación permitirá a las organizaciones garantizar un uso responsable y transparente de la tecnología, alineando la innovación con los valores medioambientales, sociales y de buen gobierno. De esta manera, las compañías reducen los riesgos legales y reputacionales, sientan las bases para un desarrollo sostenible a largo plazo y se hacen más atractivas a ojos de posibles inversores.
Cuando empresa, ciudadano y mercado alinean incentivos.
En este contexto, el rol de Modulos es clave para captar la atención de ejecutivos del C-level sobre la importancia de la gobernanza de IA, creando los incentivos adecuados. Modulos permite a las organizaciones cuantificar los riesgos de la IA en términos económicos, identificando qué procesos presentan vulnerabilidades, cuál es su impacto financiero y donde deben priorizarse los recursos. Así, los ejecutivos pueden respaldar inversiones estratégicas en la minimización de riesgos de IA que impactan tanto a la organización como a la sociedad.
De esta forma, se crea un ciclo virtuoso donde las empresas implementan una gobernanza eficiente, los ciudadanos refuerzan este incentivo exigiendo transparencia, seguridad y respeto de sus derechos, y los mercados financieros premian a las empresas con buena gobernanza mediante mejores valoraciones ESG.
En conclusión, Maran afirma que "ciudadanía y empresas avanzan de la mano hacia una inteligencia artificial más ética y sostenible. Una población informada puede exigir estándares más altos y preferir compañías comprometidas con la gobernanza responsable, mientras que las organizaciones encuentran en esa exigencia social un incentivo real para mejorar sus prácticas. De este modo, la confianza mutua se consolida como la base de un ecosistema en el que la tecnología sirve al progreso colectivo".
