Actualizado el 18/07/2024

icon Facebook icon Twiiter icon RSS icon EMAIL
  1. Portada
  2. >
  3. Opiniones
  4. >
  5. Monitorización de modelos IA

Monitorización de modelos IA

Escrito por Carles Soler Puig el 14/02/2023 a las 12:09:29
1588

(CEO de EXPAI)

En 2022 hemos vivido un punto de inflexión en el campo de la Inteligencia Artificial (IA). No solo se han presentado aplicaciones espectaculares en ámbitos como los conversadores (chatGPT), la generación de imágenes a partir de texto (DALL·E 2, Midjourney) o el reconocimiento de voz (Whisper), sino que esas mismas aplicaciones han llenado páginas en la prensa generalista, de manera que todos nos hemos convencido de que estamos ante una tecnología que va a transformar nuestras vidas en un plazo muy cercano.

 

Aunque sin una proyección pública tan marcada, en 2022 también se ha acelerado el ritmo de desarrollo de proyectos basados en modelos de IA de soporte a la toma de decisiones. Dichos modelos, construidos mediante técnicas de Deep Learning, ayudan a las organizaciones a predecir el futuro más allá de la simple intuición y, por tanto, a poder tomar mejores decisiones ante preguntas como ¿este solicitante me devolverá el crédito? ¿este lunar desarrollará un tumor? ¿esta máquina tendrá una avería antes de 72 horas?

 

Más allá de su espectacular capacidad predictiva, estos modelos presentan serias limitaciones. El más conocido es el del efecto “caja negra”, es decir, el desconocimiento de su proceso de razonamiento, lo que puede implicar comportamientos subóptimos y/o que incorporen sesgos, de manera que sean injustos. Sobre este tema, este autor ya compartió un par de artículos (IAX: Inteligencia Artificial Explicable y Más allá de la IA: IA explicable) en esta misma plataforma.

 

Otra limitación es que todo modelo empieza a degradarse a partir del momento en que es puesto en operación. Esto sucede porque se ha construido a partir de los datos que existían hasta un momento dado, pero no tiene en cuenta los datos posteriores. La evolución de la realidad no se incorpora al modelo y, por tanto, poco a poco puede ir alejándose de una respuesta óptima (y no hace falta sufrir una pandemia para que el entorno varíe).

 

Para resolver los efectos de esta degradación se ha propuesto el concepto de “monitorización de modelos” (model monitoring), una técnica para seguir el comportamiento de los modelos de aprendizaje automático en producción, y así poder identificar y eliminar la reducción de su rendimiento.

 

Evidentemente no es necesario conocer los detalles específicos de las técnicas de monitorización de modelos (que además se escapan del objetivo de un artículo como este), pero sí es básico tener identificada la necesidad de que dicha técnica se convierta en un componente central de las aplicaciones de IA en producción.

 

En EXPAI (expai.io) estamos comprometidos con las necesidades del mercado para incorporar el máximo valor a nuestra solución de IA Explicable, y que nuestros clientes puedan tomar constantemente las mejores decisiones basadas en sus modelos IA.

 

Por cierto, la propuesta tecnológica de EXPAI se lanza desde el rico ecosistema emprendedor de Barcelona. Un motivo adicional de satisfacción al de disponer de soluciones que permiten sacar el máximo provecho de los modelos analíticos.