Actualizado el 22/02/2024

icon Facebook icon Twiiter icon RSS icon EMAIL
  1. Portada
  2. >
  3. Noticias
  4. >
  5. Startup pretende acabar con las alucinaciones de los modelos de IA

Startup pretende acabar con las alucinaciones de los modelos de IA

Escrito por Guillem Alsina el 19/09/2023 a las 17:30:36
332

Todos aquellos que, como yo, hayan utilizado ChatGPT, Google Bard, u otros chatbots basados en grandes modelos de lenguaje (LLM, por sus siglas en inglés), habrán sufrido en un momento u otro las indeseadas “alucinaciones”, que es cuando la respuesta incluye datos completamente falsos.


La primera vez me ocurrió cuando estaba buscando informaciones sobre las molestias que las discotecas situadas en ámbitos urbanos provocan entre los vecinos de la zona, e iniciativas que estos han llevado a cabo para cerrar los locales. Concretamente, fue ChatGPT quien se inventó una, que no resistió a la búsqueda a través de Google. Posteriormente, y de forma más reciente, al tener que redactar un artículo basándome en cinco crónicas muy largas, le solicité al mismo ChatGPT que me resumiera las crónicas y seleccionara la información más importante, dándome un esquema para un artículo priorizando los principales temas tratados en el congreso que resumía. Más de la mitad del artículo tuvo que acabar en la papelera por contener información falsa.


Las alucinaciones son el principal problema de uso actualmente de estos modelos de lenguaje, uno que dificulta su adopción entre las empresas, ya que requiere de contrastar bien los datos que arroja el modelo antes de incorporar cualquier información a documentos o publicaciones.


Y una también que la startup Gleen AI afirma poder eliminar mediante la adición de una capa de software intermedia que deberán implementar las empresas que se dediquen al entreno y configuración de grandes modelos de lenguaje para aplicaciones de IA generativa.


La ubicación de dicha capa de software se realiza entre el usuario y el modelo generativo, y su tarea es la de asegurarse que las respuestas son precisas. Para ello, dispone de capacidad de aprendizaje automático (machine learning).


Pensada para su empleo, especialmente, en aplicaciones de IA para soporte y respuesta al cliente en empresas, es independiente del modelo de lenguaje escogido, y analiza los datos de la empresa para convertirlos en una base de datos vectorial, lo que mejora la calidad de las respuestas que brinda el modelo utilizado.


La solución de Gleen también incluye la agregación de conocimientos estructurados y no estructurados, curación y extracción de hechos clave, construcción de un gráfico de conocimientos y verificación de respuestas del modelo contra hechos curados.


Para proseguir su tarea, Gleen AI está buscando financiación y, recientemente, consiguieron reunir 4,9 millones de dólares procedentes de diversos inversores, según informan desde VentureBeat.


Debido a la importancia de la problemática de las alucinaciones en los modelos de lenguaje para aplicaciones de IA, no es descartable que otras empresas estén trabajando en el mismo sentido, y tampoco que las grandes compañías como OpenAI, Google y Meta, estén también desarrollando soluciones con la finalidad de combatir este mal que, por el momento, es endémico de todos los grandes modelos de lenguaje.