Actualizado el 22/02/2024

icon Facebook icon Twiiter icon RSS icon EMAIL
  1. Portada
  2. >
  3. Noticias
  4. >
  5. El gobierno chino quiere que los chatbots sigan la filosofía del partido

El gobierno chino quiere que los chatbots sigan la filosofía del partido

Escrito por Guillem Alsina el 23/05/2023 a las 18:08:29
699

Según informa el New York Times, la Administración China del Ciberespacio presentaba, este pasado mes de abril, un borrador de su futura normativa para regular la inteligencia artificial generativa, que se ha hecho popularmente conocida a lo largo de los últimos meses gracias a sistemas como Dall·E o Stable Diffusion para imágenes y, sobretodo, ChatGPT para texto.


Según se desprende del borrador de dicha futura ley, las empresas encargadas de este tipo de sistemas de IA generativa deberán regir los contenidos generados según las reglas de censura impuestas por el partido comunista.


Esto significa que dichos sistemas deberán reflejar la visión del partido y del estado (que, a la práctica, es la misma) sobre temas tan espinosos como el del Tíbet, ya que no podrán poner en duda la unidad del país, y evitar criticar a los líderes nacionales.


Además, dichos contenidos generados estarán también sujetos a un sesgo ideológico importante, puesto que deberán “reflejar los valores fundamentales socialistas".


Las empresas también tendrán que asegurarse de que sus chatbots creen textos e imágenes verídicas, y respeten la propiedad intelectual, además de estar obligadas a registrar los algoritmos que emplean.


Si bien esta normativa se ha presentado como borrador, es de esperar que el redactado definitivo no diferirá excesivamente del que podemos ver ahora y, según las fuentes citadas por el New York Times, los desarrolladores de sistemas de IA chinos ya están trabajando para incorporar las nuevas reglas a sus motores.


El principal problema para su implantación es que, a nivel técnico e incluso por parte de los mismos científicos y empresas que implementan los chatbots, se hace muy difícil, sino imposible, controlar las respuestas que estos dan a preguntas que pueden ser muy abiertas.


Incluso el mismo ChatGPT proporciona, no pocas veces, respuestas falsas, lo que ha llevado a utilizar el término alucinar para referirse a estas respuestas que el mismo chatbot presenta como verdaderas pero, en realidad, son falsas.


Con estas “alucinaciones” impredecibles, se hace muy complicado poder controlar con exactitud qué es lo que el chatbot responde y, por lo tanto, que tenga en cuenta reglas de autocensura de forma fidedigna.


No obstante, el mismo ChatGPT evita respuestas concretas que constituyan un posicionamiento sobre temas espinosos, lo que lleva a pensar que, finalmente, será posible introducir de alguna forma el control de los contenidos generados.


China es una pujante potencia tecnológica que busca competir, en diversos campos, con los Estados Unidos, y el de la IA es uno de estos. Dado el gran éxito de la IA generativa, el gobierno del gigante asiático no quiere que esta escape a su control, por lo demás, férreo en todos los aspectos de las aplicaciones y los contenidos que se publican en Internet.


En la mayoría de los países del mundo, todavía se está estudiando cómo regular la IA generativa pero, evidentemente, en una dictadura, estas cuestiones de legislación son más “fáciles”.