Los vídeos generados por inteligencias artificiales para su publicación en las redes sociales a lo largo de los meses que llevamos de 2023, ya han superado en un 130% a los generados a lo largo de todo el 2022, y muchos de estos buscan exhibir desinformación acerca de políticos, según concluye un estudio de Zefr Research citado en este artículo de la publicación especializada Adweek.
Como ejemplo de estas prácticas, Trishla Ostwal, la autora del artículo, cita entre otros, dos vídeos falsos que han circulado ampliamente por las redes sociales, en uno de los cuales se ve a Donald Trump afirmando que "América es tiranía y fascismo" y, en el otro, a Joe Biden alegando que "Epstein no se suicidó". En ambos casos, el audio ha sido falsificado empleando aplicaciones de IA, ya que no es el original de ninguno de ambos personajes, e insertado en otro metraje.
Estos videos han acumulado más de 11 millones de vistas y más de 2 millones de "me gusta", según Or Levi, director de ciencia de datos en Zefr. Y más del 90% de estos videos son monetizables, lo que significa que se están publicando anuncios vinculados con ellos. Evidentemente, esto provoca que la imagen de las marcas asociadas al contenido se deteriore, aunque sea para una parte de la población, algo que no le interesa al anunciante y que, por ello, preocupa a las marcas y a las plataformas, ya que podría redundar en una pérdida de campañas y la consiguiente disminución de los ingresos por publicidad.
Los recientes avances en materia de inteligencia artificial, junto con el fácil acceso a modelos de texto a voz, como Vall-E de Microsoft o herramientas de código abierto como fakeyou.com, han facilitado que los actores malintencionados puedan difundir desinformación en las redes sociales manipulando vídeos existentes.
Al mismo tiempo, existe una creciente preocupación entre los anunciantes por combatir la desinformación a pesar de que las empresas de redes sociales invierten dinero en la moderación del contenido. No obstante, las actuales herramientas empleadas para evitar la desinformación, como las listas de bloqueo de palabras clave y las listas de inclusión estáticas, pueden ser insuficientes para dicho fin, según fuentes consultadas por Adweek.
Zefr también encontró creadores que utilizan ChatGPT como ayuda para crear guiones de videos de desinformación.
A pesar de disponer de salvaguardas para la creación de contenido, las herramientas de texto a imagen como Vall-E han sido utilizadas para retratar a políticos como reptilianos o personas lagarto, o como parte de los Illuminati, entre otras invenciones.
Estas herramientas incluidas en las redes sociales pueden ser ineficaces, con lo que se requiere un análisis de contenido que va más allá, según declaraciones de Andrew Serby, director comercial de Zefr, a Adweek. Esto significa que los anunciantes deben buscar en las plataformas en las que publican, herramientas de IA que analicen los contenidos del vídeo, y más concretamente del audio, y los puedan contrastar e identificar en el caso de las fake news.
Es posible detectar, por diversos patrones, cuando una voz ha sido generada por IA, que es precisamente lo que se debe buscar en estos casos.
Zefr es, precisamente, una de las empresas que ofrece dichas herramientas basadas en datos compartidos por organizaciones de verificación de datos, pero los anunciantes entrevistados para el artículo de Adweek no las estaban utilizando en este momento, según indican desde la revista.
Para evitar el temor que provocan los vídeos generados mediante IA en las marcas, empresas de audio como iHeartMedia están desarrollando nuevas herramientas de detección de contenido falsificado. La esperanza es que esto no frene el flujo de dinero procedente del mercado publicitario en el segmento de los podcasts, estimado en unos dos mil millones de dólares, según el Interactive Advertising Bureau. No obstante, el hecho de que la mayoría de los podcasts que se monetizan, estén disponibles a través de plataformas como Spotify, a las cuáles en principio les interesa la veracidad de los contenidos y, por lo tanto, su moderación, hace que los podcasts no sean el objetivo primordial de estas medidas de verificación, y sí más los vídeos que se cuelgan en redes sociales tales como TikTok o Instagram.
