Unesco alerta que ChatGPT y Bard se alimenta de informaciones falsas. La pervivencia de la memoria del Holocausto está «amenazada» por la inteligencia artificial (IA) generativa.
Esta con frecuencia se alimenta de fuentes distorsionadas o maliciosas para crear sus contenidos, alertó la Unesco.
Informe
Un informe conjunto que publicó la Unesco y el Congreso Mundial Judío (CMJ) señala que los desarrolladores de IA, al entrenar sus herramientas con información que circula por internet, pueden exponerlas.
Esto, por falta de supervisión adecuada, a fuentes con datos falsos o tendenciosos.
Además, y sobre esa base, las propias herramientas de IA pueden terminar generando contenidos falsos sobre el Holocausto.
La red social X convertirá los «me gusta» en privados
Algo que ya ocurrió en algunos casos con ChatGPT y con Bard, la herramienta de Google.
Ambas producen contenido sobre acontecimientos relacionados con el Holocausto «que nunca ocurrieron», afirma la Unesco en un comunicado.
Otro problema encontrado es que la IA tiende a «simplificar el contexto histórico», privilegiando «un rango reducido de fuentes y una pequeña elección de acontecimientos».
Por ejemplo, en páginas de búsqueda alimentadas por IA, entre 60 y 80 % de las principales imágenes en búsquedas se refieren al campo de exterminio de Auschwitz-Birkenau.
Debido a que el 80 % de los jóvenes entre los 10 y 24 años usan la IA varias veces al día con propósitos educativos o de entretenimiento, hace falta una acción «rápida» para que estas tecnologías se guíen por principios éticos, insistió la Unesco.
Por ello, la organización urgió a los Estados y a las empresas tecnológicas a acelerar la implementación de sus recomendaciones sobre la ética de la IA.
La misma ha sido integrada en la legislación de unos cincuenta países.
Con información de EFE
Foto referencial
