La empresa de IA OpenAI ha revelado que ha identificado y desbaratado varias campañas de influencia global en línea que utilizaban su tecnología para manipular la opinión pública a escala mundial.
Uso indebido de la IA para tácticas de influencia
Los ciberdelincuentes han utilizado la IA para generar comentarios en artículos, crear nombres y biografías para cuentas de redes sociales y traducir y corregir textos. Se han centrado en una amplia gama de temas, como la política, la guerra en Ucrania, los derechos LGBTQ+ y las elecciones. Estas campañas de influencia engañosa muestran la magnitud de los retos que plantean las tecnologías de IA en términos de desinformación y manipulación de la opinión pública.
Interrupción de cinco campañas de influencia
OpenAI afirmó haber desbaratado cinco operaciones de influencia encubierta extranjeras en los últimos tres meses. Entre ellas figuran grupos como «Spamouflage», que utilizaba OpenAI para búsquedas y generación de contenidos, y «Doppelganger», que generaba comentarios en varios idiomas para manipular la opinión pública. OpenAI ha reafirmado su compromiso de vigilar y prevenir el uso indebido de sus tecnologías.
Implicaciones para el futuro
Esta noticia pone de relieve los peligros potenciales del uso indebido de la IA para manipular la opinión pública a gran escala. Esto podría tener implicaciones significativas en la forma en que las empresas de IA gestionen y aseguren su tecnología en el futuro. OpenAI afirma que seguirá vigilando y desbaratando este tipo de actividades abusivas.
Conclusión
OpenAI ha puesto fin a campañas mundiales de influencia que abusaban de la tecnología de IA para manipular la opinión pública. Esto pone de relieve los peligros potenciales del uso indebido de la IA y las implicaciones para la forma en que las empresas gestionen esta tecnología en el futuro. OpenAI afirma que seguirá vigilando y desbaratando este tipo de actividades abusivas.
