AI 기업 OpenAI는 자사의 기술을 사용해 전 세계적으로 여론을 조작한 여러 온라인 글로벌 영향력 캠페인을 식별하고 중단시켰다고 밝혔습니다.
영향력 전술을 위한 AI의 오용
악의적 행위자들은 AI를 사용하여 기사의 댓글을 생성하고, 소셜 미디어 계정의 이름과 약력을 만들고, 텍스트를 번역하고 교정했습니다. 이들은 정치, 우크라이나 전쟁, 성소수자 인권, 선거 등 다양한 주제를 표적으로 삼았습니다. 이러한 잘못된 영향력 캠페인은 잘못된 정보와 여론 조작이라는 측면에서 AI 기술이 제기하는 도전의 규모를 보여줍니다.
5가지 영향력 캠페인의 중단
OpenAI는 지난 3개월 동안 5건의 해외 은밀한 영향력 행사를 방해했다고 밝혔습니다. 여기에는 검색 및 콘텐츠 생성에 OpenAI를 사용한 ‘Spamouflage’와 여론 조작을 위해 여러 언어로 댓글을 생성한 ‘도플갱어’ 같은 그룹이 포함됩니다. OpenAI는 자사 기술의 오용을 모니터링하고 방지하겠다는 약속을 재확인했습니다.
미래에 대한 시사점
이 뉴스는 대규모 여론 조작을 위해 AI를 오용할 경우 발생할 수 있는 잠재적 위험성을 강조합니다. 이는 향후 AI 기업이 기술을 관리하고 보호하는 방식에 중대한 영향을 미칠 수 있습니다. OpenAI는 이러한 유형의 악의적인 활동을 지속적으로 모니터링하고 차단할 것이라고 밝혔습니다.
결론
OpenAI는 AI 기술을 악용하여 여론을 조작하는 글로벌 영향력 캠페인을 종식시켰습니다. 이는 AI 오용의 잠재적 위험성과 향후 기업이 이 기술을 관리하는 방법에 대한 시사점을 강조합니다. OpenAI는 이러한 유형의 악의적인 활동을 지속적으로 모니터링하고 중단할 것이라고 밝혔습니다.
