AI企業OpenAIは、同社の技術を利用して世界規模で世論を操作した複数のオンライン世界的影響力キャンペーンを特定し、阻止したことを明らかにした。
影響力戦術のためのAIの悪用
悪質業者はAIを使って、記事へのコメントを生成したり、ソーシャルメディアのアカウントの名前や経歴を作成したり、文章を翻訳・校正したりしている。彼らは、政治、ウクライナ戦争、LGBTQ+の権利、選挙など、幅広いトピックをターゲットにした。こうした誤解を招く影響力キャンペーンは、誤報や世論操作という点で、AI技術がもたらす課題の大きさを示している。
5つの影響力キャンペーンの妨害
OpenAIは、過去3ヶ月間に5つの外国の秘密影響活動を妨害したと発表した。その中には、検索とコンテンツ生成にOpenAIを利用した “Spamouflage “や、世論を操作するために多言語でコメントを生成した “Doppelganger “といったグループが含まれています。OpenAIは、その技術の悪用を監視し、防止するためのコミットメントを再確認した。
将来への示唆
このニュースは、AIを悪用して大規模に世論を操作することの潜在的な危険性を浮き彫りにしている。これは、AI企業が今後どのように技術を管理し、安全性を確保するかに重大な影響を及ぼす可能性がある。OpenAIは、この種の悪用行為を監視し、破壊し続けると述べた。
結論
OpenAIは、世論操作のためにAI技術を悪用した世界的な影響力キャンペーンに終止符を打った。これは、AIの悪用がもたらす潜在的な危険性と、企業が今後この技術をどのように管理するかという意味合いを浮き彫りにしている。OpenAIは、今後もこの種の悪用行為を監視し、阻止していくと述べた。
