Компания OpenAI, занимающаяся разработкой искусственного интеллекта, сообщила, что ей удалось выявить и сорвать несколько глобальных онлайн-кампаний влияния, которые использовали ее технологии для манипулирования общественным мнением в мировом масштабе.
Неправильное использование ИИ для тактики влияния
Злоумышленники использовали искусственный интеллект для создания комментариев к статьям, создания имен и биографий для аккаунтов в социальных сетях, а также для перевода и корректуры текстов. Они использовали широкий спектр тем, включая политику, войну на Украине, права ЛГБТК+ и выборы. Эти кампании по оказанию ложного влияния демонстрируют масштаб проблем, создаваемых технологиями ИИ в плане дезинформации и манипулирования общественным мнением.
Срыв пяти кампаний влияния
OpenAI заявила, что за последние три месяца она пресекла пять иностранных тайных операций по оказанию влияния. Среди них такие группы, как «Spamouflage», которая использовала OpenAI для поиска и генерации контента, и «Doppelganger», которая генерировала комментарии на нескольких языках, чтобы манипулировать общественным мнением. OpenAI подтвердила свою приверженность мониторингу и предотвращению неправомерного использования своих технологий.
Последствия для будущего
Эта новость подчеркивает потенциальную опасность использования искусственного интеллекта для масштабного манипулирования общественным мнением. Это может иметь значительные последствия для того, как компании, занимающиеся разработкой ИИ, будут управлять своими технологиями и обеспечивать их безопасность в будущем. OpenAI заявила, что будет продолжать отслеживать и пресекать подобные злоупотребления.
Заключение
Компания OpenAI положила конец глобальным кампаниям влияния, которые использовали технологию искусственного интеллекта для манипулирования общественным мнением. Это подчеркивает потенциальную опасность неправильного использования ИИ и последствия того, как компании будут управлять этой технологией в будущем. OpenAI заявила, что будет продолжать отслеживать и пресекать подобные злоупотребления.
