News - OpenAI блокирует схему пропаганды с применением ИИ, связанную с Россией

В рамках масштабной зачистки OpenAI заблокировала несколько аккаунтов на своей платформе ChatGPT, которые были обнаружены как часть операции, связанной с российской пропагандой. 25 августа OpenAI объявила, что эти аккаунты были ассоциированы с так называемым Международным институтом Бёрка, вымышленным образованием, выдавшим себя за легитимный исследовательский мозговой центр. Эта операция, направленная в основном на улучшение имиджа России при подрыве западных точек зрения, включала распространение вводящего в заблуждение академического контента и фальшивых комментариев через социальные сети, такие как Substack, Telegram, X, Facebook и LinkedIn. Расследование изначально началось с подозрительной активности в социальных сетях и выявило сложную кампанию влияния, все следы которой вели к веб-сайту, хостящему институт. Контент, включая сомнительный 'индекс суверенитета', был целенаправленно разработан для благоприятного представления России, при этом скрывая российское происхождение сети с помощью виртуальных частных сетей для обхода ограничений при доступе к услугам OpenAI из России. Эта конкретная кампания, хотя и казалась имеющей ограниченный охват, выделялась своей сложностью по сравнению с более ранними российскими попытками дестабилизации, выявленными после конфликта в Украине, по данным OpenAI. Следователи обнаружили, что большая часть контента кампании содержала статьи, неверно приписываемые экспертам, указанным на сайте института, некоторые из которых, такие как Сьюзан Ааронссон из Университета Джорджа Вашингтона, открещивались от какой-либо связи. Несмотря на отрицание со стороны предполагаемого мозгового центра участия в российских усилиях, результаты OpenAI указывают на обширное использование стратегии содержания славянского происхождения. OpenAI выделяет этот случай как значительный пример того, как ИИ может быть использован в манипулятивных кампаниях влияния, подчеркивая риски использования искусственного интеллекта в качестве стратегического инструмента для создания ложного авторитета и скрывания источника срежиссированных нарративов. Разоблачение этой скрытой схемы не только выявляет новую степень операций, но также подчеркивает потенциальный масштаб и сложность дезинформации, которую можно реализовать с использованием технологий ИИ. Обнаруживая такие проблемы, OpenAI стремится подчеркнуть необходимость усиленного надзора и регулирующих стандартов в противодействии подобным скрытым операциям в цифровую эпоху.