News - OpenAI блокує схему пропаганди під керуванням штучного інтелекту, пов'язану з Росією

У рамках масштабного придушення OpenAI заблокувала кілька облікових записів на своїй платформі ChatGPT, які були виявлені як частина операції з пропаганди, пов'язаної з Росією. 25 серпня OpenAI повідомила, що ці облікові записи були пов'язані з так званим Міжнародним інститутом Берк, вигаданою організацією, що видавала себе за легітимний дослідницький аналітичний центр. Основна мета цієї операції – покращити імідж Росії, підриваючи західні погляди, включала розповсюдження оманливого академічного контенту та фейкових коментарів через канали соціальних мереж, як-от Substack, Telegram, X, Facebook і LinkedIn. Розслідування спочатку вийшло зі підозрілої активності у соціальних мережах і виявило складну кампанію впливу, яка вся відслідковувалася до вебсайту, що веде до інституту. Контент, включаючи сумнівний 'індекс суверенітету', був стратегічно розроблений, щоб сприятливо представляти Росію, з приховуванням російського походження мережі за допомогою віртуальних приватних мереж для обходу бар'єрів доступу до послуг OpenAI з Росії. Ця конкретна кампанія, хоча й здавалося б обмеженого охоплення, вирізнялася своєю складністю у порівнянні з попередніми спробами російського втручання, виявленими після конфлікту в Україні, за інформацією OpenAI. Розслідувачі виявили, що велика частина контенту кампанії демонструвала статті, які безпідставно приписувались експертам, переліченим на вебсайті інституту, зокрема такі імена, як Сьюзен Ааронсон з Університету Джорджа Вашингтона спростовували будь-який зв'язок. Незважаючи на заперечення з боку нібито аналітичного центру щодо його зв'язку з російськими зусиллями, знахідки OpenAI вказують на значне використання стратегії контенту, що походить зі слов'янського регіону. OpenAI виділяє цей випадок як значний приклад того, як штучний інтелект може бути неправомірно використаний для маніпулятивних кампаній впливу, підкреслюючи ризики використання штучного інтелекту як стратегічного інструменту для підтримки фейкової авторитетності та маскування джерела адаптованих наративів. Розкриття цієї прихованої схеми не лише вказує на новий масштаб операцій, але й підкреслює потенційний масштаб і складність дезінформації, яку можна реалізувати за допомогою технологій штучного інтелекту. Виявляючи такі питання, OpenAI прагне підкреслити серйозну потребу в підвищеній пильності та регуляторних стандартах у боротьбі з подібними прихованими операціями в епоху цифрових технологій.