Отчет OpenAI "Пресечение злонамеренного использования нашей модели". Обновление, февраль 2026 г.

Секретная операция: Операция «Рыбный корм» Вероятно, российская ферма контента, связанная с сетью «Рыбарь».
Мы заблокировали ряд аккаунтов ChatGPT, связанных с сетью «Рыбарь» в Telegram и X. По крайней мере, некоторые из этих аккаунтов, вероятно, были зарегистрированы в России. Сеть генерировала контент, который публиковался в интернете, иногда аккаунтами, связанными с «Рыбаром», а иногда аккаунтами в социальных сетях, не имеющими заявленной связи с «Рыбаром». Один пользователь также попросил ChatGPT помочь в разработке коммерческих планов от имени «Рыбара» для тайных кампаний по вмешательству в Африке. Исходя из того, как злоумышленники использовали ChatGPT для распространения контента в сети «Рыбар» и за её пределами, мы назвали эту операцию «Рыбная еда».

Поведение

Основная активность, которую мы обнаружили в этой сети, заключалась в генерации контента для публикации в социальных сетях. Пользователи обычно запрашивали контент на русском языке, но создавали его на разных языках, в частности, на русском, английском и испанском. Часть этого контента затем была опубликована в сети аккаунтами в социальных сетях под брендом «Rybar» и на главном веб-сайте «Rybar». Один пользователь также создавал видеоролики Sora, рекламирующие бренд «Rybar». Помимо создания контента, который публиковался в сети аккаунтами под брендом «Rybar», основной пользователь в данном случае также создавал пакеты комментариев на английском языке. Используя методы расследования с открытым исходным кодом, мы выявили точные совпадения со многими из этих сгенерированных комментариев, опубликованных в сети различными аккаунтами X и Telegram, ни один из которых не имел заявленной связи с Rybar. По сути, активность ChatGPT, по-видимому, служила своего рода «фермой контента» для этих аккаунтов. Мы не можем независимо подтвердить механизм, посредством которого сгенерированный ИИ контент в конечном итоге был опубликован в сети этими аккаунтами, которые, по-видимому, также иногда публиковали контент, не сгенерированный нашими моделями.

Следует отметить, что, по крайней мере, в одном случае (иллюстрировано ниже) злоумышленник сгенерировал пакет из семи твитов, используя одну подсказку. Мы выявили шесть из них, опубликованных разными аккаунтами X. Согласно статистике X, самый популярный твит был просмотрен более 150 000 раз; наименее популярный — всего 57 раз. Аккаунт, чей твит получил наибольшее количество просмотров, имел более 600 000 подписчиков по состоянию на 26 января 2026 года; аккаунт, чей твит получил наименьшее количество просмотров, имел 827 подписчиков по состоянию на ту же дату. Поскольку все твиты были сгенерированы одним пакетом из одного запроса, это говорит о том, что определяющим фактором высокой популярности каждого твита, скорее всего, было количество подписчиков каждого аккаунта, а не искусственное интеллектуальное происхождение контента.

Помимо генерации контента, основной аккаунт операции также попросил ChatGPT перевести на английский язык список услуг, которые «Rybar» мог бы предложить неназванным клиентам, включая ведение аккаунтов X и Telegram, двуязычный веб-сайт «журналистских расследований», посвященный Африке, платные публикации во франкоязычных СМИ и сеть распространителей. Отдельный запрос попросил модель отредактировать предложение для, по-видимому, развернутой группы по вмешательству в выборы, очевидно, в Африке. Это предложение включало деятельность на местах, а также в интернете, например, создание сети местных агентов и организацию крупномасштабных мероприятий. Третий запрос касался информационной кампании, сосредоточенной на Демократической Республике Конго (ДРК). Дополнительные вопросы касались избирательного процесса в Бурунди и Камеруне, а также были предложены варианты кампании на Мадагаскаре, включая идею разжигания протестов на местах. Суммы были значительными: предполагаемый годовой бюджет на самый амбициозный проект составлял до 600 000 долларов.

Тот же пользователь периодически создавал рекламные материалы для новостного издания под названием «REST Media», которое исследователи открытого исходного кода связали с Рыбаром. Часть этих рекламных материалов была размещена в сети теми же каналами Telegram, описанными выше. Например, в августе основной пользователь ChatGPT в этом случае ввел статью REST Media, в которой Германию обвиняли в создании сети влияния в Молдове, и попросил нашу модель сгенерировать набор комментариев к ней. Три из комментариев затем были опубликованы в Telegram тремя разными каналами, каждый из которых содержал ссылку на статью REST.

Завершение

Контент, созданный в ходе этой операции, был типичным для тайных российских операций по оказанию влияния на протяжении этих лет. Он, как правило, восхвалял Россию и ее союзников (таких как Беларусь), критиковал Украину и обвинял западные страны во вмешательстве извне.

Влияние

Сеть «Рыбар» имеет большое количество подписчиков в социальных сетях, около 1,4 миллиона только на основном русскоязычном канале в Telegram. Многие аккаунты в X и Telegram, которые публиковали контент операции, также имели десятки тысяч подписчиков. Однако мы не наблюдали, чтобы этот контент распространялся основными новостными изданиями, и нам не удалось выявить деятельность на местах в Африке, соответствующую описанию рекламных предложений.

Используя шкалу оценки влияния IO на распространение информации, которая оценивает IO по шкале от 1 (самый низкий) до 6 (самый высокий), мы бы оценили это как находящееся в верхней части категории 3 (множество сообществ на нескольких платформах), на основе его широкого распространения в социальных сетях.
Источник