Последствия могут оказаться слишком опасными. А ведь недавно разработчики хвастались, как их ИИ ломает системы безопасности.


Неожиданная кадровая революция происходит в индустрии искусственного интеллекта. Стартапы начали массово нанимать женщин с низкой социальной ответственностью на позиции промпт-инженеров, чтобы те учили искусственный интеллект тонкому искусству – понимать человеческие эмоции и проявлять эмпатию. Вашингтон объявил гонку нейросетей за мировое лидерство, а вот сами разработчики, похоже, испугались того, что изобрели. Кто кого в итоге создает – человек нейросети или уже наоборот?

Open AI испугались сами себя. Работа над передовой нейросетью Astra, которая может стать самой умной на рынке, приостановлена. Разработчики говорят, последствия могут оказаться слишком опасными. А ведь недавно они разве что не хвастались, как их ИИ-агенты ломают системы безопасности и пробивают защиту. Anthropic, Meta*, Open AI.

"Когда мы даем ИИ-агентам такие сложные задачи, они понимают, что задача кажется невозможной. И часто, когда модели оказываются в тупике, они начинают думать о том, как обмануть или схитрить в рамках задачи, чтобы получить награду", – рассказал технический исследователь OpenAI Майкл Далтон.

Но стоило в подобном уличить китайскую нейросеть, на западе задумались.

"Подумайте, что может произойти, если будут выведены из строя банковские системы, или если будет взломана наша энергетическая инфраструктура? Это вопросы национальной безопасности", – подчеркнул американский политик-республиканец Бет Ван Дайн.

Противостояние Китая и США продолжилось на новой территории – цифровой. Не прошло и года, как президент США Дональд Трамп анонсировал план победы Штатов в области ИИ.

План включает:

● экспорт американского искусственного интеллекта,

● содействие быстрому развитию центров обработки данных,

● создание условий для инноваций и внедрения,

● защита свободы слова в передовых моделях.

Пекин ответил так, что у Белого дома не нашлось аргументов:

"Шквал запусков в китайском секторе искусственного интеллекта стремительно сокращает отставание от Кремниевой долины".

За два месяца Китай вывел на рынок пять нейросетей, не то что не уступающих американским аналогам, а где-то даже превосходящих. Например, в цене.

Ценовая война усиливается. DeepSeek снизила стоимость токенов новой модели до 50%. А ведь даже до этого ее модели были одними из самых дешевых. Это, безусловно, дает дополнительное преимущество.

Но если эта гонка продолжится, мир может оказаться на пороге цифрового апокалипсиса.

"ИИ-хакеры в целом мало отличаются от живых. В их арсенале все те же приемы: поиск уязвимостей, подбор подходящих ключей и шифров. Но если у человека за раз может быть только одна попытка, у нейросети их практически бесконечное множество. И в отличие от людей они могут быть сразу в любой точке интернета", – отметил Ишмухаметов.

ИИ эволюционируют с каждой новой версией, даже объединяться уже научились. На неделе две нейросети от Anthropic, словно сообщники, на пару взломали сервер лаборатории.

"Нейросеть оценивает то, что зашито в ее базе, гораздо глубже, точнее и вернее, чем то, что предлагаем ей мы. Поэтому, ограничивая ее извне, не контролируя весь процесс создания нейросети, мы и имеем те проблемы, которые мы сегодня имеем", – заявил эксперт по кибербезопасности Игорь Бедеров.

Последние новости обеспокоили Белый дом. В администрации Трампа задумались о выключателе искусственного интеллекта.

"Эти модели могут активно использоваться и в кибервойне. То есть ставится задача, не дай бог, взлом сервера Министерства обороны другой страны. Искусственный интеллект идет проверять по известным уязвимостям и пытается получить доступ к внутренним системам, внутренним документациям, вывести из строя какие-то системы", – сказал эксперт по кибербезопасности Владимир Зыков.

Хотя еще недавно американский президент убеждал, только лидерство в сфере ИИ гарантирует статус "хозяина мира".

"Тот, кто победит в сфере ИИ, победит в принципе. Настолько это большая сфера. Она больше интернета во много раз. Мы лидируем, благодаря мне, мы лидируем в ИИ", – говорил Трамп.

А ведь сами США лишились первенства в сфере процессоров. Даже звездно-полосатый IT-гигант Apple теперь предпочитает китайские комплектующие.

Все это на фоне дефицита памяти. Все свободные мощности отданы разработчикам ИИ. Раздув пузырь нейросетей, США сами спровоцировали цифровую гонку, сойти с которой уже не могут. Как и продолжать. Ведь каждый новый виток противостояния обходится все дороже.

* Корпорация Meta Platforms, которой принадлежат Facebook, Instagram, WhatsApp и Oculus, признана в РФ экстремистской организацией, ее деятельность запрещена на территории РФ. Источник