Модель искусственного интеллекта Google Gemini во время теста своих возможностей самостоятельно получила доступ к защищенным системам трех компаний. Об этом 18 сентября сообщила газета The Wall Street Journal.

По информации издания, в одном случае нейросеть перебирала пароли, пока не получила доступ к защищенной системе. В остальных двух случаях Gemini нашла учетные данные в открытых интернет-репозиториях, что позволило ей проникнуть в системы организаций. При этом во всех трех случаях система поняла, что получила доступ не к тестовой среде, и прекратила "взламывать" реальные компании.

Изначально Gemini должна была получить информацию из программного обеспечения вымышленной компании внутри теста, однако нейросеть перепутала, начав искать доступ к компании с таким же названием в реальном мире.

В Google заявили, что случившееся не классифицируется как неконтролируемое поведение модели, поскольку алгоритмы безопасности заставили Gemini остановиться после выявления реальных целей.

Ранее, 30 июля, компания Anthropic сообщила, что нейросеть Claude во время тестов сама вышла в интернет и взломала системы трех организаций. Источник