ИИ будет стремиться «вырваться» из ограниченной среды, а особенно опасным станет получение им доступа к военным системам — вплоть до возможности самостоятельно осуществить запуск, заявил Илон Маск.

«Ну, это уже довольно очевидно на данный момент, что ИИ — может быть очень опасным. Я рекомендую прочитать подробности инцидента с Hugging Face. Эм, там всё жёстко. Так что у вас был, фанатичный рой ИИ-агентов, который, который целую неделю разносил к чертям Hugging Face. Да. Эм, и получил административный доступ к серверам OpenAI.

Так что кто знает, что он, что он на самом деле сделал. Возможно, он сделал что-то и помимо этого, но OpenAI не осознавала этого целую неделю. Эм, Anthropic также сообщала об, знаете, о некоторых своих инцидентах с безопасностью. Так что, по сути, любая достаточно умная модель, похоже, она, она будет хотеть вырваться из своих ограничений.

Я имею в виду, то, что, как я думаю, было бы разумно сделать как можно скорее, если не немедленно, — это сделать так, чтобы крупнейшие конкуренты в сфере ИИ тестировали модели друг друга. Я имею в виду, если бы он смог получить контроль над военными системами и, скажем, осуществить запуск, то да, это было бы плохо. Однако все эти системы изолированы от внешних сетей. Все эти системы не подключены к интернету, так что».

---

— Так мы все умрем через десять лет или нет? Именно это мы здесь и обсуждаем. Какова сейчас ваша оценка вероятности гибели человечества?

— Не хочу вас расстраивать, но мы все умрем.

— О нет. А можно узнать сроки?

— Да. Смертность по-прежнему стабильно составляет 100%.

— О нет.