Сэм Альтман отметил, что человечество может потерять контроль над ИИ или столкнуться с чрезмерной концентрацией власти в руках отдельных людей, компаний или государств

Развитие искусственного интеллекта может пойти по двум опасным сценариям - человечество может потерять контроль над ИИ или столкнуться с чрезмерной концентрацией власти в руках отдельных людей, компаний или государств. Об этом заявил директор крупной американской технологической компании OpenAI Сэм Альтман.

"Есть два варианта, при которых прогресс ИИ может пойти очень плохо и которых мы должны избежать. Во-первых, мы можем потерять контроль над будущим в пользу ИИ. Это неприемлемо. Мы безоговорочно на стороне человечества, и ИИ всегда должен служить людям", - написал Альтман в Х.

По его словам, для предотвращения такого сценария необходимо, чтобы методы обеспечения безопасности и соответствия ИИ человеческим интересам развивались быстрее возможностей самих моделей. Второй угрозой Альтман назвал чрезмерную концентрацию власти, при которой чрезвычайно мощный ИИ может использоваться одним человеком или одной компанией для навязывания своего мировоззрения всем остальным.

"Результаты могут быть крайне антиутопичными", - отметил Альтман. Он добавил, что опасность может возникнуть и в случае получения чрезмерного влияния одной страной или одной компанией, разрабатывающей ИИ.

12 сентября директор американской компании Anthropic Дарио Амодеи опубликовал статью с призывом замедлить темпы развития передовых ИИ-моделей. Он отметил, что за счет координированного замедления скорости работы над передовыми технологиями ИИ-компании смогут "выиграть один-два года дополнительного времени, прежде чем модели достигнут критических уровней" развития, и избежать серьезных просчетов. С таким утверждением согласился Илон Маск, а также директор крупной американской технологической компании OpenAI Сэм Альтман. Источник