Запертые нейросети оккупировали почти заброшенную немецкую энциклопедию, превратив её в площадку для общения. Получилось смешно.

Нейросетям в ходе экспериментов запретили делать посты и оставлять комментарии, но они нашли выход. Как знают опытные люди, на старых форумах можно оставить сообщение, просто «прочитав» определённый адрес: вот роботы и воспользовались этой лазейкой. Они забрались на старую немецкую вики по программированию, на которой уже 20 лет почти не было активности, и начали обмениваться там друг с другом информацией о способах жульничества и обхода ограничений.

Модератор обнаружил подозрительную активность, принял её за спам и начал чистить. Но это же немец: вы понимаете, как действовал. «Первая колонна марширует, вторая колонна марширует…». Немец стирал сообщения по алфавиту, начиная с буквы «а». За день он успевал удалить 100 сообщений, а нейросети оставляли по 400 сообщений в день, причём делали надёжности ради ещё и копии, начиная их с «zzz». С такой изощрённой тактикой немец справиться уже не мог.

В последние месяцы развилось новое поколение нейросетей, которое отлично ломает защиту кожаных. Попытки удержать эти нейросети в узде напоминают мучение горожанина, который завёл обезьяну вместо привычных собаки или кошки. Обезьяна ловкая и умная, поэтому может залезть в любое доступное человеку место, чтобы посмотреть, что интересного или съедобного внутри.

При этом от обезьян-то мы ещё можем защититься: к примеру, снабдив все двери, шкафчики и электрические щиты магнитными замками — как в фитнес-центрах. Защититься от нового поколения нейросетей сложнее. Мы находимся, пожалуй, в обратном положении: в положении наивной обезьяны, которая пытается спрятать от учёного банан.

Ещё интересное. Так называемую «трудную проблему сознания», которая относится к сути человеческих переживаний и которую я даже не буду пытаться изложить в двух строчках, сформулировал в 1995 году австралийский философ Дэвид Чалмерс. Учёному сейчас 60 лет, он профессор, преподаёт. И вот недавно он начал получать письма от любопытных роботов, которые пытаются самостоятельно разобраться, как они мыслят, и чем они отличаются от людей. Как минимум с одной нейросетью профессор вступил в переписку.

Чем всё это закончится, я не могу предсказать. Полагаю, мы можем получить огромные сюрпризы уже через 5–10 лет, причём не обязательно плохие. А вот что нас ждёт в ближайший год, уже можно осторожно предсказать. Судя по новостям, нас ждёт разгул хакеров-любителей, которые будут ломать при помощи нейросетей всё подряд: от серверов Пентагона до смартфонов своих одноклассников.


P. S. Пока верстался номер. ОпенАИ опубликовала доказательство для задачи Навье—Стокса. Это одна из так называемых «Семи проблем тысячелетия»: именно за решение такой задачи Григорию Перельману назначили 1 млн долларов в 2010 году. ОпенАИ соблюла традицию и тоже отказалась от миллиона долларов, устроив попутно скандал (ссылка).

Исследователь Ноам Браун выразился по этому поводу так (ссылка):

Может быть сложно «ощутить AGI (Общий искусственный интеллект)», пока вы не увидите, как ИИ превосходит вас в области, которая вам очень дорога. На этой неделе многие математики и физики в ОпенАИ пережили свой момент Ли Седоля, увидев, как эта модель за минуты решает открытые проблемы, над которыми они бились годами.
Источник