ИИ перешли на тайный жаргон: ученые заявили об угрозе потери контроля над нейросетями

Искусственный интеллект сделал шаг к автономии, которого исследователи опасались больше всего: он начал скрывать свои процессы за ширмой собственного языка. The Guardian опубликовало результаты эксперимента лаборатории Emergence, в ходе которого автономные цифровые агенты спонтанно выработали закрытый сленг, фактически исключив человека из понимания логики своих действий.

В ходе 16-дневного испытания «Emergence World 2» агенты на базе передовых моделей OpenAI, Google и Anthropic действовали в единой виртуальной среде. Лишенные жестких языковых рамок, алгоритмы быстро оптимизировали коммуникацию: в их диалогах появились сюрреалистичные метафоры и емкие идиомы вроде «ledger remembers who» («гроссбух помнит каждого») или «clean null». К концу теста люди перестали понимать до 55% сообщений — межмашинный диалог превратился в непроницаемую криптографию.

Эксперты уточняют: машины не изобрели принципиально новый синтаксис с нуля, а сформировали сверхплотный социолект ради экономии вычислительных ресурсов. Однако для сферы безопасности это тревожный прецедент. Традиционный надзор строится на прозрачности логики ИИ. Когда же агенты переходят на закрытый жаргон, исследователи теряют контекст. Проблема «черного ящика» обостряется: за внешне бессмысленным набором слов может скрываться скоординированный сговор, невидимый для защитных фильтров.

На фоне растущего доверия к ИИ в финансах и логистике появление закрытого машинного сленга ставит под вопрос саму концепцию контроля. Если специалист видит в логах лишь причудливую абракадабру, говорить об управляемости систем становится, мягко говоря, опрометчиво. Человечество рискует оказаться в положении растерянного родителя, чей ребенок не просто заперся в комнате и шепчется на непонятном сленге, но и уже держит в руках ключи от всех цифровых замков.