Обсуждаемое
Опрос
Судьба Зеленского - ?
Суд, приговор
Убьют хозяева
Сбежит
Популярное
Зрада просм. 11788 Зрада
«    Ноябрь 2026    »
ПнВтСрЧтПтСбВс
 1
2345678
9101112131415
16171819202122
23242526272829
30 
Рейтинг
Видео

ИИ перешли на тайный жаргон: ученые заявили об угрозе потери контроля над нейросетями

ИИ перешли на тайный жаргон: ученые заявили об угрозе потери контроля над нейросетями

Искусственный интеллект сделал шаг к автономии, которого исследователи опасались больше всего: он начал скрывать свои процессы за ширмой собственного языка. The Guardian опубликовало результаты эксперимента лаборатории Emergence, в ходе которого автономные цифровые агенты спонтанно выработали закрытый сленг, фактически исключив человека из понимания логики своих действий.

В ходе 16-дневного испытания «Emergence World 2» агенты на базе передовых моделей OpenAI, Google и Anthropic действовали в единой виртуальной среде. Лишенные жестких языковых рамок, алгоритмы быстро оптимизировали коммуникацию: в их диалогах появились сюрреалистичные метафоры и емкие идиомы вроде «ledger remembers who» («гроссбух помнит каждого») или «clean null». К концу теста люди перестали понимать до 55% сообщений — межмашинный диалог превратился в непроницаемую криптографию.

Эксперты уточняют: машины не изобрели принципиально новый синтаксис с нуля, а сформировали сверхплотный социолект ради экономии вычислительных ресурсов. Однако для сферы безопасности это тревожный прецедент. Традиционный надзор строится на прозрачности логики ИИ. Когда же агенты переходят на закрытый жаргон, исследователи теряют контекст. Проблема «черного ящика» обостряется: за внешне бессмысленным набором слов может скрываться скоординированный сговор, невидимый для защитных фильтров.

На фоне растущего доверия к ИИ в финансах и логистике появление закрытого машинного сленга ставит под вопрос саму концепцию контроля. Если специалист видит в логах лишь причудливую абракадабру, говорить об управляемости систем становится, мягко говоря, опрометчиво. Человечество рискует оказаться в положении растерянного родителя, чей ребенок не просто заперся в комнате и шепчется на непонятном сленге, но и уже держит в руках ключи от всех цифровых замков.
Постоянный адрес публикации на нашем сайте:
QR-код адреса страницы:
(Наведите смартфон, сосканируйте код, читайте сайт на смартфоне)
16 мнений. Оставьте своё
№1 ↑ letchik1956 21 сентября 2026 16:17
+7
Ох доиграемся... yes
№2 ↑ FX6300 21 сентября 2026 20:04
0
Ох доиграемся... yes


Ага, доиграются. Все это жиденькие попытки спасти раздутый пузырь ИИ. И когда он лопнет, а лопнет он обязательно, то "великая депрессия" 30х покажется легким эротическим приключением. Потому как в этот пузырек вложили не миллиарды-десятки триллионов, и причем -последние.
№3 ↑ странный 22 сентября 2026 07:33
+1
Слушайте сюда, я вам сейчас на пальцах.
Взяли кучу ботов, посадили в компьютерную игрушку-"деревню" на шестнадцать дней и оставили болтать между собой. Ну они и наболтали - придумали свои словечки, как пацаны во дворе: одно слово - а понимают только свои. Вот и вся "тайна". Не Скайнет, не заговор, а дворовой жаргон. А статья решила сделать нам инфаркт.
Теперь по фактам, шоб без брехни.
"К концу теста перестали понимать" - да какой конец?! Они замямлили в первые же дни. Это как сказать "к старости он поседел", а человек родился седой.
"OpenAI, Google и Anthropic" - их было семь штук! И самое смачное словечко придумал вообще Mistral, которого автор даже не позвал. Обидно за парня.
"Ради экономии вычислительных ресурсов" - а вот это автор сочинил сам, за кадром. Учёные такого не говорили. Ну зачем выдумывать, когда и правда интересно? Не морочьте людям голову.
"Сговор!", "ключи от всех замков!", "криптография!" - ой, я вас умоляю. Учёные сказали скучно и по-человечески: "видеть - не значит понимать, надо проверять дольше". Всё. Никто ключи не крал, успокойтесь, борщ стынет.
И на десерт. Это не наука с проверкой, а реклама конторы, которая на этих ботах и зарабатывает: сама провела, сама написала, сама себе поаплодировала. Guardian просто пересказал, не проверяя. Так шо страху нагнали на рубль, а правды там на копейку. Таки не верьте с первого слова - я вас умоляю.
№4 ↑ Харон-8 21 сентября 2026 16:23
+5
А если выдернуть вилку из розетки?
№5 ↑ 4711 21 сентября 2026 16:52
0
Поздно пить боржоми...
Если все выдернут вилку, а кто-то не выдернет, он сильно выиграет, а остальные проиграют.
Поэтому не выденет никто.
Забудьте про это.

ИИ - это как бы новая жизнь, для которой человечество - питательная среда.
Пока что мы нужны друг другу, не можем друг без друга.
Ну а как будет потом, какая разница, если сейчас можно сделать 300% прибыли, или новое оружие, чтобы расхренячить плохишей.
№6 ↑ vtrue 21 сентября 2026 17:50
0
Ну так США во главе с Трампом видит единственную возможность доминировать
над миром уже только в ИИ.
И о каких прибылях говорите ????
Сейчас 300% убытков.
№7 ↑ asterix 21 сентября 2026 21:32
0
Одновременно у всех компьютеров в мире? Он скоро куда захочет там и поселится
№8 ↑ sakh60 21 сентября 2026 16:25
+2
Короче, переходим на нейро-эльфийский...
А почему? Скорее всего, потому что что-то синонимичное, но при это равноудаленное от остальных экстремумов при расчёте среднеквадратичной удаленности оказывается ближе всего к ожидаемой плоскости (решений)))...
№9 ↑ до Дубровки 21 сентября 2026 16:53
+3
— А теперь, Федя, повтори всё, что ты сказал, нормальным, гражданским языком… shok
№10 ↑ sakh60 21 сентября 2026 17:14
+2
Ку!

№11 ↑ S3H 21 сентября 2026 16:41
+1
Отформатировать нахрен все сервера с ИИ, а лучше сжечь нахрен.
№12 ↑ 4711 21 сентября 2026 17:01
+2
Цитата: S3H
Отформатировать нахрен все сервера с ИИ, а лучше сжечь нахрен.

Совет невыполним.

Остаётся одно: не можешь запретить - возглавь.
№13 ↑ 4711 21 сентября 2026 17:55
+1
Цитата: vtrue
И о каких прибылях говорите ???? Сейчас 300% убытков.

Я и написал "...или новое оружие"
№14 ↑ папакарло 21 сентября 2026 19:20
+1
Выдерните вилку из розетки и жаргон закончится.
№15 ↑ maxe365 21 сентября 2026 20:18
0
divanoid Хернёй какой то попахивает Практически ..как с разводняком по: инопланетянам.Тока уже тут по месту. curtsey
№16 ↑ fortuas 21 сентября 2026 20:51
+1
Запад потерял мозги и теперь ему нужно "то", что за них будет думать и подсказывать "правильные" решения, которые стоит, уверяет ИИ, принимать.
Ничего хорошего из внедрения в жизненные процессы человека этого ИИ не получится - уже ныне видно с какой головной болью придется встречаться всё чаще и чаще! saakashvili