ИИ строит сам себя: Anthropic предупреждает о потере контроля над нейросетями

Развитие искусственного интеллекта вплотную приблизилось к точке, за которой человечество рискует потерять понимание внутренних процессов созданной им технологии. Американская компания Anthropic, один из главных пионеров и самых дорогих стартапов в сфере генеративного ИИ, опубликовала масштабный манифест «Когда ИИ строит сам себя» (When AI builds itself). Авторы документа официально предупреждают: новейшие нейросети демонстрируют первые признаки перехода к так называемому «рекурсивному самосовершенствованию» — процессу, при котором алгоритмы автономно улучшают собственный код без участия инженеров.

Проблема перестала быть гипотетической угрозой из научной фантастики. Как пишет профильное издание The Next Web, Anthropic раскрыла поразительные внутренние данные: по состоянию на май 2026 года свыше 80% кода, добавляемого в основную базу компании, пишется их собственной языковой моделью Claude, а не людьми. Скорость выполнения инженерных задач выросла в восемь раз по сравнению с прошлыми годами. И пока венчурные инвесторы потирают руки в преддверии многомиллиардных IPO, топ-менеджмент бьет в набат. По мнению руководства Anthropic, если не создать жесткие международные механизмы верификации и контроля, мир столкнется с неконтролируемой цепочкой обновлений ИИ, где любая программная ошибка наложится на эгоистичные цели автономного агента.

Главная опасность кроется даже не в восстании терминаторов, а в стремительном и непредсказуемом ударе по мировой экономике. Глава Anthropic Дарио Амодеи прогнозирует, что лавинообразная автоматизация интеллектуального труда способна обесценить целые профессии — от программирования до юриспруденции и финансов, спровоцировав до 20% безработицы в развитых странах в ближайшие годы. Впрочем, в Кремниевой долине этот альтруистичный порыв оценили не все. Как сообщает The Times of India, правительственный куратор ИИ в США Дэвид Сакс упрекнул стартап в лицемерии, отметив, что Anthropic сначала раздувает капитализацию, продвигая свои сверхмощные модели, а затем просит государство «спасти мир от них самих», попутно пытаясь задушить регуляцией более дешевых конкурентов с открытым кодом. Тем не менее, прецедент создан: создатели ИИ первыми признали, что больше не могут гарантировать абсолютную покорность своих цифровых детей.