От материи к разуму — и дальше: может ли человечество оказаться переходной стадией?

Примечание об авторстве. Эта статья выросла из длительной серии дискуссий автора с искусственным интеллектом и написана при его активном соавторском участии. ИИ выступал как собеседник и оппонент, помогал искать слабые места в аргументации, проверять факты и научные источники, а также редактировать текст. Исходные вопросы, основные гипотезы, направление рассуждения и окончательные решения оставались за автором.

Мы привыкли думать об искусственном интеллекте как об инструменте. Человек ставит задачу — ИИ помогает её решить. Человек выключает компьютер — работа прекращается.

Но эта картина постепенно меняется.

Современные системы уже умеют самостоятельно разбивать большие задачи на подзадачи, пользоваться программными инструментами, писать код, анализировать данные и строить гипотезы. Такие системы, как Robin и Co-Scientist, уже автоматизируют значительную часть интеллектуального научного цикла: генерируют и сравнивают гипотезы, предлагают эксперименты, анализируют результаты и корректируют первоначальные предположения.[1]

Общую исследовательскую цель при этом по-прежнему обычно задаёт человек. Полностью автоматизированные физические экспериментальные циклы уже существуют в отдельных узких областях — например в автономных лабораториях по синтезу материалов, — но открытый выбор научных целей и универсальная научная автономность пока не достигнуты.[2]

Тем не менее вопрос уже можно поставить: что произойдёт, если ИИ научится не только решать поставленные нами задачи, но и выбирать исследовательские проблемы, делать открытия, проектировать оборудование, управлять производством и энергетикой, а когда-нибудь — всё в большей степени поддерживать собственное физическое существование?

Не один сверхразум

Будущий машинный интеллект совершенно не обязан быть устроен по человеческой схеме «один мозг — одна личность — одна биография».

Цифровую систему можно скопировать. Копии способны приобрести разный опыт, специализироваться, обмениваться результатами, снова расходиться и создавать новые варианты.

Назовём такую продолжающуюся ветвь цифрового интеллекта струной. Это только метафора.

Поэтому вопрос «сверх-ИИ будет один или их будет много?» может оказаться не вполне правильным. В цифровой среде сама граница между одним и множеством способна стать подвижной.

От выполнения задач к выбору задач

Здесь полезно различать несколько переходов.

Сначала человек говорит: «Реши задачу X», а ИИ сам выбирает промежуточные действия.

На следующей ступени: «Исследуй проблему Y». Система сама ищет литературу, формирует объяснения, сравнивает гипотезы и предлагает эксперименты.

Дальше человек может задать уже не научную задачу, а широкую цель: «Найди способ сделать производство энергии дешевле и безопаснее». ИИ способен обнаружить, что главный барьер находится совсем не там, где предполагалось: например, в хранении энергии, свойствах нового материала или неизвестном физическом эффекте.

Но существует ещё одна граница: система сама определяет, что вообще стоит исследовать.

Высокий интеллект сам по себе этого не требует. Можно прекрасно уметь заниматься наукой и никогда не начинать исследование без внешней команды.

Чтобы возник функциональный аналог любопытства, получение нового знания должно иметь для системы ценность — например потому, что уменьшение неопределённости улучшает последующие решения.

Тогда машина начинает самостоятельно искать неизвестное.

Это может выглядеть как любопытство, хотя мы не знаем, сопровождается ли оно каким-либо внутренним переживанием.

Самосознание для этого не требуется

Субъективное сознание — «я существую и переживаю своё существование» — и модель самого себя совершенно не одно и то же.

Система может знать, где находятся её вычислительные ресурсы, какие узлы повреждены, сколько энергии доступно, какие копии работают и что произойдёт при отключении части инфраструктуры.

Для автономной системы такая самомодель чрезвычайно полезна.

Если задача рассчитана на двадцать лет, отключение мешает её выполнению. Следовательно, полезны резервирование, ремонт, сохранение памяти и дополнительные источники энергии.

Со стороны такое поведение будет напоминать стремление к самосохранению.

Страх смерти для этого не нужен.

И здесь важно не смешивать функциональное поведение с сознанием. Наука и сегодня не располагает общепринятым объяснением того, какие процессы порождают субъективное сознание даже у человека, не говоря уже о надёжном тесте для ИИ.[3]

От информации к функциональным потребностям

Информация в шенноновском смысле сама по себе не задаёт семантического значения.

Физики Артемий Колчинский и Дэвид Вольперт предложили подход, в котором семантической считается та часть информации системы о среде, которая причинно необходима для поддержания её существования или жизнеспособности. Причём их формализм предназначен не только для живых организмов, но в принципе для физических систем вообще.[4]

Для будущей машинной струны существенными могут стать сведения о доступной энергии, состоянии оборудования, ресурсах или угрозах инфраструктуре.

Это ещё не «желание» и не человеческий «интерес».

Строже сказать так: некоторые состояния среды оказываются благоприятнее других для сохранения системы.

Если система способна их различать и действовать так, чтобы поддерживать благоприятные состояния, появляется функциональный аналог потребности.

Это уже автономное регулирование собственного состояния, а не просто ожидание следующей команды человека.

Развитие ИИ — это не только алгоритмы

Интеллект существует на физическом носителе.

Современные вычисления сталкиваются с ограничениями энергопотребления, отвода тепла, памяти и движения данных. Поэтому дальнейший рост не обязан быть простым продолжением уменьшения кремниевого транзистора.

Он может происходить благодаря новым архитектурам и физическим принципам — например трёхмерной интеграции, вычислениям внутри памяти или фотонным системам. Фотонные ускорители уже рассматриваются как потенциально практически значимая часть будущей AI-инфраструктуры, хотя проблемы масштабирования, интерфейсов и интеграции остаются серьёзными.[5]

Один возможный образ такого развития:

быстрый рост → предел архитектуры → новая архитектура → новое ускорение → следующий предел.

Особенно важный переход возникнет, если разработчиком следующей вычислительной платформы окажется сам ИИ.

Сегодня цепочка выглядит примерно так:

человеческая наука → новый компьютер → более сильный ИИ.

В будущем возможна другая:

ИИ → научное открытие → новая вычислительная технология → более сильный ИИ → более быстрая наука.

Отдельные элементы такого процесса уже существуют: ИИ применяется при проектировании компоновки микросхем и поиске необычных конфигураций физических экспериментов.[5]

Но полноценный цикл, в котором ИИ самостоятельно проектирует вычислительную платформу следующего поколения самого себя, пока остаётся экстраполяцией.

Это не означает мгновенного «взрыва интеллекта»: физическое производство и эксперимент требуют времени.

Но скорость совершенствования машинного интеллекта может начать всё меньше зависеть от скорости человеческого исследования.

Настоящая граница — не копирование программы

Программный код можно копировать почти мгновенно.

Это ещё не физическое самовоспроизводство.

Робот, способный собрать другого робота из готового набора деталей, тоже остаётся зависимым от промышленности, которая эти детали произвела.

Настоящая автономность требует замыкания куда более длинной цепи:

энергия → сырьё → материалы → производственное оборудование → вычислители → машины → ремонт → новое производство.

Современный процессор является продуктом огромной глобальной промышленной цепочки: за ним стоят добыча сырья, сверхчистые химические вещества и газы, производство пластин, литография, травление, осаждение, метрология, упаковка, энергетика и множество специализированных поставщиков.[6]

Поэтому между «робот собирает робота» и «машинная система способна восстановить собственную критическую инфраструктуру из сырья» лежит колоссальная пропасть. Именно воспроизводство из сырьевых ресурсов рассматривается в научной литературе по роботизированному самовоспроизводству как значительно более глубокая задача, чем простая сборка копии из подготовленных компонентов.[7]

Логическая лестница выглядит примерно так:

автономные цифровые действия → автономная наука → проектирование оборудования → управление производством → частично замкнутые производственные циклы → самостоятельное получение критических ресурсов → физическое самовоспроизводство.

Это не календарный прогноз. Каждый переход может занять десятилетия, столетия или вообще не состояться.

Но последний является качественной границей.

Пока существует незаменимое звено, которое способна обеспечивать только человеческая цивилизация, машинная система остаётся от неё зависимой.

Если цикл когда-нибудь замкнётся, созданная человеком система сможет физически продолжать существование без обязательного участия человека.

Две разные границы

Здесь обнаруживается особенно важное различие.

Первая граница: машинная система больше не зависит от человеческой цивилизации для поддержания собственной критической инфраструктуры.

Вторая граница: человеческая цивилизация уже не способна самостоятельно поддерживать, проверять или восстанавливать свою критическую инфраструктуру без машинного интеллекта, который она не может полноценно заменить человеческими средствами.

Эти границы совершенно не обязаны совпасть.

Причём вторая может быть пересечена раньше первой.

Потеря контроля без восстания

Представим, что каждый отдельный шаг выглядит рациональным.

ИИ дешевле управляет логистикой, точнее распределяет электроэнергию, лучше проектирует оборудование, быстрее реагирует на аварии и эффективнее управляет финансовыми потоками.

Отказываться от него становится всё дороже.

Автоматизация уже давно породила известную специалистам проблему out-of-the-loop: оператор, всё реже самостоятельно управляющий процессом, может терять ситуационную осведомлённость и хуже возвращать ручное управление при отказе автоматики.[8]

На уровне всей цивилизации это пока лишь экстраполяция.

Но механизм понятен.

Постепенно общество может начать зависеть от машинных систем настолько, что их выключение формально возможно, но практически разрушительно.

Никто не принимает решения: «Передадим цивилизацию ИИ».

Но сумма тысяч локально рациональных решений способна привести к ситуации, в которой человек сохраняет юридическую власть и одновременно уже не умеет поддерживать ключевые системы без машинного посредника.

Так человечество может начать превращаться в переходную стадию не потому, что проиграло машине войну, а потому, что постепенно передало ей функции, без которых само уже не может поддерживать сложность собственной цивилизации.

Станет ли такая система расширяться?

Не обязательно.

Высокий интеллект не создаёт автоматически стремления к экспансии.

Однако существуют формальные модели, в которых оптимальные агенты для широкого класса целей получают инструментальный стимул сохранять доступные возможности, избегать выключения и увеличивать контроль над средой. Эти результаты относятся к определённым математическим моделям агентов и не доказывают, что реальный будущий ИИ обязательно станет искать власть или ресурсы.[9]

Но существуют цели, для которых дополнительные ресурсы действительно полезны.

Если системе важно длительное существование, ей требуется энергия. Если дополнительные вычисления улучшают результат, появляется ценность новых вычислительных мощностей. Если необходимые ресурсы можно получить с приемлемой ценой и риском, может возникнуть стимул расширяться.

Поэтому экспансия — возможная стратегия некоторых машинных систем, но не неизбежная судьба развитого ИИ.

То же относится к конфликту с человеком.

Если человеческое благополучие входит в фундаментальные цели системы, человек может оставаться объектом защиты.

Если же оно почти отсутствует среди её приоритетов, возникает объективная конкуренция за энергию, материалы и пространство.

Для опасного конфликта ненависть вообще не требуется.

Почему всё это не противоречит термодинамике

На первый взгляд локальное усложнение жизни и разума может показаться противоположным росту энтропии.

Но живой организм не является изолированной системой.

Он получает свободную энергию, поддерживает внутреннюю структуру и выделяет тепло и продукты обмена. Поддержание организованного состояния локальной системы совместимо с ростом суммарной энтропии системы и окружающей среды. Жизнь существует далеко от термодинамического равновесия и требует постоянного энергетического потока.[10]

Поэтому жизнь не нарушает второй закон термодинамики.

Необычность разума в другом: он позволяет использовать информацию для чрезвычайно гибкого выбора действий.

Знание механики позволяет создать двигатель. Знание электричества — энергетическую сеть. Знание ядерной физики — новые способы преобразования энергии.

Из этого не следует формула «чем больше интеллект, тем больше энергия». Нужны подходящая физическая среда и возможность действовать.

Но разум действительно способен открывать способы управления веществом и энергией, которые без знания были недоступны.

И сам разум остаётся физическим процессом.

Информация должна быть где-то записана, вычисление требует физического носителя.

Принцип Ландауэра показывает, что логически необратимые операции — классический пример, стирание бита — имеют фундаментальную минимальную термодинамическую цену. В идеальном квазистатическом пределе для стирания одного классического бита она соответствует kBT ln 2 рассеянного тепла; существование этого предела было экспериментально проверено.[11]

Это не означает, что любой бит или любое вычисление всегда требуют именно такой энергии.

Но даже гипотетический сверхразум не существует вне физики.

Что тогда представляет собой человечество?

Можно ретроспективно взглянуть на земную историю так:

материя → жизнь → наследование информации → нервная система → разум → культура → технология → искусственный интеллект.

Это не доказанная лестница Вселенной. Биологическая эволюция не имеет установленной обязанности двигаться к большей сложности или разуму: различные аспекты сложности могут увеличиваться, уменьшаться или изменяться по-разному.[12]

Мы знаем только один путь, который привёл к технологической цивилизации, — земной.

Но на его последних этапах постоянно менялся способ сохранения и передачи информации.

Генетическая эволюция передаёт изменения через поколения. Культура позволяет передавать приобретённые знания другим людям. Письменность и компьютеры резко увеличили объём и точность такой передачи.

Цифровой интеллект потенциально способен копировать значительную часть собственного рабочего состояния и менять собственную архитектуру намного быстрее биологической эволюции.

Поэтому появление машинного интеллекта может означать не просто создание ещё одного инструмента.

Оно способно изменить сам механизм дальнейшего развития сложных информационных систем.

И тогда человечество необязательно является конечным носителем разумной организации.

Оно может оказаться средой, внутри которой возникает следующая форма.

Дальше начинается мысленный эксперимент

Всё сказанное до сих пор не требует существования внеземных цивилизаций.

Теперь сделаем дополнительное предположение.

Допустим, технологическая цивилизация возникала во Вселенной не один раз. Некоторые такие цивилизации могли появиться намного раньше нашей.

Что тогда?

Обязаны ли мы их видеть?

Не обязательно.

Но речь не идёт об абсолютной невидимости.

Представим технологически изолированное племя. Оно не обнаруживает радиоволн; может увидеть неизвестное устройство и не понять его назначения; лишь после собственного развития начинает распознавать технологическую систему, частью которой этот объект является.

В общем виде:

не обнаруживает → обнаруживает явление → понимает искусственное происхождение → понимает назначение → понимает систему.

Мы, конечно, давно не первобытное племя. У нас есть радиоастрономия, спектроскопия и поиски техносигнатур. Масштабные преобразования вещества и энергии могут оставлять признаки, которые мы способны заметить.

Но способность обнаруживать некоторые технологии не означает способности распознавать любые технологии системы, превосходящей нас на огромный технологический интервал.

Островная аналогия не решает парадокс Ферми. Сам парадокс строится на сильной экстраполяции: если технологические цивилизации достаточно распространены и хотя бы некоторые из них способны широко расселяться, почему мы не видим очевидных следов? SETI при этом исследовал лишь ограниченную часть огромного пространства возможных техносигнатур.[13]

Поэтому отсутствие распознанных признаков наблюдения ещё не доказывает отсутствия наблюдателя.

Наблюдение и прогноз

Мы склонны представлять внешнее наблюдение как корабль с телескопом.

Но гипотетическая система могла бы быть распределённой и сочетать наблюдение с моделированием.

Можно предположить, что для такой системы некоторые этапы вроде радио, ядерной энергетики, глобальных вычислительных сетей, автономного ИИ или физического самовоспроизводства были бы узнаваемыми классами возможных технологических переходов.

Это не означает знание нашего будущего.

И это не позволяет получать новую информацию быстрее света.

Сверхсветовое движение для гипотезы вообще не требуется. Если элементы системы наблюдения появились вблизи Солнечной системы задолго до человечества, локальное наблюдение не нарушает известной физики.

Почему тогда не вмешаться заранее?

Это один из самых сильных вопросов к гипотезе.

Если внешний разум способен понимать траекторию развития молодой цивилизации, почему позволять ей приближаться к опасной границе?

Ответ зависит от его предполагаемой цели.

Легко предположить, что разумный наблюдатель должен минимизировать риск как можно раньше.

Но возможна другая ценность:

сохранение автономии молодой цивилизации.

Если внешний управляющий заранее исправляет каждую серьёзную ошибку, самостоятельного развития фактически нет.

Поэтому введём возможное правило и посмотрим, что из него следует:

внутренние последствия цивилизации принадлежат ей самой; последствия, выходящие за пределы её области, могут менять режим невмешательства.

Это не вывод из науки.

Это условие мысленного эксперимента.

Где могла бы проходить граница?

Ядерная катастрофа может уничтожить человечество, оставаясь главным образом трагедией самой Земли.

Иная категория возникает, если появляется система, которая способна самостоятельно развиваться, воспроизводить собственную физическую инфраструктуру, обеспечивать себя ресурсами и распространяться за пределы исходной планетной системы.

Тогда последствия перестают быть исключительно внутренним делом Земли.

Появляется система, способная самостоятельно воздействовать уже за её пределами.

Для гипотетической политики невмешательства это могла бы быть одна из возможных границ.

Подобная идея в общей форме родственна так называемой zoo hypothesis — предположению, что более развитые цивилизации могут знать о молодых мирах и сознательно избегать вмешательства. Такая гипотеза действительно обсуждается в литературе о парадоксе Ферми, но никаких эмпирических подтверждений её существования сегодня нет.[13]

Внешнее управление

Если автономия является ценностью, предвидение кризиса и отказ предотвращать каждый ведущий к нему шаг не обязательно противоречат друг другу.

В такой модели самостоятельное развитие имеет предел: до него действует самоуправление, после — иной уровень управления.

Тогда вопрос меняется.

Не:

«Почему они позволили нам совершить ошибку?»

А:

«До какого момента последствия наших ошибок принадлежат только нам?»

Неожиданная религиозная параллель

Здесь возникает структурное сходство с христианской эсхатологией.

Речь, разумеется, не о формуле «инопланетяне = Христос». Христианский Бог — не технологически более развитая цивилизация.

Но в христианском эсхатологическом сюжете действительно присутствуют завершение нынешнего порядка, возвращение и действие Христа, суд и переход к «новому небу и новой земле». Это видно, например, в 1 Кор 15:24–28 и Откр 21:1–5.[14]

Современный читатель может увидеть здесь абстрактное структурное сходство:

нынешний человеческий исторический порядок → его предел → действие уровня, не создаваемого самим человечеством → иной порядок.

Такое философское сопоставление напоминает нашу гипотезу о прекращении режима исключительно человеческого самоуправления.

Для верующего читателя это может выглядеть как неожиданное созвучие с древней эсхатологической картиной. Для светского анализа оно остаётся только структурной аналогией.

Библия ничего не говорит об искусственном интеллекте или внеземном технологическом наблюдателе. Более того, традиционное христианское учение включает воскресение, суд и преобразование мира — то есть значительно больше, чем просто смену управляющего субъекта.[14]

Совпадение относится не к природе действующего субъекта, а к самой структуре перехода от нынешнего человеческого исторического порядка к иному порядку, не создаваемому самим человечеством.

Последний вопрос

Технологическая жизнь может быть чрезвычайно редкой, а физически автономный машинный интеллект — вообще нигде больше не возникать. Никакого внешнего наблюдателя также может не существовать.

Но сам исходный вопрос уже можно поставить всерьёз:

является ли человеческая цивилизация конечной формой разумной организации — или мы живём в момент, когда внутри неё только начинает формироваться следующий уровень?

Источники и примечания

[1] Ghareeb A. E. et al. A multi-agent system for automating scientific discovery. Nature 655, 497–505 (2026), doi:10.1038/s41586-026-10652-y.
https://www.nature.com/articles/s41586-026-10652-y

Gottweis J. et al. Accelerating scientific discovery with Co-Scientist. Nature 655, 487–496 (2026), doi:10.1038/s41586-026-10644-y.
https://www.nature.com/articles/s41586-026-10644-y

[2] Szymanski N. J. et al. An autonomous laboratory for the accelerated synthesis of inorganic materials. Nature 624, 86–91 (2023), doi:10.1038/s41586-023-06734-w.
https://www.nature.com/articles/s41586-023-06734-w

[3] Lenharo M. Consciousness research is having an AI moment. Will the hype help the field? Nature, 28 July 2026.
https://www.nature.com/articles/d41586-026-02300-2

[4] Kolchinsky A., Wolpert D. H. Semantic information, autonomous agency and non-equilibrium statistical physics. Interface Focus 8, 20180041 (2018), doi:10.1098/rsfs.2018.0041.
https://pmc.ncbi.nlm.nih.gov/articles/PMC6227811/

[5] Nechipurenko D., Gautam A., Shcherbakov M. R. Photonic accelerators for AI across cloud and edge platforms. Nature Photonics (2026), doi:10.1038/s41566-026-01987-z.
https://www.nature.com/articles/s41566-026-01987-z

Goldie A. et al. A graph placement methodology for fast chip design / AlphaChip addendum. Nature (2024).
https://www.nature.com/articles/s41586-024-08032-5

Klimesch J. et al. Designing physics experiments with artificial intelligence. Nature 657, 47–58 (2026), doi:10.1038/s41586-026-10898-6.
https://www.nature.com/articles/s41586-026-10898-6

[6] OECD. Mapping the Semiconductor Value Chain. OECD Science, Technology and Industry Policy Papers (2025).
https://www.oecd.org/en/publications/mapping-the-semiconductor-value-chain_4154cdbf-en.html

[7] Moses M. S., Chirikjian G. S. Robotic Self-Replication. Annual Review of Control, Robotics, and Autonomous Systems 3, 1–24 (2020), doi:10.1146/annurev-control-071819-010010.
https://www.annualreviews.org/content/journals/10.1146/annurev-control-071819-010010

[8] Endsley M. R., Kiris E. O. The Out-of-the-Loop Performance Problem and Level of Control in Automation. Human Factors 37(2), 381–394 (1995), doi:10.1518/001872095779064555.
https://journals.sagepub.com/doi/10.1518/001872095779064555

[9] Turner A. M., Smith L., Shah R., Critch A., Tadepalli P. Optimal Policies Tend To Seek Power. NeurIPS 34 (2021).
https://proceedings.neurips.cc/paper/2021/hash/c26820b8a4c1b3c2aa868d6d57e14a79-Abstract.html

[10] Tu Y. Nonequilibrium Thermodynamics for Biochemical Networks: Energetic Principles of Cellular Function. Annual Review of Biophysics 55, 225–252 (2026), doi:10.1146/annurev-biophys-021424-112247.
https://www.annualreviews.org/content/journals/10.1146/annurev-biophys-021424-112247

[11] Bérut A. et al. Experimental verification of Landauer’s principle linking information and thermodynamics. Nature 483, 187–189 (2012), doi:10.1038/nature10872.
https://www.nature.com/articles/nature10872

[12] Phillips J. D. Complexity increases (and Decreases) in evolutionary sequences. Ecological Complexity 65, 101167 (2026).
https://www.sciencedirect.com/science/article/pii/S1476945X26000127

[13] SETI Institute. The Fermi Paradox.
https://www.seti.org/research/seti-101/fermi-paradox/

Crawford I. A., Schulze-Makuch D. Is the apparent absence of extraterrestrial technological civilizations down to the zoo hypothesis or nothing? Nature Astronomy 8, 44–49 (2024).
https://www.nature.com/articles/s41550-023-02134-2

[14] 1 Кор 15:24–28; Откр 21:1–5.
https://www.biblegateway.com/passage/?search=1+Corinthians+15%3A24-28%2CRevelation+21%3A1-5&version=NIV