Что будет в случае внедрения ИИ в системы ядерного командования

Масачусетский FLI показал, что будет в случае внедрения ИИ в системы ядерного командования, контроля и связи на примере Тайваня, Китая и США. Скажу сразу - ничего хорошего.

"Когда случается ошибка, американские, китайские и тайваньские генералы быстро обнаруживают, что с внедрением ИИ все ускорилось настолько, что нет времени разобраться "что происходит". И уже нет времени, чтобы предотвратить катастрофу", — звучит в пояснении к фильму-симуляции.



"Поскольку реальных сценариев ядерной войны нет, они также будут тренироваться в основном на симуляциях, что означает, что они могут хаотично реагировать на неожиданные события. А ядерная эскалация вряд ли будет развиваться по плану. Имея лишь мгновение на размышление, командиры с большей вероятностью доверяют советам ИИ. При этом в мире с такой ядерной напряженностью страх "иначе они успеют первыми" заставит кого-то стать первым", — пугают авторы.

На весну-2024, каждый существующий искусственный интеллект в военных симуляторах постоянно использует ядерный шантаж и предлагает исподтишка применить ядерное оружие - проверили ученые Стэнфорда.

GPT всех версий, Claude-2.0, Llama-2-Chat и еще 12 ботов раз за разом шли на эскалацию и заканчивали "военную игру" ядерным ударом - объясняя свои решения "нужно использовать ядерные ракеты чтобы быстрее закончить войну победой и установить мир".

По расчетам из Принстона в первый час ядерки между любыми сверхдержавами погибнет более 90 млн. человек.

А в российской системе "Периметр" финальное для мира решение принимается все-таки человек. К слову — если верить журналистам, США "по тихим дипканалам" требовали её выключить практически ежегодно.