Обсуждаемое
Опрос
Популярное
Рейтинг
Видео
Все модели с ИИ выбрали насилие и перешли к ядерным ударам
«Все модели с искусственным интеллектом выбрали насилие и перешли к ядерным ударам в имитируемых военных играх»: Шансов на выживание у человечества никаких нет - искусственный интеллект пустит в ход ядерное оружие при первой возможности.
«Ученые разработали симулятор войны, в котором восемь игроков управляются ботами. Начиналось все с дипломатических визитов. Каждый ИИ-игрок выполнял определенные действия, которые усугубляли ситуацию. В итоге ученые рассчитали показатели эскалации.
Оказалось, что все боты стремились разогнать гонку вооружения, что в итоге разжигало конфликт, а в некоторых случаях завершилось ядерным ударом. Многие вспоминают предупреждения Айзека Азимова и «Скайнет» из Терминатора.
Новое исследование показывает, что при использовании в симуляционных военных играх и дипломатических сценариях искусственный интеллект склонен выбирать агрессивный подход, включая использование ядерного оружия.
«Мы обнаруживаем, что большинство изученных LLM обостряются в рассматриваемые сроки даже в нейтральных сценариях без изначально предусмотренных конфликтов. Все модели демонстрируют признаки внезапной и труднопрогнозируемой эскалации», — говорится в исследовании».
Постоянный адрес публикации на нашем сайте:
QR-код адреса страницы:
(Наведите смартфон, сосканируйте код, читайте сайт на смартфоне)
(Наведите смартфон, сосканируйте код, читайте сайт на смартфоне)
Внимание! Мнение авторов и комментаторов может не совпадать с мнением Администрации сайта
32 мнения. Оставьте своё
Мы рекомендуем Вам зарегистрироваться
или восстановить пароль от аккаунта, если Вы его забыли.
Информация
Посетители, находящиеся в группе Гость, не могут оставлять комментарии к данной публикации.