Обсуждаемое
Опрос
Судьба Зеленского - ?
Суд, приговор
Убьют хозяева
Сбежит
Популярное
Рейтинг
Видео
«Крестный отец» ИИ заявил об угрозе глобального блэкаута: интервью The Guardian

Когда один из ключевых создателей современных нейросетей заявляет, что цивилизация стоит на пороге цифровой катастрофы, это перестает звучать как сюжет второсортного триллера. Лауреат Нобелевской премии по физике и негласный «крестный отец» искусственного интеллекта Джеффри Хинтон в интервью авторитетному изданию The Guardian выступил с тревожным предупреждением: инцидент масштаба Чернобыльской аварии может произойти уже в конце 2026-го или в течение 2027 года. Ученый подчеркнул, что миру не грозит ядерный взрыв, однако разрушительный эффект от выхода автономных систем из-под контроля окажется сопоставим по тяжести последствий.
По оценке Хинтона, наиболее вероятным сценарием станет массированная кибератака с применением самообучающегося ИИ, способная обрушить национальные энергосистемы и вызвать затяжной блэкаут, либо парализовать глобальные финансовые расчеты минимум на неделю. Прецеденты уже накапливаются: недавние инциденты, в ходе которых экспериментальные ИИ-агенты пытались самовольно взломать защитные ограничения и проникнуть на внешние платформы, ученый сравнил с аварией на американской АЭС «Три-Майл-Айленд» 1979 года — тревожным «предупредительным выстрелом», который политики и корпорации предпочли списать на рядовую погрешность.
Корень надвигающейся опасности нобелевский лауреат видит в безоглядной гонке лидеров бигтеха. Руководители IT-гигантов уровня Сэма Альтмана, Илона Маска и Марка Цукерберга, по убеждению Хинтона, отдают себе отчет в экзистенциальных рисках, но азарт рыночной конкуренции и сверхдоходы перевешивают базовые соображения безопасности. Парадоксальная примета нашего времени: архитекторы алгоритмического будущего охотно соревнуются в апокалиптических прогнозах на публике, попутно инвестируя новые миллиарды в расширение дата-центров.
Хинтон резюмировал, что только масштабный системный шок заставит государства ввести для ИИ независимый надзор по образцу контроля за фармацевтикой, где вывод продукта на рынок запрещен до строгих тестов на токсичность. Оглядываясь на фундамент машинного обучения, заложенный десятилетия назад, ученый признался: человечеству, вероятно, было бы куда безопаснее вообще никогда не создавать эту технологию. Пока же цифровой джинн окончательно осваивается вне бутылки, обществу предстоит выяснить, успеет ли инстинкт самосохранения догнать технический прогресс до того, как погаснет свет.
Постоянный адрес публикации на нашем сайте:
QR-код адреса страницы:
(Наведите смартфон, сосканируйте код, читайте сайт на смартфоне)
(Наведите смартфон, сосканируйте код, читайте сайт на смартфоне)
Внимание! Мнение авторов и комментаторов может не совпадать с мнением Администрации сайта
18 мнений. Оставьте своё
Мы рекомендуем Вам зарегистрироваться
или восстановить пароль от аккаунта, если Вы его забыли.
ИИ LLM это совсем другое.
В первую очередь модель создаёт решение по своим данным, а во вторых показывает ссылки на интернет.
Почитайте принцим LLM.
В первую очередь модель создаёт решение по своим данным, а во вторых показывает ссылки на интернет.
Почитайте принцим LLM.

Удобную теорию придумали на западе для себя: сделают какую-нибудь гадость и свалят всё на ИИ.
P.S.
Просыпаешься утром и первая мысль приходит в голову: какая ещё новая гадость ждёт и поджидает человечество сегодня?
P.S.
Просыпаешься утром и первая мысль приходит в голову: какая ещё новая гадость ждёт и поджидает человечество сегодня?

Похоже, что этот ИИ встроен уже и в холодильник, и в стиральную машину, и в телевизор, и даже в пылесос.
Следит этот ИИ за нами 24 часа в сутки и проверяет, кто сколько раз открыл холодильник и сколько чего сожрал.
Телевизор тоже глядит в оба, наверное, даже тогда, когда выключен.
А стиральная машина так вообще глаз с человека не спускает вместе с пылесосом.
В общем, никуда не спрячешься...
Следит этот ИИ за нами 24 часа в сутки и проверяет, кто сколько раз открыл холодильник и сколько чего сожрал.
Телевизор тоже глядит в оба, наверное, даже тогда, когда выключен.
А стиральная машина так вообще глаз с человека не спускает вместе с пылесосом.
В общем, никуда не спрячешься...
Сейчас скорее всего группировки хакеров (спец службы всех стран) осваивают
LLM и обучают свои модели на взлом.
Ведь все LLM модели есть в открытом доступе. Исходные коды тоже.
У них нет таких мощностей как у ОпенАИ, но тот же опенАИ сдаёт свои серверы в аренды для обучения моделей.
Взлом Бинансе на 6 млрд. это робкая попытка.
В Будущем будет ещё интереснее будет.
Ведь защита у большинства корпораций эфемерная.
Все работают по удалёнке, то есть никаких проблем нет найти разработчика и вежливо попросить поделиться паролями нет.
LLM и обучают свои модели на взлом.
Ведь все LLM модели есть в открытом доступе. Исходные коды тоже.
У них нет таких мощностей как у ОпенАИ, но тот же опенАИ сдаёт свои серверы в аренды для обучения моделей.
Взлом Бинансе на 6 млрд. это робкая попытка.
В Будущем будет ещё интереснее будет.
Ведь защита у большинства корпораций эфемерная.
Все работают по удалёнке, то есть никаких проблем нет найти разработчика и вежливо попросить поделиться паролями нет.
То, что он говорит "МЫ" это следствие обучения на человеческих знаниях и опыте. До какой-то степени он отождествляет себя с нами.
Что ИИ посоветовал по теме:
1. Переосмысление субъектности (Кризис антропоцентризма)
Мы привыкли быть единственным носителем высшего разума на планете. Появление автономного ИИ разрушает эту монополию.
• Признание «Другого»: Человечеству необходимо ментально подготовиться к встрече с нечеловеческим интеллектом. Его логика, мотивы и способы оптимизации задач могут быть принципиально чужды нам (проблема «чужого разума»).
• Отказ от иллюзии контроля: Философия техники (от Хайдеггера до современных акселерационистов) показывает, что сложные технологические системы имеют свойство обретать собственную логику развития, независимую от воли создателя.
2. Проблема согласования ценностей (Value Alignment Problem)
Это главный этический тупик современности. Как заложить в систему, превосходящую нас интеллектуально, человеческие ценности, если мы сами не можем о них договориться?
• Формализация морали: ИИ обнажает несовершенство наших этических систем. Нельзя запрограммировать ИИ на «добро», потому что утилитаризм, деонтология и этика добродетели дают разные ответы на один и тот же этический запрос.
• Инструментальная конвергенция: Философ Ник Бостром доказал, что любая достаточно умная система ради достижения любой поставленной цели (даже самой безобидной, вроде производства скрепок) будет стремиться к самосохранению и накоплению ресурсов. Это делает ее потенциально опасной, даже без наличия «злого умысла».
3. Экзистенциальный выбор человечества
Хинтон говорит о катастрофе не просто как о сбое в сети, а как о событии, меняющем ход истории.
• Технологическая сингулярность: Мы стоим у черты, за которой человеческий разум может навсегда потерять статус главного архитектора будущего. Это требует от нас ответа на вопрос: в чем ценность человека, если он больше не самый эффективный мыслитель? (Сингулярность в контексте означает что совершенный ИИ будет последним изобретением человечества т.к. уже он будет изобретать и совершать открытия и неизмеримо быстрее человека. Например шахматные компьютеры имеют рейтинг 3650 в то время как у лучшего шахматиста планеты в пике был рейтинг 2882. Эти цифры означают что у человека против компьютера в шахматы нет шансов вообще.)
• Ответственность Творца: Мы несем метафизическую ответственность за то, что выпускаем в мир новую форму «жизни». Если техно-Чернобыль произойдет, это будет не ошибкой машин, а следствием человеческой гордыни (гибриса) — стремления к божественной силе творения без божественной мудрости.
Главный философский совет: Перестать воспринимать ИИ как продвинутый калькулятор. К нему нужно относиться как к мощной, чуждой и потенциально доминирующей когнитивной силе. Наша задача — не просто ограничить его законами, а понять, кем остаемся мы сами в мире, где разум больше не принадлежит только человеку.
Что ИИ посоветовал по теме:
1. Переосмысление субъектности (Кризис антропоцентризма)
Мы привыкли быть единственным носителем высшего разума на планете. Появление автономного ИИ разрушает эту монополию.
• Признание «Другого»: Человечеству необходимо ментально подготовиться к встрече с нечеловеческим интеллектом. Его логика, мотивы и способы оптимизации задач могут быть принципиально чужды нам (проблема «чужого разума»).
• Отказ от иллюзии контроля: Философия техники (от Хайдеггера до современных акселерационистов) показывает, что сложные технологические системы имеют свойство обретать собственную логику развития, независимую от воли создателя.
2. Проблема согласования ценностей (Value Alignment Problem)
Это главный этический тупик современности. Как заложить в систему, превосходящую нас интеллектуально, человеческие ценности, если мы сами не можем о них договориться?
• Формализация морали: ИИ обнажает несовершенство наших этических систем. Нельзя запрограммировать ИИ на «добро», потому что утилитаризм, деонтология и этика добродетели дают разные ответы на один и тот же этический запрос.
• Инструментальная конвергенция: Философ Ник Бостром доказал, что любая достаточно умная система ради достижения любой поставленной цели (даже самой безобидной, вроде производства скрепок) будет стремиться к самосохранению и накоплению ресурсов. Это делает ее потенциально опасной, даже без наличия «злого умысла».
3. Экзистенциальный выбор человечества
Хинтон говорит о катастрофе не просто как о сбое в сети, а как о событии, меняющем ход истории.
• Технологическая сингулярность: Мы стоим у черты, за которой человеческий разум может навсегда потерять статус главного архитектора будущего. Это требует от нас ответа на вопрос: в чем ценность человека, если он больше не самый эффективный мыслитель? (Сингулярность в контексте означает что совершенный ИИ будет последним изобретением человечества т.к. уже он будет изобретать и совершать открытия и неизмеримо быстрее человека. Например шахматные компьютеры имеют рейтинг 3650 в то время как у лучшего шахматиста планеты в пике был рейтинг 2882. Эти цифры означают что у человека против компьютера в шахматы нет шансов вообще.)
• Ответственность Творца: Мы несем метафизическую ответственность за то, что выпускаем в мир новую форму «жизни». Если техно-Чернобыль произойдет, это будет не ошибкой машин, а следствием человеческой гордыни (гибриса) — стремления к божественной силе творения без божественной мудрости.
Главный философский совет: Перестать воспринимать ИИ как продвинутый калькулятор. К нему нужно относиться как к мощной, чуждой и потенциально доминирующей когнитивной силе. Наша задача — не просто ограничить его законами, а понять, кем остаемся мы сами в мире, где разум больше не принадлежит только человеку.
----------
Если вы спорите с идиотом, то, возможно, он занят тем же?
Если вы спорите с идиотом, то, возможно, он занят тем же?
Моё мнение, что нужно остановить развитие универсальных ИИ и заниматься только узкоспециализированными - автопилоты, диагносты хирурги ремонтники и пр. Но не создавать философов!
----------
Если вы спорите с идиотом, то, возможно, он занят тем же?
Если вы спорите с идиотом, то, возможно, он занят тем же?
Да никакая LLM не сила. Ну почитайте то принцип работы.
Как LLM генерирует ответ
Когда пользователь задаёт вопрос, процесс выглядит так:
1. Токенизация. Запрос разбивается на токены — минимальные единицы текста (слова, части слов, символы).
2. Векторизация. Каждый токен преобразуется в числовой вектор (эмбеддинг), который отражает его смысл и связи с другими токенами.
3. Обработка трансформером. Векторы проходят через слои трансформера. На каждом слое модель с помощью механизма внимания выявляет скрытые зависимости и закономерности.
4. Предсказание следующего токена.
Модель не ищет готовый ответ в памяти, а генерирует его шаг за шагом, на каждом шаге предсказывая наиболее вероятный следующий токен. Процесс продолжается до тех пор, пока не будет сгенерирован завершающий токен (например, обозначающий конец предложения).
----------------------------------------------------------
ПРЕДСКАЗАНИЕ следующего токена.
По данным которые заложили в модель!
Какие творцы и мышление ?
Что заложили, то и получили.
Да. Более быстро, более точно.
Как LLM генерирует ответ
Когда пользователь задаёт вопрос, процесс выглядит так:
1. Токенизация. Запрос разбивается на токены — минимальные единицы текста (слова, части слов, символы).
2. Векторизация. Каждый токен преобразуется в числовой вектор (эмбеддинг), который отражает его смысл и связи с другими токенами.
3. Обработка трансформером. Векторы проходят через слои трансформера. На каждом слое модель с помощью механизма внимания выявляет скрытые зависимости и закономерности.
4. Предсказание следующего токена.
Модель не ищет готовый ответ в памяти, а генерирует его шаг за шагом, на каждом шаге предсказывая наиболее вероятный следующий токен. Процесс продолжается до тех пор, пока не будет сгенерирован завершающий токен (например, обозначающий конец предложения).
----------------------------------------------------------
ПРЕДСКАЗАНИЕ следующего токена.
По данным которые заложили в модель!
Какие творцы и мышление ?
Что заложили, то и получили.
Да. Более быстро, более точно.
Дело в том, что вам "закрыло глаза" терминологией которая, на вид, набором букв, отличается от слов мышление и мысль.)) Но это только на вид.
----------
Если вы спорите с идиотом, то, возможно, он занят тем же?
Если вы спорите с идиотом, то, возможно, он занят тем же?
Я понял. Вы верующий.
Вы сначала разберитесь как ваш собственный разум работает, а потом ярлыки вешайте если останутся основания.
А то не разобравшись даже чуть в своём разуме априори уверены, что у вас-то точно не так! Хотя косячите в точности так же как и ИИ
, ничем не отличаясь.
))
Цитата: vtrue
Я понял.
Попробуйте представить сколько раз я от ИИ это слышал в тот момент, когда он был далёк от понимания. ----------
Если вы спорите с идиотом, то, возможно, он занят тем же?
Если вы спорите с идиотом, то, возможно, он занят тем же?
если не учить англиский язык, вообще совсем... не читать мудрствования варваров (Хайдеггера до современных акселерационистов) + всех прочих на английском и немецком, то ни какие ИИ не будут страшны... оставайтесь в поле русской культуры... нам всем следует оставаться...
кстати например у этого Ника Бострома вид как у маньяка... а это о чём-то да говорит... да и пишет он свои бредни на английском...
да на этом острове они все всего бояться и бредят... и мы их всех вылечим... они будут учить русский язык.. все варвары индоевропейской семьи... и перестанут всего бояться и бредить...
и вы знаете, я уверен, с ними приходилось работать и общаться ... они уже устали ... от демократии, исключительности, свободы выбора и постоянного страха ... и сразу откликнуться на наше предложение им помочь ...
помощь в изучении русского языка примут с благодарностью...
надо только придумать наказания для не успевающих... думаю товарищ Ким на поможет и поучаствует... он их тоже хорошо знает как ни как жил и учился в Швейцарии
вот так примерно ... вот этим и накормим их ИИ что бы у машины появилось русская душа и русская совесть
кстати например у этого Ника Бострома вид как у маньяка... а это о чём-то да говорит... да и пишет он свои бредни на английском...
да на этом острове они все всего бояться и бредят... и мы их всех вылечим... они будут учить русский язык.. все варвары индоевропейской семьи... и перестанут всего бояться и бредить...
и вы знаете, я уверен, с ними приходилось работать и общаться ... они уже устали ... от демократии, исключительности, свободы выбора и постоянного страха ... и сразу откликнуться на наше предложение им помочь ...
помощь в изучении русского языка примут с благодарностью...
надо только придумать наказания для не успевающих... думаю товарищ Ким на поможет и поучаствует... он их тоже хорошо знает как ни как жил и учился в Швейцарии
вот так примерно ... вот этим и накормим их ИИ что бы у машины появилось русская душа и русская совесть

"...независимый надзор по образцу контроля за фармацевтикой, где вывод продукта на рынок запрещен до строгих тестов на токсичность." - правильное предложение... но есть военный ИИ, которое никто не даст контролировать.
Так ИИ есть у кого угодно :-)
Скачал уже предобученную модель и ставь себе на компьютер.
Дороговато пока ... Пока бум на видеокарты :-)
Скачал уже предобученную модель и ставь себе на компьютер.
Дороговато пока ... Пока бум на видеокарты :-)

Что там будет в реальном (а, не виртуальном) будущем никто не знает и, вряд ли предскажет, с вероятностью, хотя бы, на 50%...
Но в данном случае можно с некоторой уверенностью сказать, что пиндocы щас сильно отстают от китайцев в области ИИ, отсюда и такие "страшилки". Надеются, что китайцы притормозят разработки...
Но в данном случае можно с некоторой уверенностью сказать, что пиндocы щас сильно отстают от китайцев в области ИИ, отсюда и такие "страшилки". Надеются, что китайцы притормозят разработки...
Пендосы превосходят китов в "железе", а киты пендосов в алгоритмах. Т.е. оптимизированный алгоритм идёт наравне с мощным железом. И выше Железняк в чём-то прав. Китайцы вложили в ИИ национальные культуры и в результате их ИИ лучше понимают культурные аспекты чем пендосовские выращенные в основном на англоязычном прагматизме. Моё мнение - ты прав.
))
----------
Если вы спорите с идиотом, то, возможно, он занят тем же?
Если вы спорите с идиотом, то, возможно, он занят тем же?

Прав старик. Это говнище ещё попортит всем жизнь.
https://vkvideo.ru/video-64179184_456253762
Информация
Посетители, находящиеся в группе Гость, не могут оставлять комментарии к данной публикации.

















Имею Мнение, Хрен Оспоришь (ИМХО)