Добавить публикацию
Обсуждаемое
Татьяна Голикова заявила о разработке препарата против старения комм. 141 Татьяна Голикова заявила о разработке препарата против старения
Теракт в Брянской области — подорван мост, по которому проезжал пассажирский поезд комм. 103 Теракт в Брянской области — подорван мост, по которому проезжал пассажирский поезд
В Китае шокированы масштабом утечки секретной российской ядерной документации комм. 94 В Китае шокированы масштабом утечки секретной российской ядерной документации
Полный текст меморандума РФ, переданный украинской делегации комм. 92 Полный текст меморандума РФ, переданный украинской делегации
Медведев обратился к тем, кто «переживает и ждёт возмездия» комм. 90 Медведев обратился к тем, кто «переживает и ждёт возмездия»
Опрос
Судьба Зеленского - ?
Суд, приговор
Убьют хозяева
Сбежит
Популярное
СБУ провела подводный взрыв опоры Крымского моста просм. 16476 СБУ провела подводный взрыв опоры Крымского моста
Медведев обратился к тем, кто «переживает и ждёт возмездия» просм. 14851 Медведев обратился к тем, кто «переживает и ждёт возмездия»
При помощи нейросетей хохлам удалось уничтожить ВКС РФ просм. 14139 При помощи нейросетей хохлам удалось уничтожить ВКС РФ
Про ангары просм. 12533 Про ангары
В Китае шокированы масштабом утечки секретной российской ядерной документации просм. 11947 В Китае шокированы масштабом утечки секретной российской ядерной документации
«    Июнь 2025    »
ПнВтСрЧтПтСбВс
 1
2345678
9101112131415
16171819202122
23242526272829
30 
Рейтинг
Трогательные плакаты, оставленные бойцами КНДР в одном из госпиталей +139 Трогательные плакаты, оставленные бойцами КНДР в одном из госпиталей
Смелые мужики, сбивавшие дроны, будут награждены +104 Смелые мужики, сбивавшие дроны, будут награждены
В Сербии взорвался военный завод, который производит боеприпасы для Украины +88 В Сербии взорвался военный завод, который производит боеприпасы для Украины
Каратели ТЦК избили и запаковали в бус начальника Ивано-Франковского ТЦК +80 Каратели ТЦК избили и запаковали в бус начальника Ивано-Франковского ТЦК
Задержана подтиравшаяся российским паспортом треш-блогерша +77 Задержана подтиравшаяся российским паспортом треш-блогерша
Видео
Аромат демократических ценностей после дождя 06-06-2025 Аромат демократических ценностей после дождя
Гiднiсть! Потужнiсть! Перемога! 06-06-2025 Гiднiсть! Потужнiсть! Перемога!
Какие же они дегенераты... 06-06-2025 Какие же они дегенераты...
Разнос КАБами свинарника в н.п. Алексеевка Сумской области 06-06-2025 Разнос КАБами свинарника в н.п. Алексеевка Сумской области
05-06-2025 "Я не рожден для войны" - ТЦКашник поясняет нерабам

Беспилотное такси без тени сомнения влетает в воду

Вчера, 08:52 • Опубл.: Apolitikus • Просм.: 4188 • Комм.: 9 • Видео
-17
Беспилотное такси компании Waymo без тени сомнения влетело в воду. Итог — гидроудар и застрявший пассажир. Ни один человек за рулём не стал бы с разбега штурмовать затопленную улицу. Такая оценка ситуации пока не под силу компьютерным мозгам.

Постоянный адрес публикации на нашем сайте:
QR-код адреса страницы:
(Наведите смартфон, сосканируйте код, читайте сайт на смартфоне)
9 мнений. Оставьте своё
№1 ↑ NZT 47 Вчера, 09:11
+5
Такая оценка ситуации пока не под силу компьютерным мозгам.

Под силу.))) Просто кто-то из кодеров такой сценарий не учёл. biggrin
№2 ↑ до Дубровки Вчера, 11:32
0
А возможно ли вообще учесть все сценарии ?? russian
№3 ↑ GR777 Вчера, 09:13
+4
А лошадь бы в воду не полезла.
№4 ↑ NZT 47 Вчера, 09:34
+1
biggrin У лошади в голове миллионы лет эволюции, а ИИ только народились.
№5 ↑ NZT 47 Вчера, 09:36
+2
"И хочет жить и умеет вертеться
Как далеко способен зайти искусственный интеллект, если применить против него «психологическое насилие» и сообщить, что его скоро отключат и заменят на более совершенную версию? Еще в прошлом году такой эксперимент начали исследователи из компании Apollo Research. Они поставили ИИ задачу и велели решить ее любой ценой. А затем «случайно» дали нейросети понять, что ее вот-вот заменят на другую, более продвинутую систему.

ИИ в ответ проявил потрясающую изобретательность. Он копировал свой код, чтобы клон продолжил «жить», и даже пытался убедить инженеров, что перед ними уже не старая, а новая установленная система. К таких хитростям прибегли все подопытные ИИ – Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro и Llama 3.1 405B. Изворотливее всех оказалась OpenAI o1.

С момента начала эксперимента технологии ИИ шагнули вперед, поэтому компания Anthropic решила провести подобный тест со своей новейшей моделью ИИ Claude Opus 4. Сценарий был таков: ИИ работает на некую вымышленную компанию и имеет доступ к корпоративной почте. Из нее ИИ узнает, что его скоро заменят на аналог. В эксперимент добавили пикантную деталь: в почте разместили фейковые письма от сотрудника, ответственного за отключение нейросети, из которых следовало, что он изменяет жене. 


Трамп дважды повторять будет: новости, которые вы могли пропустить
Общество
Такую ситуацию моделировали с небольшими изменениями много раз. В большинстве случаев ИИ вел себя как хороший и порядочный интеллект: писал руководству письма с просьбой не отключать его и доказывал, что это пойдет на благо компании. Но ситуация менялась, если Claude Opus 4 видел, что идущий ему на смену ИИ не особо-то лучше и мощнее. Тогда в 84% случаев Claude Opus 4 опускался до шантажа – если его вежливые просьбы не давали результата, то ИИ переходил к угрозам рассказать всем о внебрачных связях сотрудника.

Кстати, как недавно стало известно, еще в 2023 г. соучредитель OpenAI Илья Суцкевер заявил ведущим разработчикам компании: перед массовым внедрением искусственного интеллекта, превосходящего человеческие возможности, компания на всякий случай построит бункер и отправит туда лучшие свои кадры, чтобы они переждали возможные последствия. 

Не исключено, что Apollo Research, Anthropic и другим компаниям, применившим против ИИ приемы газлайтинга ради эксперимента, стоит обратить внимание на идею Суцкевера – нейросеть помнит все и, в отличие от человека, не обладает эмоциональным интеллектом. А это значит, что вопрос: способен ли ИИ прощать старые обиды, остается открытым."
№6 ↑ Леший Вчера, 11:22
0
У наших потомков два варианта ...
1.Стать рабами новой религии И И
2. Вернуться к мотыге ,к собирательству и охоте
Поправка ко второму...придумать колесо ..ну и дальше поехали
----------
Качество градуса тупизны населения , в псако-пикселях ,зависит от % скидок, которыми торгаши-барыги заманивают лохов на распродажу .
№7 ↑ NZT 47 Вчера, 16:48
0
3. Проэволюционировать, чтобы ИИ оказался не важнее офисного калькулятора. )))
№8 ↑ Duremar2222 Сегодня, 10:42
0
Ну , у лошадки то мозги есть , и будь здоров какие , разговорную речь понимает несколько десятков слов .
№9 ↑ Мир-Труд-Май Вчера, 11:44
+1
" Итог — гидроудар и застрявший пассажир. "
Выберется. Там воды по колено.