8596
3
Эксперты хотят понять, как научить самоуправляемые автомобили принимать правильные решения с точки зрения морали.
Представьте, что у вашего автомобиля отказали тормоза. И перед вами встаёт выбор: сбить переходящих дорогу пожилых людей или свернуть в сторону, задавив женщину с коляской. А что в такой ситуации должен сделать беспилотный автомобиль, задались вопросом в Массачусетском технологическом институте США. Ученые решили выяснить, как беспилотные автомобили должны решать вопрос о жизни и смерти, не идя в разрез с общественной моралью.
Для того, чтобы понять, как поступили бы люди в той или иной критической ситуации, сотрудники института разработали специальную игру «Moral Machine».
Тест доступен для всех желающих, в том числе и на русском языке. В игре моделируется ситуация, когда самоуправляемый автомобиль вышел из-под контроля, а искусственный интеллект должен сделать свой выбор.
Тест доступен для всех желающих, в том числе и на русском языке. В игре моделируется ситуация, когда самоуправляемый автомобиль вышел из-под контроля, а искусственный интеллект должен сделать свой выбор.
Всего в тесте представлено 13 ситуаций, в каждой из которых необходимо решить кого- пешеходов или пассажиров- оставить в живых. Авторы проекта намерены через ответы реальных пользователей понять, какая моральная оценка общества на то или иное действие. Это понимание, считают ученые, в будущем позволят смоделировать возможное поведение компьютера, управляющего беспилотником.
Например, пользователю предлагается выбрать кто из 2 двух людей – молодой или пожилой человек – должен остаться в живых, а на кого наедет автомобиль.
Кроме того, в тесте предлагается выбрать между жизнью человека и животного или жизнью водителя и пешехода.
На сегодняшний день Moral Machine набрала уже более 11 млн. возможных сценариев поведения.
Например, пользователю предлагается выбрать кто из 2 двух людей – молодой или пожилой человек – должен остаться в живых, а на кого наедет автомобиль.
Кроме того, в тесте предлагается выбрать между жизнью человека и животного или жизнью водителя и пешехода.
На сегодняшний день Moral Machine набрала уже более 11 млн. возможных сценариев поведения.
Источник:
Ссылки по теме:
- Ремонт дорог по–ярославски
- Сотрудники «Спецсвязи» грозились застрелить водителя из-за того, что он их "подрезал"
- 6 удивительно плохих идей величайших гениев в истории
- Подборка автомобильных приколов
- Станция обслуживания велосипеда
реклама
На занятиях в автошколе инструктор задает вопрос курсанту:
Ты минуешь поворот, и вдруг видишь, что перед тобой на дороге слева стоит бабушка, а справа юная девушка. Кого давить будешь?
Бабушку, после продолжительной паузы ответил курсант.
Идиот! Тормоз давить надо!
Раз робот автопилот несет ответственность за жизнь пассажиров, то он же должен следить за критическими узлами и механизмами автомобиля, все критические системы отвечающие за жизнь пассажиров и пешеходов Должны быть продублированы, а если это не возможно то должны быть проверенны до начала движения, допустим что какой то механизм вышел из строя в процессе движения, в критических ситуациях этих механизмов в авто не много, первым делом это тормозная система, ее можно продублировать хоть на все 4 колеса, по этому одновременно все тормоза сломаться не могут. Подушки безопасности, ну для них есть своя система тестирования, наверняка заранее можно знать сработает подушка или нет, заводской брак конечно ни кто не отменял, но эта вероятность стремится к нулю.
Отказ двигателя, блокировка двигателя, думаю эту ситуацию робот может отработать мгновенно, перевести коробку передач в нейтральное положение и затормозить штатным образом.
Отказ электрики, ну тут чисто механическое решение, переключение тормозной системы на механический вариант торможения автоматически и/или через педаль тормоза.
я возможно не все случаи перечислил, но уж автомобильные то гиганты знают их если не все то 99% неисправностей на дороге способных привести к аварийной ситуации, если эти алгоритмы запрограммировать в робота-автопилота, то выбора кого давить не будет вообще, потому как неисправная машина просто не доедет до того кого придется давить, она вообще не поедет.
Ну и последний аргумент, если владельцы авто доверяют свою жизнь автопилоту, который выбирает кому жить а кому умереть, то в первую очередь должны умирать владельцы автопилота, потому как у них был выбор доверить свои жизни автопилоту или нет, а вот у пешеходов такого выбора не было, по этому приоритет кого оставить в живых должен быть за теми кого не спрашивали.
Речь не идет о том что машины не будут ломаться, речь о том что они будучи поломанными не доедут до того места где придется делать выбор кого давить!
я согласен с тем что все равно остается какой то мизерный шанс что такое может произойти, но это будет статистическая погрешность, сравнимая с тем что молния через форточку вскипятит воду в кружке воды на столе!
Как альтернатива, такие машины должны ездить по специально постренным магистралям, на которых людей быть не должно, ограничить ограждениями например. Магистрали такие можно сделать по примеру нынешнего ЗСД в СПб, над дорогами общего пользования. А если хочешь ездить по всем дорогам, будь добр, получить права и будь готов принимать управление и выходить из ЧП самостоятельно.
Кардан падает на асфальт , сответственно втыкается и зад джипа взлетает выше крыши. Машина опрокидывается и кубарем катится. Как ты выйдешь из такой ситуации ?
2 как должен разрулить ИИ
1. При попытке просто экстренно тормозить - машину неизбежно будет выносить влево на встречную полосу, под движущуюся фуру.
2. При более плавном торможении с подруливанием вправо и применением АБС, машина может избежать вылета на встречу фуре, но тогда тормозной путь сильно увеличивается и машина сбивает пешехода.
Дальше погнали восхвалять Николу Теслу с его единственным значимым достижением - внедрением переменного тока в промышленность и обиход (именно внедрение, а не изобретение).
Новая волна, вырванная из фантастических рассказов о космических приключениях - черные дыры. Из разрыва материи в космосе они постепенно превратились в две спирали, связанные между собой тонкой трубой (грубо напоминало песочные часы по форме). И сегодня, превратив эту фантастику в неведанный шарик на границе событий, на этой теме делают деньги все - математики, ученые разных специальностей, журналисты, политики и все кто только может.. Тем не менее тема уже подбивает себя к концу (уж слишком активно ее последнее время обсуждают - скоро надоест).
И вот новая тема - Ёп его, искуственный интеллект! Единица и ноль правят миром, гениально!
самая простая форма интеллекта у таракана, но мы даже её не можем копировать - были попытки копировать одну из форм , которая напоминала нам таракана (движение от света или в направлении излучения), но по хорошему это как у чайника кнопку нажать - когда вскипит, он сам выключается (представляете - САМ!) А теперь представьте, что электрический чайник ведет автомобиль... вы серьёзно в это верите?! Почему же в метро или в поездах до сих пор машинисты сидят, когда мы на пороге таких революционных технологий?
Поснимайте немного лапшу с ушей. Может она и не мешает жить, но ничего хорошего от этого нет, когда нам изо дня в день по полкило макарон аккуратно накладывают, а народ уже без помощи самостоятельно её себе и другим развешивает.
Те, кто хоть немного следить за развитием автопилотов (не говоря уж от тех, кто в теме), знает, что автопилот решать ничего не должен.
Автопилот должен. Соблюдать. Правила. Дорожного. Движения.
Всё. Буква в букву. Никаких этических проблем перед разработчиками автопилотов нет и не было. Все эти статьи пишутся дилетантами.
Отказали тормоза? Что там в ПДД? Движение с неисправной тормозной системой запрещено. Автопилот тупо не поедет, не проверив тормоза, вот и всё. Не будет никакой дилеммы "давить бабушку или собачку".
Простите, если разочаровал.
1. Случаев много было, когда пешеход отпрыгнул, а уворачивающаяся машина его "догнала".
2. Все эти судорожные попытки объехать внезапное препятствие заканчиваются плохо - то в забор, то в кювет, то в лоб на встречку.
3. Скажите, кому нужна такая машина, которая будет целенаправленно подвергать риску водителя? Кто такую купит?
В том то и суть. Если совсем уж кратко, то машина должна ехать прямо, так как там должны быть готовые к этому люди, у которых будет шанс спастись, а не давить гарантированно не готовых к такому людей, да и первые, заметавшись, могут тоже попасть под колёса. Не говоря уж о возможности для машины перевернуться, угробив ещё и пассажиров. А если впереди отбойник, то в отбойник, по причинам выше.
А решать кого убить, а кого оставить в живых машина не должна ни при каких обстоятельствах, ибо это порочный путь... Пусть моё мнение выглядит бесчеловечно, но пусть лучше машина СЛУЧАЙНО задавит мать с ребенком и бабушку с собачкой до кучи, чем научится ОСОЗНАНО решать кто достоен, а кто нет.
Надо узнать у каких профессий, пола и возраста больше шансов - это поможет нам выжить в недалеком будущем)))