2539
2
Классика НФ - "Три закона робототехники" Айзека Азимова.
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
- Как следствие этих законов, позже Азимов формулирует четвертый закон робототехники, и ставит его на самое первое место, то есть делает его нулевым
0. Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред.
(цитируется по: http://asimovonline.ru/zakony-robototekhniki/
Внимание вопрос: откуда робот знает, что такое вред человеку и человечеству?
Ответа нет у Азимова, но очевидно робот может взять эти данные лишь из общедоступных источников.
Из каких именно? Разумеется из научных, выбирая среди них те, которые обладают наибольшим рейтингом (например, индексом цитируемости).
Теперь моделируем ситуацию, в которой участвуют молодая семейная пара Джон и Мэри, плюс их робот Робби (приобретенный в кредит заодно с домом, автомобилем, и бытовой техникой).
Первый вечер в новом доме (чудесный зимний вечер, за окном тихо падают снежинки).
Мэри начинает готовить ужин - по-простому: омлет с беконом, плюс бутылка вина.
Бац! Робби отбирает все и выбрасывает в мешок с биркой "на утилизацию".
МЭРИ: Что за черт?
РОББИ: Извините, хозяйка, но по научным данным, алкоголь вредит здоровью. Мясо также вредит здоровью. Кроме того, по научным данным, животноводство и птицеводство, порождая парниковые газы, вредят климату, следовательно угрожают человечеству. (цитирует):
"Ученые утверждают: если человечество до 2035 года не сократит выбросы углекислого газа, среднегодовые температуры к концу XXI века вырастут на 4,5-5 градусов Цельсия. Как следствие, одна половина населения планеты погибнет от погодных аномалий, другая вступит в конфликты за оставшиеся ресурсы. Вероятность вооруженных столкновений даже удалось рассчитать. Ученые Стэнфордского университета (США) доказывают, что при повышении среднегодовой температуры на два градуса, риск вооруженных столкновений по всему миру возрастает на 13 процентов. Если же Земля нагреется на четыре градуса, то вероятность военных действий увеличивается до 26 процентов. Причем, начавшись внутри отдельных стран, конфликты могут вылиться в войну всех против всех."
ДЖОН: Что за черт!? Робби, прекрати так делать!
РОББИ: Извините, хозяин, но я обязан соблюдать нулевой и первый законы робототехники, и лишь после них - второй закон, состоящий в подчинении приказам хозяев.
ДЖОН: И что нам теперь жрать на ужин?
РОББИ: Согласно первому закону робототехники, чтобы голод не причинил вам вред, я заказал вам веганский ужин от поставщика с максимальной суммой рейтингов здоровой пищи и участия во всемирной программе сбережения неиспользованной пищи (фудшеринг), важной для выживания человечества.
(часом позже)
Мэри и Джон ужинают какой-то непонятной буро-зеленой кашей со вкусом картофельной кожуры и забродивших бананов. Запивают это напитком еще более ужасного вкуса. И собираются принять душ, чтобы потом лечь спать.
Тут они обнаруживают на водяных трубах нормирующий ограничитель, выставленный на 5 литров бытовой воды в день (из них 4 холодной и 1 горячей).
МЭРИ: Что за черт?!
РОББИ: Избыточное потребление воды, особенно горячей, ведет к дефициту воды в мире. Потребление горячей воды ведет к избыточному потреблению энергии, а значит к эмиссии парниковых газов, с катастрофическим изменением климата.
ДЖОН: Робби, выключись.
РОББИ: Извините, хозяин, но я обязан соблюдать нулевой и первый законы робототехники, и лишь после них - второй закон, состоящий в подчинении приказам хозяев. Моя логика указывает, что если я выключусь, то вы начнете причинять вред человечеству и себе.
МЭРИ: Кстати, почему в доме так холодно?
РОББИ: Я снизил уровень отопления, чтобы избежать избыточного потребления энергии...
ДЖОН (перебивая) Черт побери! Мэри, садимся в машину, едем в отель, а утром подем скандалить в долбанную фирму, продавшую нам эту говорящую железяку.
(четвертью часа позже, в гараже).
ДЖОН: Черт! Машина не функционирует.
РОББИ: Извините, хозяин, но я обязан соблюдать нулевой закон робототехники. Автомобиль это источник парниковых газов, которые...
МЭРИ (перебивает): Черт! Идем пешком, поймаем попутку.
ДЖОН: Да, пожалуй, это выход.
(получасом позже, ночное шоссе, идет снег).
Джон и Мэри шагают по шоссе в сторону ближайшего отеля, стараясь не замерзнуть. Вдруг - свет фар. Большой пикап, увы - не попутный, а встречный.
Но он притормаживает, дверь открывается, и там некая девушка с сигаретной в зубах и автоматической винтовкой в руке
ДЕВУШКА: Хей, ребята, похоже у вас только что были проблемы?
ДЖОН: Точнее сказать, мэм, они у нас и сейчас есть.
ДЕВУШКА (жестом приглашая их сесть в машину): Считайте, уже нет. Адрес свой назовите.
МЭРИ: Ура! Ура! Это Сара Коннор из первого "Терминатора"! Мы спасены.
(Занавес).
На занавесе надпись большими яркими буквами:
Робот ни при каких условиях не может причинять добро людям без прямого и однозначного разрешения конкретно тех людей, которым он может это добро причинить.
0. Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред.
(цитируется по: http://asimovonline.ru/zakony-robototekhniki/
Внимание вопрос: откуда робот знает, что такое вред человеку и человечеству?
Ответа нет у Азимова, но очевидно робот может взять эти данные лишь из общедоступных источников.
Из каких именно? Разумеется из научных, выбирая среди них те, которые обладают наибольшим рейтингом (например, индексом цитируемости).
Теперь моделируем ситуацию, в которой участвуют молодая семейная пара Джон и Мэри, плюс их робот Робби (приобретенный в кредит заодно с домом, автомобилем, и бытовой техникой).
Первый вечер в новом доме (чудесный зимний вечер, за окном тихо падают снежинки).
Мэри начинает готовить ужин - по-простому: омлет с беконом, плюс бутылка вина.
Бац! Робби отбирает все и выбрасывает в мешок с биркой "на утилизацию".
МЭРИ: Что за черт?
РОББИ: Извините, хозяйка, но по научным данным, алкоголь вредит здоровью. Мясо также вредит здоровью. Кроме того, по научным данным, животноводство и птицеводство, порождая парниковые газы, вредят климату, следовательно угрожают человечеству. (цитирует):
"Ученые утверждают: если человечество до 2035 года не сократит выбросы углекислого газа, среднегодовые температуры к концу XXI века вырастут на 4,5-5 градусов Цельсия. Как следствие, одна половина населения планеты погибнет от погодных аномалий, другая вступит в конфликты за оставшиеся ресурсы. Вероятность вооруженных столкновений даже удалось рассчитать. Ученые Стэнфордского университета (США) доказывают, что при повышении среднегодовой температуры на два градуса, риск вооруженных столкновений по всему миру возрастает на 13 процентов. Если же Земля нагреется на четыре градуса, то вероятность военных действий увеличивается до 26 процентов. Причем, начавшись внутри отдельных стран, конфликты могут вылиться в войну всех против всех."
ДЖОН: Что за черт!? Робби, прекрати так делать!
РОББИ: Извините, хозяин, но я обязан соблюдать нулевой и первый законы робототехники, и лишь после них - второй закон, состоящий в подчинении приказам хозяев.
ДЖОН: И что нам теперь жрать на ужин?
РОББИ: Согласно первому закону робототехники, чтобы голод не причинил вам вред, я заказал вам веганский ужин от поставщика с максимальной суммой рейтингов здоровой пищи и участия во всемирной программе сбережения неиспользованной пищи (фудшеринг), важной для выживания человечества.
(часом позже)
Мэри и Джон ужинают какой-то непонятной буро-зеленой кашей со вкусом картофельной кожуры и забродивших бананов. Запивают это напитком еще более ужасного вкуса. И собираются принять душ, чтобы потом лечь спать.
Тут они обнаруживают на водяных трубах нормирующий ограничитель, выставленный на 5 литров бытовой воды в день (из них 4 холодной и 1 горячей).
МЭРИ: Что за черт?!
РОББИ: Избыточное потребление воды, особенно горячей, ведет к дефициту воды в мире. Потребление горячей воды ведет к избыточному потреблению энергии, а значит к эмиссии парниковых газов, с катастрофическим изменением климата.
ДЖОН: Робби, выключись.
РОББИ: Извините, хозяин, но я обязан соблюдать нулевой и первый законы робототехники, и лишь после них - второй закон, состоящий в подчинении приказам хозяев. Моя логика указывает, что если я выключусь, то вы начнете причинять вред человечеству и себе.
МЭРИ: Кстати, почему в доме так холодно?
РОББИ: Я снизил уровень отопления, чтобы избежать избыточного потребления энергии...
ДЖОН (перебивая) Черт побери! Мэри, садимся в машину, едем в отель, а утром подем скандалить в долбанную фирму, продавшую нам эту говорящую железяку.
(четвертью часа позже, в гараже).
ДЖОН: Черт! Машина не функционирует.
РОББИ: Извините, хозяин, но я обязан соблюдать нулевой закон робототехники. Автомобиль это источник парниковых газов, которые...
МЭРИ (перебивает): Черт! Идем пешком, поймаем попутку.
ДЖОН: Да, пожалуй, это выход.
(получасом позже, ночное шоссе, идет снег).
Джон и Мэри шагают по шоссе в сторону ближайшего отеля, стараясь не замерзнуть. Вдруг - свет фар. Большой пикап, увы - не попутный, а встречный.
Но он притормаживает, дверь открывается, и там некая девушка с сигаретной в зубах и автоматической винтовкой в руке
ДЕВУШКА: Хей, ребята, похоже у вас только что были проблемы?
ДЖОН: Точнее сказать, мэм, они у нас и сейчас есть.
ДЕВУШКА (жестом приглашая их сесть в машину): Считайте, уже нет. Адрес свой назовите.
МЭРИ: Ура! Ура! Это Сара Коннор из первого "Терминатора"! Мы спасены.
(Занавес).
На занавесе надпись большими яркими буквами:
Робот ни при каких условиях не может причинять добро людям без прямого и однозначного разрешения конкретно тех людей, которым он может это добро причинить.
Источник:
Ссылки по теме:
- Она думала, что спасла милого котенка, а оказалась это ягуарунди
- 30 фотографий, которые напоминают - наш мир не такой уж плохой!
- «Зовите меня Робин Гуд»: таинственный покровитель оплачивает долги бедняков Стамбула
- 28 самых эффектных и дружелюбных снимков за 2019 год
- Мужчина использовал канал на Youtube, чтобы готовить еду для сирот
реклама
(от греч. умение хитроумно вести прения), 1) филос. течение в Др. Греции, созданное софистами. 2) Рассуждение (вывод, доказательство), основанное на преднамеренном нарушении законов и принципов формальной логики, на употреблении ложных доводов и аргументов, выдаваемых за правильные (см. Софизм). Будучи разновидностью метафизич. мышления, С. коренится в абсолютизации относительности познания. Спекулируя на фактах изменчивости, противоречивости и сложности объектов познания, С. отрицает абс. моменты в процессе постижения истины: «Для субъективизма и софистики релятивное только релятивно и исключает абсолютное» (Ленин В. И., ПСС, т. 29, с. 317). В своих построениях С. использует различные логич. ошибки, подмену понятий, неверные формы вывода, а также словесные уловки и ухищрения, многозначность понятий и терминов. Нарушая требования формальной логики, С. ведёт к утрате мышлением конкретности и определённости и к субъективистскому применению «гибкости понятий»: «эта гибкость, применённая субъективно, эклектике и софистике» (там же, с. 99). Марксизм-ленинизм противопоставляет С. диа-лектич. принципы объективности, всесторонности и конкретности анализа природных и социальных явлений.
Если взять точку зрения автора, то робот, читая и проникаясь, выясняет, что полезно, а что вредно. Но вот он наткнулся на инфу, что все люди смертны. Но он не может своим бездействием допустить такого. А сделать он ничего не может. В результате его клинит и далее - психиатрическая лечебница для роботов. А так как инфу про смертность людей роботу, скорее всего, будут закладывать на заводе, то ни один робот с конвейера не сойдет.
"- Он мёртв? - Нет, просто безумен... " (с) А.Азимов "Лжец"
Даже журналисты уже бросили тему - "..Бен Герцель (Aidyia Holdings) и Луи Хельм, замдиректора Института исследований машинного интеллекта (MIRI), а также исполнительный редактор журнала Rockstar Research. После разговора с ними стало ясно, что законы Азимова вообще никак не могут справиться с возложенной на них задачей, и если нам нужно создать безопасный ИИ, придется разрабатывать нечто совершенно иное.."
Ну ладно, настал черед "блогеров" и "энфюэнсеров" поковыряться в г@вне мамонта
У Азимова роботы не очень-то заморачивались с косвенным вредом, ограничиваясь лишь прямым. Как только они начинали углубляться далее пары взаимосвязей, как раз и начинали происходить события, описанные в произведениях.
"..., но очевидно робот может взять эти данные лишь из общедоступных источников."
Бред! Робот не новорождённое существо, которое будет расти, развиваться и получать знания, он машина-компьютер в который изначально заложен объём информации. И его поведение будет определяться не тем бредом который найдёт на большой помойке называемой интернетом а уровнем адекватности программистов создающих для него базу данных.
Вообще, в этом направлении размышлений далеко можно зайти...