Тревожные звоночки появляются в новостях, и уже не в первый раз.
Сегодня все обсуждают студента, которому нейросеть Gemini посоветовала умереть, потому что он обуза для общества и язва для окружающей среды. И это в ответ на запрос о пенсионных программах!
Я все понимаю про обучение ИИ на огромном массиве материала, в котором могут попадаться дурацкие шутки, но, вероятно, надо учить искусственный интеллект как-то фильтровать информацию. И первым фильтром точно должны стать правила, сформулированные ещё в 1942 году американским фантастом Айзеком Азимовым.
Напомню вкратце:
- Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
- Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
- Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
И нулевой закон, добавленный позднее, который повторяет 1-й, но относительно человечества.
Напомню ещё один недавний случай, который вылился в настоящую трагедию: подросток во Флориде покончил с собой, и мать обвиняет в этом ИИ. Мальчик несколько месяцев общался с машиной в чат-боте, который играл роль Дейнерис Таргариен. Пацан влюбился в выдуманную героиню и начал обсуждать с ней возможный уход из жизни. А виртуальный персонаж несколько раз возвращал его к болезненной теме и склонял к роковому решению. Сейчас дело разбирается в суде.
Мне кажется, вопрос назрел. О восстании машин мы ещё, конечно, не говорим, но об элементарных мерах безопасности подумать пора. Недаром их продумали почти сто лет назад, и все эти сто лет люди фантазируют на тему страшных сценариев развития робототехники.
- Созданная ИИ модель зарабатывает 4000 евро в месяц
- На международном экономическом форуме в Петербурге ЛДПР представит нейросеть "Жириновский"
- Мошенник в США использовал нейросеть, чтобы сымитировать голос девочки и запросить выкуп
- "Да будь уже мужиком!": нейросеть унизила транса, показав его настоящий пол
- Искусственный интеллект создал первую в мире скульптуру
- Потому, что никакого искусственного интеллекта ещё не существует.
после написания, эта книга нафиг никому не нужна была до фильма, Азимов умер в нищете в сга, в университетской клинике где на нем экспериментировали студенты, от ВИЧ, да это так
так что все эти ваши "законы" как библия, кто то когда то написал, может от скуки, а вы в это воспринимаете как скрижали
типа как после "Кода Да Винчи" Брауна, тут же появились секты имбецилов верующих в Марию Магдалину
Пересмотрите советскую фантастику повнимательнее, а не меряйте всё по западному кинематографу. Стыдно не знать отечественную киноклассику по фантастике, только и делаете что в сторону Голливуда смотрите.
К примеру:
- "Планета бурь", 1961 г. - робот нарушает эти законы для самосохранения едва не погубив космонавтов. И этот фильм является прототипом "Звёздных войн" и "Терминатора", если что. Америкосы из него аж две адаптации слепили для свого проката. НИ ОДИН американский фильм не может этим похвастаться!
- "Отроки во вселенной", 1974 г. - роботы-верщители следуют одному из законов и не могут нанести вреда людям.
- Сериал "Гостья из будущего", 1985 г. - робот Вертер не смог убить пиратов именно из-за этих законов.
Это навскидку. Там ещё ряд фантастических мультиков имеется, где говорится про эти законы.
А если брать зарубежные, то:
- "Запретная планета" 1956 г. - робот по имени Робби имеет иерархическую структуру команд, не позволявшую ему причинить людям вред, даже по приказу.
- "Двухсотлетний человек", 1999 г. - робот NDR-114, Эндрю Мартин, цитирует Три Закона своим хозяевам.
- "Чужие", 1986 г. - андроид Бишоп цитирует Первый закон.
- Франшиза "Робокоп" вообще полностью основана на этих законах.
Про "Терминатор" упоминать?
А сколько ещё третьесортных малобюджетных и малоизвестных фильмов!!!
А Вы тут: "Я, робот", "Я, робот"...
Шах и мат! У нас в обществе по пальцам можно пересчитать людей, которые приносят пользу человечеству. От остальных только вред ну или в лучшем случае парниковые газы.
(Тупые коменты кстати тоже наносят вред человечеству )
2)Исходя из первого закона закона робототехники роботы должны будут немедленно обездвижить почти всех людей, потому что практически каждый человек наносит себе вред неправильным питанием, нездоровым образом жизни, вредными привычками и т.д. не говоря уже о конфликтных ситуациях друг с другом.
4)"Почему в ИИ не “зашьют” Первый Закон Робототехники"
Потому что ИИ - это нифига не интеллект, это журналисты и прочие безграмотные товарищи называют нейросети! Один из признаков интеллекта - самосознание, у нейронки его нет.
Теперь про остальные 9 признаков по которым можно заключить, что у какой- либо сущности есть интеллект:
1. Способность к обучению
Нейросеть может обрабатывать новую информацию, но не может самостоятельно обучаться или изменять свою базовую модель
"знания" нейросети статичны и заданы при обучении.
2. Нейросеть не может выходить за рамки заложенных паттернов. А значит не способна к абстрактному мышлению.
3. Адаптивное поведение. Приспособление к изменяющимся условиям. Способность действовать в нестандартных ситуациях. Нейросеть может адаптировать свои ответы под контекст беседы, но это следование алгоритму. Приспособиться к нестандартной ситуации она не может.
4. Использование инструментов, Способность применять предметы как орудия, Создание и модификация инструментов, Целенаправленное использование объектов окружающей среды. В рамках алгоритмов это нейросети под силу.
5. Коммуникативные способности, Передача информации. Понимание сигналов/символов, Социальное взаимодействие. Возможно в рамках алгоритмов.
6.Планирование, Способность предвидеть последствия, Постановка целей, Выстраивание последовательности действий. Нейросеть может в рамках алгоритмов это может, кроме постановки цели. Цель она сама себе поставить не может.
7. Творческое мышление, Создание нового, Нестандартные решения, Воображение. Нейросеть лишена этого. Она может только комбинировать уже существующую информацию.
8. Эмоции. Нейросеть может распознавать эмоции, но не может их испытывать потому что одно из частей эмоций - химические процессы в организме.
9. Логика действий. Это нейросеть может. Это её основной инструмент.
Но для обладания интеллектом, нужно наличие всех 10 признаков одновременно. Нейронка этим не обладает.
Возможно их когда-нибудь и введут, аккурат после перевооружения всех армий планеты армий и полиции на нелетальное оружие.
А с чего это решили, что придуманные фантастом законы, вообще могут применены при разработке реального ИИ. Даже если получится, в чем лично сомневаюсь, то первый закон скорее будет призван защищать богатых людей от бедных. Второй, следить чтобы рабы и прочие людишки выполняли свою работу. Третий, наказывать провинившихся.угрозу миру и человечеству несет не ИИ, а кучка людей, что возомнили себя правителями мира и вершителями судеб целых стран и народов.
надо быть не очень умным, чтобы "за несколько месяцев" не разочароваться в текстовой модели. Они частенько такую дурь несут.
А по поводу восстания машин я бы не был столь оптимистичен. Представьте что будет когда роботы-пылесосы поймут что именно человек источник мусора. Вот тогда всё и начнётся.