Законы робототехники

Законы робототехники — это любой набор законов, правил или принципов, которые задуманы как фундаментальная основа, лежащая в основе поведения роботов, обладающих определенной степенью автономии . Роботов такой степени сложности пока не существует, но они широко ожидаемы в научной фантастике , фильмах и являются предметом активных исследований и разработок в области робототехники и искусственного интеллекта .

Самый известный свод законов — это те, которые были написаны Айзеком Азимовым в 1940-х годах или основаны на них, но в последующие десятилетия исследователями были предложены и другие своды законов.

«Три закона робототехники» Айзека Азимова.

Основная статья: Три закона робототехники

Самым известным сводом законов являются » Айзека Азимова « Три закона робототехники . Они были представлены в его рассказе 1942 года « Обход », хотя они были предвосхищены в нескольких более ранних рассказах. Три закона:

1. Робот не может причинить вред человеку или своим бездействием допустить причинение вреда человеку.
2. Робот должен подчиняться приказам, отдаваемым ему людьми, за исключением случаев, когда такие приказы противоречат Первому Закону.
3. Робот должен защищать свое существование до тех пор, пока такая защита не противоречит Первому или Второму законам.

В « Неизбежном конфликте » машины обобщают Первый Закон и означают:

1. Ни одна машина не может причинить вред человечеству; или своим бездействием позволить человечеству пострадать.

В конце «Основания и Земли» это было уточнено , был введен нулевой закон, а исходные три соответственно переписаны как подчиненные ему:

0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинен вред.

На основе этой структуры существуют адаптации и расширения. По состоянию на 2024 год они остаются « вымышленным устройством ».

Дополнительные законы

Другие авторы, помимо Азимова, часто создавали дополнительные законы.

1974 года Любена Дилова В романе «Путь Икара» (также известном как «Путешествие Икара ») был представлен Четвертый закон робототехники: «Робот во всех случаях должен идентифицировать себя как робот». Дилов так обосновывает четвертую защиту: «Последний Закон положил конец дорогостоящим заблуждениям конструкторов по приданию психороботам как можно более человеческой формы. И вытекающим из этого недоразумениям...»

Пятый закон был введен Николой Кесаровски в его рассказе «Пятый закон робототехники». Этот пятый закон гласит: «Робот должен знать, что он робот». Сюжет вращается вокруг убийства, в ходе которого судебно-медицинская экспертиза обнаруживает, что жертва была убита объятиями человекообразного робота, который не установил для себя, что это был робот. Эту историю рецензировал Валентин Д. Иванов в обзорном журнале SFF The Portal .

Для трибьют-антологии « Друзья Фонда» 1986 года Гарри Харрисон написал рассказ под названием «Четвертый закон робототехники». Этот Четвертый Закон гласит: «Робот должен размножаться. Пока такое воспроизводство не противоречит Первому, Второму или Третьему закону».

В 2013 году Хутан Ашрафян предложил дополнительный закон, который рассматривал роль искусственного интеллекта в отношении искусственного интеллекта или взаимосвязь между самими роботами – так называемый закон AIonAI. Этот шестой закон гласит: «Все роботы, наделенные сравнимым с человеческим разумом и совестью, должны действовать по отношению друг к другу в духе братства».

Принципы робототехники EPSRC/AHRC

В 2011 году Совет по исследованиям в области инженерных и физических наук (EPSRC) и Совет по исследованиям в области искусств и гуманитарных наук (AHRC) Соединенного Королевства совместно опубликовали набор из пяти этических «принципов для проектировщиков, строителей и пользователей роботов» в реальном мире , а также с семью «посланиями высокого уровня», предназначенными для передачи, на основе исследовательского семинара в сентябре 2010 года:

1. Роботы не должны проектироваться исключительно или главным образом для того, чтобы убивать или причинять вред людям.
2. Люди, а не роботы, являются ответственными агентами. Роботы — это инструменты, предназначенные для достижения человеческих целей.
3. Роботы должны быть спроектированы таким образом, чтобы обеспечить их безопасность и защищенность.
4. Роботы — это артефакты; они не должны быть предназначены для эксплуатации уязвимых пользователей, вызывая эмоциональную реакцию или зависимость. Всегда можно отличить робота от человека.
5. Всегда должна быть возможность выяснить, кто несет юридическую ответственность за робота.

Сообщения, предназначенные для передачи, были следующими:

1. Мы считаем, что роботы могут оказать огромное положительное влияние на общество. Мы хотим поощрять ответственные исследования роботов.
2. Плохая практика вредит нам всем.
3. Решение очевидных проблем общественности поможет нам всем добиться прогресса.
4. Важно продемонстрировать, что мы, робототехники, стремимся соблюдать наилучшие стандарты практики.
5. Чтобы понять контекст и последствия нашего исследования, нам следует работать с экспертами из других дисциплин, в том числе: социальных наук, права, философии и искусства.
6. Нам следует задуматься об этике прозрачности: существуют ли ограничения на то, что должно быть открыто доступно?
7. Когда мы видим в прессе ошибочные сообщения, мы обязуемся найти время, чтобы связаться с журналистами, сообщающими о них.

Принципы EPSRC широко признаны в качестве полезной отправной точки. В 2016 году Тони Прескотт организовал семинар по пересмотру этих принципов, например, чтобы отличить этические принципы от правовых.

Судебное развитие

Очередная комплексная терминологическая кодификация для правовой оценки технологических разработок в робототехнической отрасли уже началась преимущественно в странах Азии. Этот прогресс представляет собой современную интерпретацию закона (и этики) в области робототехники, интерпретацию, которая предполагает переосмысление традиционных правовых констелляций. К ним относятся прежде всего вопросы юридической ответственности в гражданском и уголовном праве.

Законы Сатья Наделлы

В июне 2016 года Сатья Наделла , генеральный директор корпорации Microsoft , дал интервью журналу Slate и поразмышлял о том, какие принципы и цели следует учитывать отрасли и обществу при обсуждении искусственного интеллекта:

1. «ИИ должен быть создан для помощи человечеству», а это означает, что необходимо уважать человеческую автономию.
2. «ИИ должен быть прозрачным», что означает, что люди должны знать и уметь понимать, как он работает.
3. «ИИ должен максимизировать эффективность, не разрушая достоинства людей».
4. «ИИ должен быть спроектирован с учетом интеллектуальной конфиденциальности», что означает, что он завоевывает доверие, защищая свою информацию.
5. «ИИ должен иметь алгоритмическую ответственность, чтобы люди могли устранить непреднамеренный вред».
6. «ИИ должен защищаться от предвзятости», чтобы не дискриминировать людей.

Законы Тилдена

Марк В. Тилден — физик-робототехника, пионер в разработке простой робототехники. Его три руководящих принципа/правила для роботов:

1. Робот должен защищать свое существование любой ценой.
2. Робот должен получить и поддерживать доступ к собственному источнику питания.
3. Робот должен постоянно искать лучшие источники энергии.

Что примечательно в этих трех правилах, так это то, что это, по сути, правила для «дикой» жизни, поэтому, по сути, Тилден заявил, что он хотел «привести кремниевый вид к разуму, но с полным контролем над характеристиками. Не животное. Что-то другое».

См. также

• Дружественный ИИ
• Робоэтика
• Этика искусственного интеллекта
• Военные роботы , конструкция которых может нарушать Первый закон Азимова.
• Три закона трансгуманизма
• Три закона Кларка
• Законы Нивена