Убойные роботы
| Убойные роботы | |
|---|---|
 | |
| Режиссер | Стюарт Сагг |
| Написал | Мэтт Вуд |
| Продюсер: | Мэтт Нельсон |
| Рассказал | Стюарт Рассел |
Производство компания | Космический цифровой |
Дата выпуска |
|
Время работы | 8 минут |
| Язык | Английский |
Slaughterbots — это пропагандистский видеоролик 2017 года, посвященный контролю над вооружениями, в котором представлен драматизированный сценарий ближайшего будущего, в котором стаи недорогих микродронов используют программное обеспечение искусственного интеллекта и распознавания лиц для убийства политических оппонентов на основе заранее запрограммированных критериев. Его выпустили Институт будущего жизни и Стюарт Рассел , профессор информатики в Беркли . [1] На YouTube видео быстро стало вирусным, собрав более двух миллионов просмотров. [2] [3] и был показан на заседании Конвенции Организации Объединенных Наций о конкретных видах обычного оружия в Женеве в том же месяце. [4]
Смысл фильма в том, что стаи таких «роботов-убийц» — миниатюрных летающих смертоносных автономных орудий стать настоящим оружием массового уничтожения, оказался спорным. — могут в ближайшем будущем [2] [5] [6]
Продолжение Slaughterbots – if human: kill() (2021) представило дополнительные гипотетические сценарии нападений на мирных жителей и снова призвало ООН запретить автономное оружие, нацеленное на людей. [7]
Краткое содержание
[ редактировать ]
Действие драматизации продолжительностью семь минут происходит в «Черного зеркала» . ближайшем будущем в стиле [8] [9] Небольшие автономные дроны размером с ладонь, использующие распознавание лиц и фигурную взрывчатку, можно запрограммировать на поиск и уничтожение известных лиц или групп лиц (например, лиц, носящих военную форму противника). Технический руководитель утверждает, что ядерное оружие теперь «устарело»: заказ «неудержимых» дронов на 25 миллионов долларов может уничтожить полгорода. По мере развития видео неизвестные стороны повторно используют эту технологию для убийства политических оппонентов, от действующих конгрессменов до студенческих активистов, идентифицированных через их в Facebook профили . В одной из сцен роящиеся дроны координируют свои действия, чтобы проникнуть в здание: более крупный дрон пробивает дыру в стене, чтобы открыть доступ к меньшим. [1] [10] [11]
За инсценировкой следует сорок секундная просьба Рассела: «Этот короткометражный фильм — больше, чем просто предположение; он показывает результаты интеграции и миниатюризации технологий, которые у нас уже есть… Потенциал ИИ принести пользу человечеству огромен, даже в обороне. , но если позволить машинам выбирать убийство людей, это будет иметь разрушительные последствия для нашей безопасности и свободы». [10] [12]
Производство
[ редактировать ]По словам Рассела, «мы пытались показать свойство автономного оружия автоматически превращаться в оружие массового уничтожения, потому что вы можете запускать столько, сколько захотите… и поэтому мы подумали, что видео прояснит это». Рассел также выразил желание заменить нереалистичную и бесполезную концепцию автономного оружия Голливудского Терминатора чем-то более реалистичным. [13] Видео было произведено Space Digital в MediaCityUK и снято Стюартом Саггом с натурными съемками в Университете Хартфордшира. [14] и в Эдинбурге . Эдинбург был выбран потому, что создателям фильма «нужны были пустые улицы воскресным утром» для съемок вооруженной полиции, патрулирующей пустынные улицы, а также потому, что это место узнаваемо для международной аудитории. [15] Все дроны были добавлены на пост-продакшене. [13] [16]
Прием
[ редактировать ]Техническая осуществимость
[ редактировать ]В декабре 2017 года журнал The Economist оценил осуществимость Slaughterbots применительно к программам микродронов MAST и DCIST в США. В настоящее время у MAST есть велокоптер , который весит менее 30 граммов, но у него есть обратная сторона: его легко потревожить собственной отраженной турбулентностью, когда он находится слишком близко к стене. Другой кандидат — что-то вроде Salto, 98-граммового прыгающего робота , который работает лучше, чем велосипедисты, в ограниченном пространстве. Уровень автономной координации между дронами, показанный в Slaughterbots, в настоящее время недоступен, но ситуация начинает меняться: стаи дронов используются для демонстрации с воздуха . В целом The Economist согласился с тем, что «роботы-убийцы» могут стать возможными в обозримом будущем: «В 2008 году шпионский дрон, который можно было держать на ладони, был идеей из научной фантастики. Такие дроны сейчас стали обычным явлением… Когда DCIST Завершится в 2022 году, идея Slaughterbots может показаться гораздо менее вымышленной, чем сейчас». The Economist скептически относится к тому, что контроль над вооружениями может предотвратить такую милитаризацию роев беспилотников: «Как кто-то сказал о ядерном оружии после того, как было взорвано первое, единственный секрет, который стоит хранить, теперь раскрыт: черт возьми, все работает». [1]
В апреле 2018 года правительственный Швейцарский центр дронов и робототехники , ссылаясь на Slaughterbots , испытал 3-граммовый кумулятивный заряд на модели головы и пришел к выводу, что «травмы настолько серьезны, что шансы на выживание очень малы». [17] [18]
DARPA активно работает над предоставлением армии США множества автономных смертоносных дронов. [19]
Вероятность угрозы
[ редактировать ]В декабре 2017 года Пол Шарр из Центра новой американской безопасности оспорил осуществимость сценария видео, заявив, что «у каждой военной технологии есть средства противодействия, а меры противодействия небольшим дронам даже не являются гипотетическими. Правительство США активно работает над этим». способы сбить, заблокировать, поджарить, взломать, поймать в ловушку или иным образом победить небольшие дроны. Микродроны на видео можно победить с помощью чего-то простого, например, с помощью проволочной сетки. может проникнуть внутрь, но решение — это просто многоуровневая защита». Шарр также заявил, что подразумеваемое предложение Рассела, юридически обязывающий договор о запрете автономного оружия, «не решит реальных проблем, с которыми сталкивается человечество по мере развития автономии в области вооружений. Запрет не помешает террористам создавать грубое роботизированное оружие своими руками... Фактически , даже неясно, запретит ли запрет оружие, показанное на видео, которое на самом деле является достаточно дискриминационным». [2]
В январе 2018 года Стюарт Рассел и трое других авторов подробно ответили Шарру. Их разногласия касались прежде всего вопроса о том, являются ли «роботы-убийцы», представленные в видео, «потенциально масштабируемым оружием массового уничтожения (ОМП)». Они пришли к выводу: «Мы и многие другие эксперты по-прежнему считаем правдоподобной точку зрения о том, что автономное оружие может стать масштабируемым оружием массового уничтожения. Заявление Шарра о том, что запрет будет неэффективным или контрпродуктивным, несовместимо с историческими данными. Наконец, идея о том, что безопасность человечества будет повышена за счет нерегулируемой гонки вооружений в области автономного оружия — это, в лучшем случае, принятие желаемого за действительное». [5]
Культурный прием
[ редактировать ]Мэтт МакФарланд из CNN высказал мнение, что «возможно, самый кошмарный фильм-антиутопия 2017 года был снят не в Голливуде». Макфарланд также заявил, что дебаты по поводу запрета роботов-убийц приняли «сенсационный» поворот: в 2015 году «они полагались на открытые письма и петиции, используя академический язык», и использовали сухие выражения, такие как «вооруженные квадрокоптеры». Теперь, в 2017 году, «они предупреждают о «ботах-убийцах » . [20]
Эндрю Янг связался с Slaughterbots из твита во время своего выдвижения первичной кандидатуры в президенты США в 2020 году. [21]
Видео-продолжение, опубликованное 30 ноября 2021 года, к 8 декабря набрало более двух миллионов просмотров на YouTube. [22]
См. также
[ редактировать ]- Летальное автономное оружие
- « Ненависть в нации », эпизод сериала «Черное зеркало» , в котором представлены пчелоподобные дроны.
Ссылки
[ редактировать ]- ^ Перейти обратно: а б с «Военные роботы становятся меньше и мощнее» , The Economist , 14 декабря 2017 г. , дата обращения 21 января 2018 г.
- ^ Перейти обратно: а б с Шарре, Пол (22 декабря 2017 г.). «Почему не стоит бояться «роботов-убийц» » . IEEE Spectrum: Новости технологий, техники и науки . Проверено 21 января 2018 г.
- ^ «Убойные роботы» . Ютуб . 12 ноября 2017 года . Проверено 21 января 2018 г.
- ^ Тинг, Эрик (18 ноября 2017 г.). «Жуткое видео смертоносного дрона профессора Калифорнийского университета в Беркли стало вирусным» . СФГейт . Проверено 21 января 2018 г.
- ^ Перейти обратно: а б Рассел, Стюарт; Агирре, Энтони ; Конн, Ариэль; и Тегмарк, Макс (23 января 2018 г.). Почему вам следует бояться «роботов-убойщиков» — ответ IEEE Spectrum: Новости технологий, техники и науки . Проверено 8 апреля 2023 г.
- ^ Шарре, Пол (1 февраля 2018 г.). Обсуждение роботов-убийц и будущее автономного оружия IEEE Spectrum: Новости технологий, техники и науки . Проверено 8 апреля 2023 г.
- ^ Найт, Уилл (2021). «Автономное оружие уже здесь, но мир к нему не готов» . Проводной . Проверено 31 декабря 2021 г.
- ^ Оберхаус, Дэниел (13 ноября 2017 г.). «Посмотрите «Боты-убийцы: предупреждение о будущем ботов-убийц» . Материнская плата ( Vice Media ) . Проверено 21 января 2018 г.
- ^ Дворский, Георгий. «Дроны с искусственным интеллектом становятся ужасающими машинами для убийств в короткометражном фильме-антиутопии» . Гизмодо . Проверено 21 января 2018 г.
- ^ Перейти обратно: а б Ян Сэмпл (13 ноября 2017 г.), «Срочно необходим запрет на роботов-убийц, говорят ученые» , The Guardian , дата обращения 21 января 2018 г.
- ^ Микелёнис, Лукас (21 ноября 2017 г.). «Видео профессора Калифорнийского университета в Беркли о дронах-убийцах с роботами-убийцами стало вирусным» . Фокс Ньюс . Проверено 21 января 2018 г.
- ^ Мэй, Патрик (20 ноября 2017 г.). «Остерегайтесь «роботов-убийц», — предупреждает в видео профессор Калифорнийского университета в Беркли» . Новости Меркурия . Проверено 21 января 2018 г.
- ^ Перейти обратно: а б « Столько смертей, сколько вы хотите»: Стюарт Рассел из Калифорнийского университета в Беркли о «Slaughterbots » . Бюллетень ученых-атомщиков . 5 декабря 2017 года . Проверено 21 января 2018 г.
- ^ «Фильм, снятый сотрудниками и студентами Хартфордширского университета, стал вирусным» . Хартфордширский университет . 28 ноября 2017 года . Проверено 21 января 2018 г.
- ^ «Эдинбург использовался для съемок фильма «Дрон-убийца»» . Новости Би-би-си . 21 ноября 2017 года . Проверено 21 января 2018 г.
- ^ «Атаки дронов-убийц сняты в Эдинбурге, чтобы подчеркнуть опасения, связанные с искусственным интеллектом» . Шотландец . 21 ноября 2017 года . Проверено 21 января 2018 г.
- ^ «Фейковые новости? Летальный эффект микродронов» . www.ar.admin.ch . Проверено 31 мая 2018 г.
- ^ « Эйнштейн» в Robotern — TV — Play SRF» . Играйте в SRF (на немецком языке) . Проверено 31 мая 2018 г.
- ^ Макмиллан, Тим (1 декабря 2020 г.). «Мечта DARPA о крошечной армии роботов близка к тому, чтобы стать реальностью» . thedebrief.org .
- ^ Макфарланд, Мэтт (14 ноября 2017 г.). « В фильме «Бойцы» показаны потенциальные ужасы дронов-убийц» . CNNMoney . Проверено 21 января 2018 г.
- ^ «Эндрю Ян призывает к глобальному запрету роботов-убийц» . Нью-Йорк Пост . 1 февраля 2020 г. Проверено 31 декабря 2021 г.
- ^ Мизоками, Кайл (8 декабря 2021 г.). «Новое видео наглядно объясняет, почему Организация Объединенных Наций должна запретить «роботов-убийц» » . Популярная механика . Проверено 31 декабря 2021 г.
Внешние ссылки
[ редактировать ]- Убойные роботы (2017) на YouTube
- Почему не следует бояться «роботов-убийц» (Шарр, 2017)
- Почему вам следует бояться «роботов-убийц» — ответ (Рассел и др., 2018 г.)
- Обсуждение роботов-убойщиков и будущего автономного оружия (Шарр, 2018 г.)
- Роботы-убойщики - если люди: kill() (2021) на YouTube