Теорема об этическом регуляторе

Мика Эшби об этическом регуляторе Теорема ^[1] основывается на теореме Конанта-Эшби о хорошем регуляторе , ^[2] это неоднозначно, поскольку умение хорошо регулировать не означает быть хорошим с этической точки зрения.

Теорема

Теорема этического регулятора утверждает, что следующие девять требований необходимы и достаточны для того, чтобы кибернетический регулятор был одновременно эффективным и этичным: ^[3]

Цель выражена в виде однозначно приоритетных целей.
Правда о прошлом и настоящем.
Разнообразие возможных действий.
Предсказуемость будущих последствий действий.
Интеллект, позволяющий выбирать лучшие действия.
Влияние на регулируемую систему.
Этика выражена в виде правил с недвусмысленным приоритетом.
Целостность всех подсистем.
Прозрачность этического поведения.

Из этих условий только первые шесть необходимы для того, чтобы регулятор был эффективным. Три обязательных требования — этика, честность и прозрачность — не являются обязательными, если система должна быть только эффективной. Это порождает Закон неизбежной этической неадекватности , который гласит: «Если вы не укажете, что вам требуется безопасная этическая система, вы получите небезопасную неэтическую систему». ^[1] Причина в том, что, если этическая адекватность не является требованием, проект системы будет стремиться к оптимизации эффективности и, следовательно, максимально игнорировать необязательные аспекты этики, честности и прозрачности, что неизбежно приводит к проектированию и последующей реализации, которые являются этически неадекватными и уязвимыми. к манипуляции.

Эффективность регулятора

Теорема об этическом регуляторе показывает, что эффективность кибернетического регулятора зависит от семи условий. Эффективность регулятора R можно выразить как функцию:

Эффективность _R = Цель _R x Истина _R x (Разнообразие _R - Этика _R ) x Предсказуемость _R x Интеллект _R x Влияние _R

Если две системы, A и B, конкурируют за контроль над третьей системой, C, и эффективность _A «больше, чем эффективность _B , то A с большей вероятностью, чем B, получит контроль над C».

Функция эффективности отражает, насколько разнообразие действий, доступных этическому регулятору, сокращается за счет всех действий, которые считаются неэтичными, что ставит этический регулятор в невыгодное положение при конкуренции с неэтичным конкурентом.

Модельно-центричная парадигма кибернетики

Согласно моделицентричной парадигме кибернетики, ^[4] Этический регулятор является продуктом регулирования третьего порядка. Теорема Конанта-Эшби о хорошем регуляторе , устанавливающая, что «каждый хороший регулятор системы должен быть моделью этой системы», является ключевым принципом модельно-центрической парадигмы кибернетики. Парадигма определяет, что кибернетический регулятор состоит из цели, модели, четко определенного наблюдателя, который наблюдает только то, что требует модель в качестве входных параметров, некоторого рода интеллекта для принятия решений и канала управления, который передает выбранные действия или сообщения в систему. регулируемая система.

Таким образом, для того, чтобы быть эффективным, кибернетический регулятор первого порядка (простой) требует модели регулируемой системы, а регулятор второго порядка (рефлексивный) может достичь рефлексивности, только имея модель самого себя, которая кодирует представление в реальном времени возможного разнообразия , доступного регулирующему органу. Наконец, этический регулятор реализуется путем использования третьего регулятора для регулирования рефлексивного регулятора и ограничения его проявления только поведения, не нарушающего этическую схему, закодированную в третьей модели. Если третья модель кодирует то, что является незаконным или социально неприемлемым, тогда концепция регулятора третьего порядка может быть полезна для создания законопослушных роботов и этичного ИИ .

См. также

Ссылки

^ Jump up to: ^а ^б Эшби 2020 .
^ RC Conant и WR Ashby, « Каждый хороший регулятор системы должен быть моделью этой системы », Int. Дж. Системные науки. , 1970, том 1 , № 2, стр. 89–97.
^ Эшби, М. (2020). «Этические регуляторы и сверхэтические системы» . Системы . 8 (4): 53. doi : 10.3390/systems8040053 .
^ М. Эшби, «Проблемы с абстрактными наблюдателями и преимущества модельно-центрической парадигмы кибернетики» . Системы , 2022 год; 10(3):53.

[FOOTNOTEAshby2020-1] Jump up to: ^а ^б Эшби 2020 .

[2] RC Conant и WR Ashby, « Каждый хороший регулятор системы должен быть моделью этой системы », Int. Дж. Системные науки. , 1970, том 1 , № 2, стр. 89–97.

[3] Эшби, М. (2020). «Этические регуляторы и сверхэтические системы» . Системы . 8 (4): 53. doi : 10.3390/systems8040053 .

[4] М. Эшби, «Проблемы с абстрактными наблюдателями и преимущества модельно-центрической парадигмы кибернетики» . Системы , 2022 год; 10(3):53.

[1]

[2]

[3]

[4]