Декларация Торонто
Декларация Торонто: Защита прав на равенство и недискриминацию в системах машинного обучения — это декларация, которая пропагандирует ответственную практику для специалистов по машинному обучению и руководящих органов. Это совместное заявление, опубликованное такими группами, как Amnesty International и Access Now , а также другими известными сторонами, включая Human Rights Watch и Фонд Wikimedia . [1] Он был опубликован на RightsCon 16 мая 2018 года. [2] [3]
В Декларации основное внимание уделяется проблемам алгоритмической предвзятости и возможности дискриминации , возникающей в результате использования машинного обучения и искусственного интеллекта в приложениях, которые могут повлиять на жизнь людей, «от полиции до систем социального обеспечения, здравоохранения и платформ для онлайн-дискурса». " [4] Второстепенным моментом, вызывающим озабоченность в документе, является возможность нарушения конфиденциальности информации .
Цель Декларации – определить «осязаемые и действенные стандарты для государств и частного сектора». [5] Декларация призывает к реальным решениям, таким как возмещение ущерба жертвам алгоритмической дискриминации. [6]
Содержание [ править ]
Декларация Торонто состоит из 59 статей, разбитых на шесть разделов, касающихся международного права прав человека , обязанностей государств , ответственности субъектов частного сектора и права на эффективные средства правовой защиты .
Преамбула [ править ]
Документ начинается с вопроса: «В мире систем машинного обучения кто будет нести ответственность за ущерб правам человека ?» [4] В нем утверждается, что все специалисты, будь то в государственном или частном секторе, должны осознавать риски для прав человека и подходить к своей работе с учетом прав человека – сознавая существующие международные законы, стандарты и принципы. В документе права человека определяются как «право на неприкосновенность частной жизни и защиту данных, право на свободу выражения мнений и объединений, на участие в культурной жизни, равенство перед законом и доступ к эффективным средствам правовой защиты»; [4] но в нем говорится, что Декларация больше всего заботится о равенстве и недискриминации.
рамок международного права Использование прав человека
В рамках международного права прав человека перечислены различные права, предусмотрены механизмы привлечения нарушителей к ответственности и предусмотрены средства правовой защиты для нарушенных. В документе цитируется определение дискриминации, данное Комитетом ООН по правам человека, как «любое различие, исключение, ограничение или предпочтение, основанное на любом признаке [включая, помимо прочего] расу, цвет кожи, пол, язык, религию, политические или другие основания». убеждений, национального или социального происхождения, имущественного, сословного или иного статуса и имеющая целью или результатом аннулирование или умаление признания, пользования или осуществления всеми людьми на равных основаниях всех прав и свобод». [7]
Правительства должны активно принимать обязательные меры, а частные предприятия должны разрабатывать внутреннюю политику для защиты от дискриминации. Меры могут включать защиту конфиденциальных данных, особенно уязвимых групп населения. Системы должны разрабатываться в сотрудничестве с разнообразным сообществом, чтобы предотвратить дискриминацию при проектировании.
государств: обязательства в области человека прав Обязанности
Сегодня правительства внедряют системы машинного обучения, часто в сотрудничестве с частными организациями. Даже когда развитие поручается таким третьим сторонам, правительства сохраняют свои обязательства по защите прав человека. До внедрения и на постоянной основе после него им следует выявлять риски и проводить регулярные аудиты, а затем принимать все необходимые меры для снижения этих рисков. Они должны быть прозрачными в отношении того, как реализуется и используется машинное обучение, избегая систем «черного ящика» , логику которых нелегко объяснить. Системы должны подвергаться строгому надзору со стороны различных внутренних комитетов и независимых судебных органов.
Правительства также должны защищать граждан от дискриминации со стороны частных лиц. Помимо надзора, им следует принять обязательные законы против дискриминации, а также о защите данных и конфиденциальности, а также предоставить эффективные средства правовой защиты пострадавшим лицам. Для национальных и региональных правительств важно расширять и контекстуализировать международное право.
субъектов частного сектора: комплексная проверка прав человека Обязанности
Частные предприятия несут ответственность за проведение «должной проверки прав человека». Как и правительства, частные предприятия должны выявлять риски до начала развития, рассматривая общие риски и консультируясь с заинтересованными сторонами, «включая затронутые группы, организации, которые работают в области прав человека, равенства и дискриминации, а также независимых экспертов по правам человека и машинному обучению». [4] Им следует разрабатывать системы, снижающие риски, подвергать системы регулярным проверкам и отказываться от проектов, которые несут слишком высокие риски. Они должны быть прозрачными в отношении предполагаемых рисков, включая детали технической реализации, где это необходимо, и должны обеспечивать механизм, позволяющий затрагиваемым лицам оспаривать любые решения, которые их затрагивают.
Право на эффективное средство правовой защиты [ править ]
«Право на справедливость является жизненно важным элементом международного права прав человека». [4] Частные организации должны разработать процедуры, позволяющие пострадавшим лицам искать средства правовой защиты, а также определить роли тех, кто будет контролировать эти процессы. Правительства должны быть особенно осторожны при развертывании систем машинного обучения в секторе правосудия. Прозрачность, подотчетность и средства правовой защиты могут помочь.
Ссылки [ править ]
- ^ Брэндом, Рассел (16 мая 2018 г.). «Новая декларация Торонто призывает алгоритмы уважать права человека» . Грань . Проверено 3 сентября 2021 г.
- ^ «Декларация Торонто • Декларация Торонто» . Декларация Торонто . Проверено 8 сентября 2021 г.
- ^ «Всемирная служба BBC - Цифровая планета, Декларация Торонто» . Би-би-си . Проверено 8 сентября 2021 г.
- ↑ Перейти обратно: Перейти обратно: а б с д и «Декларация Торонто: защита права на равенство и недискриминацию в системах машинного обучения» . Декларация Торонто . Amnesty International и Access Now . 16 мая 2018 года. Архивировано из оригинала 12 августа 2021 года . Проверено 3 сентября 2021 г.
- ^ 17 мая; Берт, 2018 | Крис (17 мая 2018 г.). «Торонто Декларация призывает к применению принципов прав человека в машинном обучении | Обновление биометрических данных» . www.biometricupdate.com . Проверено 3 сентября 2021 г.
{{cite web}}: CS1 maint: числовые имена: список авторов ( ссылка ) - ^ «Декларация Торонто о машинном обучении призывает к созданию искусственного интеллекта, который защищает права человека» . Футуризм . 16 мая 2018 года . Проверено 3 сентября 2021 г.
- ^ Замечание общего порядка № 18: Недискриминация . Женева: Комитет ООН по правам человека . 1989.