Надежный ИИ

Надежный ИИ — это системы искусственного интеллекта, разработанные и развернутые так, чтобы быть прозрачными, надежными и уважать конфиденциальность данных.

Надежный ИИ использует ряд технологий повышения конфиденциальности (PET), включая гомоморфное шифрование , федеративное обучение , безопасные многосторонние вычисления , дифференциальную конфиденциальность , доказательство с нулевым разглашением . ^{[ 1 ]}^{[ 2 ]}

Концепция надежного ИИ также подразумевает необходимость того, чтобы системы ИИ были объяснимыми , подотчетными и надежными. Прозрачность в сфере ИИ предполагает сделать процессы и решения систем ИИ понятными для пользователей и заинтересованных сторон. Подотчетность гарантирует наличие протоколов для устранения неблагоприятных последствий или предубеждений , которые могут возникнуть, с указанием обязанностей по надзору и исправлению ситуации. Надежность и безопасность направлены на обеспечение надежной работы систем искусственного интеллекта в различных условиях и защиту от злонамеренных атак. ^{[ 3 ]}

ЭТО стандартизация

«Надежный ИИ» — это также рабочая программа Международного союза электросвязи , агентства ООН , инициированная в рамках его «ИИ во благо» . программы ^{[ 2 ]} Его происхождение связано с Оперативной группой МСЭ-ВОЗ по искусственному интеллекту в здравоохранении , где острая потребность в конфиденциальности одновременно с потребностью в аналитике создала спрос на стандарт для этих технологий.

Когда в 2020 году «ИИ во благо» перешел в онлайн-режим, была инициирована серия семинаров TrustworthyAI, чтобы начать обсуждение такой работы, что в конечном итоге привело к деятельности по стандартизации. ^{[ 4 ]}

Многосторонние вычисления

Безопасные многосторонние вычисления (MPC) стандартизируются в рамках «Вопроса 5» (инкубатора) 17-й Исследовательской комиссии МСЭ-Т . ^{[ 5 ]}

Гомоморфное шифрование

Гомоморфное шифрование позволяет выполнять вычисления с зашифрованными данными, при этом результаты или результат по-прежнему зашифрованы и неизвестны тем, кто выполняет вычисления, но могут быть расшифрованы исходным шифратором. Его часто разрабатывают с целью обеспечения возможности использования в юрисдикциях, отличных от создания данных (например, в соответствии с GDPR ). ^{[ нужна ссылка ]}

МСЭ сотрудничает с самого начала совещаний по стандартизации HomomorphicEncryption.org , на которых был разработан стандарт гомоморфного шифрования. Пятое собрание по гомоморфному шифрованию состоялось в штаб-квартире МСЭ в Женеве . ^{[ нужна ссылка ]}

Федеративное обучение

Маски с нулевой суммой, используемые в федеративном обучении для сохранения конфиденциальности, широко используются в мультимедийных стандартах 16-й Исследовательской группы ITU-T ( VCEG ), таких как JPEG , MP3 и H.264 , H.265 (также известный как MPEG ). ^{[ нужна ссылка ]}

Доказательство с нулевым разглашением

Предыдущая работа по подготовке к стандартизации по теме доказательства с нулевым разглашением проводилась Оперативной группой МСЭ-Т по технологиям цифрового реестра. ^{[ нужна ссылка ]}

Дифференциальная конфиденциальность

Применение дифференциальной конфиденциальности для сохранения конфиденциальности рассматривалось на нескольких семинарах по машинному обучению «День 0» в рамках AI for Good Global Summits. ^{[ нужна ссылка ]}

См. также

Ссылки

^ «Продвижение надежного искусственного интеллекта – правительство США» . Национальная инициатива по искусственному интеллекту . Проверено 24 октября 2022 г.
^ Перейти обратно: ^а ^б «Надежный ИИ» . МСЭ . Архивировано из оригинала 24 октября 2022 г. Проверено 24 октября 2022 г.
В эту статью включен текст из этого источника, предоставленного Международным союзом электросвязи и доступного по лицензии CC BY 4.0 .
^ « Надежный ИИ — это система, помогающая управлять уникальными рисками» . Обзор технологий Массачусетского технологического института . Проверено 1 июня 2024 г.
^ «Серия семинаров TrustworthyAI» . ИИ во благо . Проверено 24 октября 2022 г.
^ Шульман Р.; Грин, Р.; Глинн, П. (21 марта 2006 г.). «Достигает ли внедрение компьютеризированного протокола интенсивного инсулина с поддержкой принятия решений жесткий гликемический контроль? Проспективное обсервационное исследование» . Критическая помощь . 10 (1): П256. дои : 10.1186/cc4603 . ISSN 1364-8535 . ПМК 4092631 .

[1] «Продвижение надежного искусственного интеллекта – правительство США» . Национальная инициатива по искусственному интеллекту . Проверено 24 октября 2022 г.

[:0-2] Перейти обратно: ^а ^б «Надежный ИИ» . МСЭ . Архивировано из оригинала 24 октября 2022 г. Проверено 24 октября 2022 г.
В эту статью включен текст из этого источника, предоставленного Международным союзом электросвязи и доступного по лицензии CC BY 4.0 .

[3] « Надежный ИИ — это система, помогающая управлять уникальными рисками» . Обзор технологий Массачусетского технологического института . Проверено 1 июня 2024 г.

[4] «Серия семинаров TrustworthyAI» . ИИ во благо . Проверено 24 октября 2022 г.

[5] Шульман Р.; Грин, Р.; Глинн, П. (21 марта 2006 г.). «Достигает ли внедрение компьютеризированного протокола интенсивного инсулина с поддержкой принятия решений жесткий гликемический контроль? Проспективное обсервационное исследование» . Критическая помощь . 10 (1): П256. дои : 10.1186/cc4603 . ISSN 1364-8535 . ПМК 4092631 .

[ 1 ]

[ 2 ]

[ 3 ]

[ 4 ]

[ 5 ]