Партнерство в сфере ИИ
Партнерство по искусственному интеллекту на благо людей и общества, также известное как Партнерство по искусственному интеллекту, представляет собой некоммерческую коалицию, приверженную ответственному использованию искусственного интеллекта . PAI (Партнерство по искусственному интеллекту), созданное в сентябре 2016 года, объединило членов из более чем 90 компаний и некоммерческих организаций с целью изучения рекомендаций по передовому опыту для технологического сообщества. [1]
История
[ редактировать ]О Партнерстве в области искусственного интеллекта было публично объявлено 28 сентября 2016 года с участием основателей Amazon , Facebook , Google , DeepMind , Microsoft и IBM , а также временных сопредседателей Эрика Хорвица из Microsoft Research и Мустафы Сулеймана из DeepMind. [2] [3] [4] [5] В 2019 году членами организации стали более 100 партнеров из научных кругов, гражданского общества, промышленности и некоммерческих организаций. [6]
В январе 2017 года Apple руководитель отдела передовых разработок Siri компании Том Грубер присоединился к Партнерству в совете директоров AI. [7] В октябре 2017 года Тера Лайонс присоединилась к Партнерству по искусственному интеллекту в качестве исполнительного директора-основателя организации. [8] Лайонс привнесла в организацию свой опыт в области управления технологиями, уделяя особое внимание машинному интеллекту, искусственному интеллекту и политике в области робототехники. Ранее она работала советником по политике у главного технологического директора США Меган Смит . На посту временного исполнительного директора Лайонс сменила член правления Партнерства по искусственному интеллекту Ребекка Финли. Финли был назначен генеральным директором Partnership on AI 26 октября 2021 года.
В октябре 2017 года Тера Лайонс присоединилась к Партнерству по искусственному интеллекту в качестве исполнительного директора-основателя организации. Лайонс привнесла в организацию свой опыт в области управления технологиями, уделяя особое внимание машинному интеллекту, искусственному интеллекту и политике в области робототехники. Ранее она работала советником по политике у главного технологического директора США Меган Смит . На посту временного исполнительного директора Лайонс сменила член правления Партнерства по искусственному интеллекту Ребекка Финли. Финли был назначен генеральным директором Partnership on AI 26 октября 2021 года.
В октябре 2018 года Baidu стала первой китайской фирмой, присоединившейся к Партнерству. [9]
В ноябре 2020 года Партнерство по искусственному интеллекту объявило о создании базы данных инцидентов с искусственным интеллектом (AIID). [10] Это инструмент для выявления, оценки, управления и информирования о рисках и вреде ИИ.
В августе 2021 года Партнерство по искусственному интеллекту представило ответ Национальному институту стандартов и технологий (NIST). В ответе были приведены примеры работы PAI, связанной с управлением рисками ИИ, такие как отчет Safety Critical AI об ответственной публикации исследований ИИ, проект ABOUT ML по документации и прозрачности в жизненных циклах машинного обучения, а также база данных инцидентов ИИ. [11] В ответе также подчеркивалось, что база данных инцидентов с ИИ включает в себя некоторые минимальные атрибуты AI RMF NIST, такие как согласованность, оценка рисков, адаптируемость и соответствие другим подходам к управлению рисками ИИ. [11]
26 октября 2021 года Ребекка Финли была назначена генеральным директором. [12]
В феврале 2023 года Партнерство по искусственному интеллекту (PAI) запустило новую концепцию, направленную на руководство этическим развитием и использованием синтетических медиа. Эту инициативу поддержали различные первоначальные партнеры, в том числе такие известные организации, как Adobe, BBC, CBC/Radio-Canada, Bumble, OpenAI, TikTok, WITNESS, а также стартапы синтетических медиа Synthesia, D-ID и Respeecher. Структура, в которой особое внимание уделяется прозрачности, креативности и безопасности, стала результатом продолжавшегося в течение года процесса сотрудничества с участием широкого круга заинтересованных сторон, включая синтетические медиа-стартапы, платформы социальных сетей, новостные организации, правозащитные группы, академические учреждения, политики. профессионалы и общественные комментаторы. [13]
Миссия и принципы
[ редактировать ]Партнерство в области искусственного интеллекта имеет многосторонний подход для достижения эффекта. Их инициативы разделены на пять различных программ: искусственный интеллект и честность СМИ; ИИ, работа и экономика; справедливость, прозрачность и подотчетность; инклюзивные исследования и дизайн; и безопасность для ИИ. Эти программы направлены на создание ценности посредством конкретных результатов, методологических инструментов и статей. [14]
В рамках программы AI & Media Integrity PAI активно стремится внедрить передовой опыт, обеспечивающий положительное влияние искусственного интеллекта на глобальную информационную экосистему. Признавая потенциал ИИ для распространения вредоносного онлайн-контента и усиления существующих негативных повествований, PAI стремится снизить эти риски и способствовать ответственному присутствию ИИ. [15]
Программа «ИИ, труд и экономика» служит платформой для сотрудничества, объединяющей экономистов, организации, представляющие работников, и партнеров PAI для формулирования целостного ответа о том, как ИИ может способствовать инклюзивному экономическому будущему. В недавнем выпуске «Руководства PAI по искусственному интеллекту и всеобщему процветанию» от 7 июня 2023 года изложен план разумного использования искусственного интеллекта на различных этапах, который является руководством для организаций, политиков и профсоюзов. [16]
Программа «Справедливость, прозрачность и подотчетность» в сочетании с программой «Инклюзивные исследования и дизайн» направлена на изменение ландшафта ИИ в сторону справедливости и справедливости. Исследуя взаимосвязь между ИИ и фундаментальными человеческими ценностями, первый устанавливает руководящие принципы алгоритмической справедливости, объяснимости и ответственности. В то же время последний расширяет возможности сообществ, предоставляя рекомендации по совместному созданию решений ИИ, способствуя инклюзивности на протяжении всего процесса исследований и проектирования. [17] [18]
Программа Safety Critical AI направлена на растущее внедрение систем искусственного интеллекта в таких ключевых секторах, как медицина, финансы, транспорт и социальные сети. Программа, ориентированная на прогнозирование и смягчение потенциальных рисков, объединяет партнеров и заинтересованные стороны для разработки лучших практик, охватывающих весь жизненный цикл исследований и разработок в области ИИ. Известные инициативы включают создание базы данных инцидентов с искусственным интеллектом, формулирование норм ответственной публикации и создание инновационной среды обучения искусственному интеллекту SafeLife. [19]
Ассоциация также построена на тематических основах, которые ориентированы на партнерство в области искусственного интеллекта. Помимо упомянутых выше программ, «Партнерство по ИИ» стремится расширить социальное воздействие ИИ, поощряя положительную социальную полезность. Организация подчеркнула потенциальные преимущества ИИ в сфере общественного благосостояния, образования, устойчивого развития и т. д. С учетом этих конкретных случаев использования «Партнерство по ИИ» разрабатывает этическую основу для анализа и измерения этической эффективности ИИ. Этическая основа делает акцент на инклюзивной практике участия, которая повышает справедливость в сфере ИИ. [20]
Программы и инициативы
[ редактировать ]Партнерство по ИИ приняло участие в нескольких инициативах, направленных на содействие ответственному использованию ИИ. Одной из их ключевых инициатив является разработка основы для безопасного развертывания моделей ИИ. Эта структура помогает поставщикам моделей разрабатывать и внедрять модели ИИ таким образом, чтобы обеспечить безопасность общества и адаптироваться к развивающимся возможностям и использованию. [21]
В сотрудничестве с DeepMind Партнерство по искусственному интеллекту также запустило исследование для изучения высоких показателей оттока женщин и представителей меньшинств в сфере технологий. [22]
Признавая важность объяснимости в ИИ, Партнерство по ИИ провело однодневный личный семинар, посвященный внедрению «объяснимого искусственного интеллекта» (XAI). Это мероприятие собрало экспертов из различных отраслей для обсуждения и изучения концепции XAI. [23]
Стремясь обеспечить целостность информации, Партнерство по искусственному интеллекту сотрудничало с First Draft для исследования эффективных стратегий борьбы с мошенническим контентом в Интернете. [24] Эта инициатива отражает методический подход организации к выявлению и продвижению лучших практик в области ИИ.
Партнерство по ИИ также создает ресурсы для содействия эффективному взаимодействию между практиками ИИ и затронутыми сообществами. [25]
В ноябре 2020 года Партнерство по искусственному интеллекту объявило о создании базы данных инцидентов с искусственным интеллектом (AIID) – проекта, посвященного индексированию коллективной истории вреда или близкого к вреду, реализованного в реальном мире благодаря развертыванию систем искусственного интеллекта. AIID, который в 2022 году превратился в новую независимую некоммерческую некоммерческую организацию специального назначения, служит ценным ресурсом для понимания и смягчения потенциальных рисков, связанных с ИИ. [26]
Совсем недавно PAI провела Политический форум PAI 2023 года. Это мероприятие, состоявшееся в Лондоне, представляло собой встречу различных заинтересованных сторон для изучения последних тенденций в глобальной политике в области ИИ и стратегий обеспечения безопасности ИИ. В ходе мероприятия Партнерство по искусственному интеллекту (PAI) представило для общественного обсуждения свое «Руководство по безопасному развертыванию модели фундамента». Это руководство, разработанное Руководящим комитетом по критически важному для безопасности ИИ и при участии всемирной сети PAI, предлагает гибкие принципы управления рисками, связанными с крупномасштабным внедрением ИИ. Среди участников были политики, специалисты в области искусственного интеллекта, представители благотворительных организаций и гражданского общества, а также академические эксперты. [27]
Партнеры и члены
[ редактировать ]В состав Совета директоров Партнерства по ИИ (PAI) по состоянию на 2023 год входят:
- Джатин Айтора, заместитель председателя правления, представляющий BBC Research & Development . [28]
- Бен Коппин из DeepMind . [28]
- Уильям Ковингтон, секретарь совета директоров юридического факультета Вашингтонского университета . [28]
- Джерреми Холланд, председатель правления Apple . [28]
- Эрик Хорвиц, почетный председатель правления, представляющий Microsoft . [28]
- Анджела Кейн, казначей Совета Венского центра по разоружению и нераспространению. [28]
- Лама Нахман из Intel Labs . [28]
- Жоэль Пино, заместитель председателя правления, представляющая Meta . [28]
- Франческа Росси, председатель комитета по аудиту из IBM . [28]
- Эрик Сирс представляет Фонд Джона Д. и Кэтрин Т. Макартуров . [28]
- Бриттани Смит из OpenAI . [28]
- Мартин Тисне из AI Collaborative. [28]
- Никол Тернер Ли, представляющий Институт Брукингса . [28]
Критика
[ редактировать ]В октябре 2020 года Access Now в письме объявила о своем официальном выходе из PAI. Access Now заявила, что обнаружила, что роль гражданского общества в PAI становится все меньше, и что PAI не повлияла и не изменила отношение компаний-членов и не призвала их реагировать на гражданское общество или консультироваться с ним на систематической основе. Access Now также выразил несогласие с подходом PAI к этике ИИ и оценке рисков, а также выступил за полный запрет технологий, которые принципиально несовместимы с правами человека, таких как распознавание лиц или другие биометрические технологии, позволяющие осуществлять массовое наблюдение. [29]
Ссылки
[ редактировать ]- ^ Белфилд, Гайдн (07 февраля 2020 г.). «Активизм сообщества ИИ: анализ последних достижений и перспектив на будущее» . Материалы конференции AAAI/ACM по искусственному интеллекту, этике и обществу . АИС '20. Нью-Йорк, штат Нью-Йорк, США: Ассоциация вычислительной техники. стр. 15–21. дои : 10.1145/3375627.3375814 . ISBN 978-1-4503-7110-0 .
- ^ Херн, Алекс (28 сентября 2016 г.). « Партнерство в области искусственного интеллекта», созданное Google, DeepMind, Facebook, Amazon, IBM и Microsoft | Technology» . Хранитель . Проверено 29 сентября 2016 г.
- ^ Уотерс, Ричард (29 сентября 2016 г.). «ИИ — это следующая большая вещь, о которой стоит беспокоиться» . Файнэншл Таймс . Проверено 29 сентября 2016 г.
- ^ Бинди, Тас (29 сентября 2016 г.). «Amazon, Google, Facebook, IBM и Microsoft создают некоммерческую организацию по искусственному интеллекту» . ЗДНет . Проверено 29 сентября 2016 г.
- ^ Рубин, Бен Фокс; Ченг, Роджер (29 сентября 2016 г.). «Супердрузья ИИ собираются! (3:59, серия 115)» . CNET. Архивировано из оригинала 30 сентября 2016 г. Проверено 29 сентября 2016 г.
- ^ «Новые партнеры укрепляют перспективы ответственного ИИ» . 24 сентября 2019 г.
- ^ Тилли, Аарон (27 января 2017 г.). «Почему Apple присоединилась к конкурентам Amazon, Google и Microsoft в партнерстве в области искусственного интеллекта» . Форбс . Проверено 2 февраля 2017 г.
- ^ «Партнерство по искусственному интеллекту» объявляет об открытии исполнительного директора Теры Лайонс и приветствует новых партнеров — «Партнерство по искусственному интеллекту» . Партнерство по искусственному интеллекту . 17.10.2017 . Проверено 10 сентября 2018 г.
- ^ Тейлор, Хлоя (17 октября 2018 г.). «Baidu становится первой китайской фирмой, присоединившейся к возглавляемой США организации по искусственному интеллекту» . CNBC . Архивировано из оригинала 3 ноября 2018 года . Проверено 17 октября 2018 г.
- ^ МакГрегор, Шон (18 ноября 2020 г.). «Когда системы искусственного интеллекта терпят неудачу: представляем базу данных инцидентов с искусственным интеллектом» . Partneronai.org . Партнерство в сфере ИИ . Проверено 21 ноября 2020 г.
Чтобы избежать повторных сбоев ИИ, необходимо сообщать о прошлых сбоях. Поэтому сегодня мы представляем систематизированный сборник инцидентов, когда интеллектуальные системы вызвали проблемы безопасности, справедливости или другие реальные проблемы: База данных инцидентов с искусственным интеллектом (AIID).
- ^ Jump up to: а б Хонго, Хадсон (01 октября 2021 г.). «PAI отправляет ответ на запрос NIST о предоставлении информации о системе управления рисками ИИ» . Партнерство в сфере ИИ . Проверено 5 декабря 2023 г.
- ^ «Ребекка Финли назначена генеральным директором: письмо Эрика Хорвица, председателя совета директоров» . Партнерство в сфере ИИ . 26 октября 2021 г. Проверено 18 марта 2022 г.
- ^ Соса, Пенелопа (27 февраля 2023 г.). «Лидеры отрасли и правозащитники запускают программу ответственного использования средств массовой информации, созданных с помощью искусственного интеллекта» . Партнерство в сфере ИИ . Проверено 5 декабря 2023 г.
- ^ «ОСФ» . osf.io. Проверено 6 декабря 2023 г.
- ^ «ИИ и честность СМИ» . Партнерство в сфере ИИ . Проверено 6 декабря 2023 г.
- ^ «ИИ, труд и экономика» . Партнерство в сфере ИИ . Проверено 6 декабря 2023 г.
- ^ «Справедливость, прозрачность и подотчетность и ОБ ОД» . Партнерство в сфере ИИ . Проверено 6 декабря 2023 г.
- ^ «Инклюзивные исследования и дизайн» . Партнерство в сфере ИИ . Проверено 6 декабря 2023 г.
- ^ «ИИ, критически важный для безопасности» . Партнерство в сфере ИИ . Проверено 6 декабря 2023 г.
- ^ Морандин-Ауэрма, Фабио. «ОСФ» . osf.io. дои : 10.31219/osf.io/sj2z5 . Проверено 6 декабря 2023 г.
- ^ «Руководство PAI по безопасному развертыванию модели фундамента» . Партнерство в сфере ИИ . Проверено 03 декабря 2023 г.
- ^ «Исследование проблем разнообразия в искусственном интеллекте» . Партнерство в сфере ИИ . 30 января 2021 г. Проверено 03 декабря 2023 г.
- ^ «Совещание представителей разных отраслей» . Партнерство в сфере ИИ . 30 января 2021 г. Проверено 03 декабря 2023 г.
- ^ «Методический подход к лучшим практикам» . Партнерство в сфере ИИ . 30 января 2021 г. Проверено 03 декабря 2023 г.
- ^ «Инклюзивные исследования и дизайн» . Партнерство в сфере ИИ . Проверено 03 декабря 2023 г.
- ^ «База данных инцидентов с искусственным интеллектом» . Партнерство в сфере ИИ . Проверено 03 декабря 2023 г.
- ^ «Форум по политике PAI на 2023 год – YouTube» . www.youtube.com . Проверено 5 декабря 2023 г.
- ^ Jump up to: а б с д и ж г час я дж к л м «Наша команда» . Партнерство в сфере ИИ . Проверено 5 декабря 2023 г.
- ^ «Access Now выходит из Партнерства по искусственному интеллекту» . Доступ сейчас . Проверено 5 декабря 2023 г.