Марина Джиротка
Марина Дениз Энн Джиротка [1] — профессор человеко-ориентированных вычислений в Оксфордском университете , директор Института ответственных технологий , член руководящего органа колледжа Сент-Кросс , [2] член правления Общества компьютеров и права [3] и научный сотрудник Оксфордского института Интернета . [4] Она возглавляет команду, которая работает над ответственными инновациями в ряде областей ИКТ, включая робототехнику, искусственный интеллект, машинное обучение, квантовые вычисления, социальные сети и цифровую экономику. Она известна своей работой с Аланом Уинфилдом над «Этическим черным ящиком ». [5] [6] Предложение о том, чтобы роботы, использующие ИИ, были оснащены бортовым самописцем, аналогичным тем, которые используются в самолетах, для отслеживания решений и действий ИИ при работе в неконтролируемой среде и для помощи в расследованиях после происшествий. [5] [7]
Образование
[ редактировать ]Джиротка получила степень бакалавра психологии и социальной антропологии в Голдсмитском колледже в 1985 году и степень магистра в области вычислительной техники и искусственного интеллекта в Университете Саут-Бэнк в 1987 году. Ее докторская степень в области компьютерных наук «Исследование контекстуальных подходов к сбору требований » [8] был завершен в Оксфордском университете в 2000 году.
Карьера
[ редактировать ]В 1987 году Джиротка был назначен научным сотрудником исследовательской группы социальных и компьютерных наук Университета Суррея . В 1991 году она поступила на работу в Оксфордский университет в качестве старшего научного сотрудника кафедры компьютерных наук, а в 2003 году стала университетским преподавателем и членом руководящего органа колледжа Сент-Кросс. В 2008 году она стала преподавателем по разработке требований и получила звание профессора гуманитарных наук. центрированные вычисления в 2014 году. [ нужна ссылка ]
Исследовать
[ редактировать ]Самая последняя работа Джиротки сосредоточена вокруг «этического черного ящика» — способа принятия алгоритмических решений, объяснимых после неожиданного события или несчастного случая. [5] [9] Моделью для этого подхода является авиационная отрасль, которая использует бортовые системы записи для предоставления доказательств после происшествия. Этот подход к объяснимости в робототехнике основан на более ранней работе Джиротки об ответственных исследованиях и инновациях (RRI), исследовательском методе, поддерживаемом Европейским комитетом. [10] Тема Horizon 2020 и исследовательские советы Великобритании, в частности EPSRC . RRI включает в себя использование анализа, участие заинтересованных сторон и упреждающее управление, чтобы попытаться смягчить потенциальные негативные последствия исследований и разработок. Считается, что это особенно применимо в дисциплинах ИКТ, где игнорирование возможных негативных последствий может иметь серьезные последствия. Джиротка внесла значительный вклад в развитие RRI после ее работы над проектом «Система ответственных исследований и инноваций в области ИКТ» (FRRIICT), который был принят для развертывания в Великобритании EPSRC. [11]
Другие проекты Джиротки включают:
- Непредвзятость [12] и РеЭнТраст [13] - исследовательские проекты, изучающие способы использования алгоритмов в Интернете. Проекты направлены на повышение осведомленности об алгоритмической предвзятости и поиск способов уменьшить предвзятость, чтобы общественное доверие к алгоритмическим вычислениям могло быть оправдано.
- РобоСОВЕТЫ [14] - проект в партнерстве с Бристольской лабораторией робототехники, посвященный тому, как можно разрабатывать роботов с использованием концепции «этического черного ящика».
Экспертное мнение
[ редактировать ]Джиротка часто давал показания избранным комитетам , консультативным советам, межпартийным парламентским группам и отраслевым органам. Она входит в состав Руководящего комитета APPG по анализу данных. [15] и Консультативный совет Общества компьютеров и права. Она регулярно появляется на экспертных комиссиях, обсуждая этические подходы к инновациям. [16] а также выступает на международном уровне по вопросам, возникающим из-за отсутствия разнообразия в науке. [17]
Новые вклады
[ редактировать ]Вместе с членами своей команды Джиротка сформулировала концепцию «Этического хакатона». [18] Это метод, основанный на традиционном типе хакатона , который дополнительно включает в себя акцент на этических вопросах, таких как оценка воздействия работы на (например) группы меньшинств или уязвимых пользователей. Эта концепция была опробована во время работы над проектом UnBias и с тех пор использовалась в лаборатории LabHack в Зимбабве. [19] и в подготовке докторантов в Оксфорде.
Публикации
[ редактировать ]- Уинфилд, Алан Ф.Т.; Джиротка, Марина (15 октября 2018 г.). «Этическое управление имеет важное значение для укрепления доверия к робототехнике и системам искусственного интеллекта» . Философские труды Королевского общества A: Математические, физические и технические науки . 376 (2133): 20180085. Бибкод : 2018RSPTA.37680085W . дои : 10.1098/rsta.2018.0085 . ПМК 6191667 . ПМИД 30323000 .
- Де Ла Флор, Грейс; Оджаги, Мобин; Мартинес, Игнасио Ламата; Джиротка, Марина; Уильямс, Мартин С.; Блейкборо, Энтони (13 сентября 2010 г.). «Практика реконфигурации: взаимозависимость экспериментальной процедуры и вычислительной инфраструктуры в распределенной сейсмической инженерии» . Философские труды Королевского общества A: Математические, физические и технические науки . 368 (1926): 4073–4088. Бибкод : 2010RSPTA.368.4073D . дои : 10.1098/rsta.2010.0140 . ПМИД 20679123 .
- Д'Агостино, Джузеппина; Хиндс, Крис; Джиротка, Марина; Мейер, Чарльз; Пайпер, Тина; Рахман, Мустафизур; Вавер, Дэвид (июнь 2008 г.). «О важности прав интеллектуальной собственности для электронной науки и интегрированной медицинской документации» . Журнал медицинской информатики . 14 (2): 95–111. дои : 10.1177/1081180X08089318 . ПМИД 18477597 . S2CID 7934521 .
- Геддес, Дж; Маккей, К; Ллойд, С; Симпсон, А; Мощность, Д; Рассел, Д; Джиротка, М; Казарова М; Россор, М ; Фокс, Н.; Флетчер, Дж; Хилл, Д; Маклиш, К; Чен, Ю; Хайнал, СП; Лори, С; Иов, Д; Макинтош, А; Уордлоу, Дж; Сандеркок, П; Палмер, Дж; Перри, Д; Проктер, Р.; Юр, Дж; Хартсвуд, М; Слэк, Р; Восс, А; Хо, К; Бат, П; Кларк, В; Уотсон, Дж. (2006). «Проектирование электронного здравоохранения: повторяющиеся сценарии разработки сетевых систем медицинской визуализации». Исследования в области медицинских технологий и информатики . 120 : 336–47. ПМИД 16823151 .
- Валлийский, Э; Джиротка, М; Гаваган, Д. (15 июня 2006 г.). «Постгеномная наука: междисциплинарные и крупномасштабные совместные исследования и их организационные и технологические проблемы для процесса научных исследований». Философские труды. Серия А. Математические, физические и технические науки . 364 (1843): 1533–49. Бибкод : 2006RSPTA.364.1533W . дои : 10.1098/rsta.2006.1785 . ПМИД 16766359 . S2CID 22817487 .
- Хартсвуд, М; Джиротка, М; Проктер, Р.; Слэк, Р; Восс, А; Ллойд, С. (2005). «Разработка ИТ в электронной науке: опыт сбора требований в проекте HealthGrid». Исследования в области медицинских технологий и информатики . 112 : 198–209. ПМИД 15923729 .
Ссылки
[ редактировать ]- ^ «Марина Жиротка» . Кафедра компьютерных наук .
- ^ «Профессор Марина Джиротка» . 13 января 2023 г.
- ^ «СКЛ: Дом» . www.scl.org .
- ^ «Доктор Марина Джиротка — Оксфордский Интернет-Институт» . www.oii.ox.ac.uk.
- ^ Jump up to: а б с Сэмпл, Ян (19 июля 2017 г.). «Дайте роботам «этический черный ящик», чтобы отслеживать и объяснять решения, — говорят ученые» . Хранитель . Проверено 27 декабря 2018 г.
- ^ Лант, Карла. «Эксперты хотят, чтобы у роботов был «этический черный ящик», объясняющий процесс принятия ими решений» . Футуризм . Проверено 27 декабря 2018 г.
- ^ Уинфилд, Алан Ф.Т.; Джиротка, Марина (20 июля 2017 г.). «Дело в пользу этического черного ящика». На пути к автономным роботизированным системам . Конспекты лекций по информатике. Том. 10454. В учеб. На пути к автономным роботизированным системам: 18-я ежегодная конференция TAROS 2017, Гилфорд, Великобритания, 19-21 июля 2017 г., Springer. стр. 262–273. дои : 10.1007/978-3-319-64107-2_21 . ISBN 978-3-319-64106-5 .
- ^ Джиротка, Марина (2001). Исследование контекстуальных подходов к фиксации требований (Диссертация). Оксфордский университет.
- ^ «Эксперты хотят, чтобы у роботов был «этический черный ящик», объясняющий процесс принятия ими решений» . Футуризм .
- ^ камраро (1 апреля 2014 г.). «Ответственные исследования и инновации» . Горизонт 2020 – Европейская Комиссия .
- ^ «Система ответственных исследований и инноваций в области ИКТ — веб-сайт EPSRC» . epsrc.ukri.org . 18 октября 2023 г.
- ^ ЭПСРК. «Грант: UnBias: освобождение пользователей от алгоритмических предубеждений для надежной цифровой экономики» . gow.epsrc.ukri.org .
- ^ ЭПСРК. «Грант: ReEnTrust: восстановление и повышение доверия к алгоритмам» . gow.epsrc.ukri.org .
- ^ ЭПСРК. «Грант: RoboTIPS: Разработка ответственных роботов для цифровой экономики» . gow.epsrc.ukri.org .
- ^ «Всепартийная парламентская группа по анализу данных запускает знаковое исследование в области этики данных и технологий — Пресс-релизы — Orbit RRI» . 27 ноября 2018 г.
- ^ «Оксфордский университет» . www.facebook.com .
- ^ «Марина Жиротка» . Блог Института физики .
- ^ «Этический хакатон воплощает в себе задачи этики и дизайна» . Кафедра компьютерных наук .
- ^ «Школьный информационный бюллетень 2018 - Проекты - Школа антропологии и музейной этнографии» . www.anthro.ox.ac.uk .
| Международный | |
|---|---|
| Национальный | |
| академики | |
| Другой | |
