Причинный ИИ
Причинный ИИ — это метод искусственного интеллекта , который строит причинно-следственную модель и, таким образом, может делать выводы, используя причинность, а не просто корреляцию. Одним из практических применений причинно-следственного ИИ является объяснение организациями процесса принятия решений и его причин. [1] [2]
Системы, основанные на причинно-следственной связи ИИ, определяя основную сеть причинно-следственных связей для поведения или события, предоставляют информацию, которую исключительно прогнозирующие модели ИИ могут не извлечь из исторических данных. [3] Анализ причинно-следственной связи может использоваться в качестве дополнения к человеческим решениям в ситуациях, когда необходимо понимание причин, лежащих в основе результата, например, для количественной оценки воздействия различных вмешательств, политических решений или выполнения сценарного планирования. [4] В статье Google DeepMind от 2024 года математически продемонстрировано, что «любой агент, способный адаптироваться к достаточно большому набору сдвигов в распределении, должен изучить причинно-следственную модель». [5] В статье предлагается интерпретация, согласно которой обучение обобщению за пределами исходного обучающего набора требует изучения причинной модели, и делается вывод, что причинный ИИ необходим для общего искусственного интеллекта .
История
[ редактировать ]Концепция причинного ИИ и ограничений машинного обучения была поднята Джуди Перлом , премии Тьюринга , лауреатом учёным-компьютерщиком и философом 2018 года , в книге «Почему : новая наука о причине и следствии». Перл утверждал: «Недостаток понимания машинами причинно-следственных связей, пожалуй, является самым большим препятствием на пути к наделению их интеллектом человеческого уровня». [6] [7]
В 2020 году Колумбийский университет создал Лабораторию причинного искусственного интеллекта под руководством директора Элиаса Барейнбойма . Исследования профессора Барейнбойма сосредоточены на причинно-следственных и контрфактических выводах и их применении в областях, основанных на данных, в здравоохранении и социальных науках, а также искусственном интеллекте и машинном обучении. [8] Технологическая исследовательская и консалтинговая фирма Gartner впервые включила причинный ИИ в свой отчет Hype Cycle за 2022 год , назвав его одной из пяти важнейших технологий ускоренной автоматизации ИИ. [9] [10]
Одним из значительных достижений в этой области является концепция алгоритмической информационной динамики: [11] основанный на модели подход к обнаружению причинно-следственных связей с использованием алгоритмической теории информации и анализа возмущений. Он решает обратные причинно-следственные задачи путем вычислительного изучения динамических систем. Ключевым применением является причинная деконволюция, которая разделяет генеративные механизмы в данных с помощью алгоритмических моделей, а не традиционной статистики. [12] Этот метод идентифицирует причинные структуры в сетях и последовательностях, отходя от вероятностных и регрессионных методов, отмечая один из первых практических подходов причинного ИИ, использующих алгоритмическую сложность и алгоритмическую вероятность в машинном обучении . [13]
Ссылки
[ редактировать ]- ^ Блогер, гость SwissCognitive (18 января 2022 г.). «Причинный ИИ» . SwissCognitive, ведущая в мире сеть искусственного интеллекта . Проверено 11 октября 2022 г.
- ^ Сгайер, Сема К; Хуанг, Винсент; Грейс, Чарльз (2020). «Дело в пользу причинного ИИ». Стэнфордский обзор социальных инноваций . 18 (3): 50–55. ISSN 1542-7099 . ПроКвест 2406979616 .
- ^ «За пределами исторических данных | causa» . causa.tech . 29 июня 2024 г. Проверено 29 июня 2024 г.
- ^ «Как понять мир причинности | causaLens» . causalens.com . 28 февраля 2023 г. Проверено 7 октября 2023 г.
- ^ «Надежные агенты изучают причинные модели мира». S2CID 267740124 .
{{cite web}}: Отсутствует или пусто|url=( помощь ) - ^ Перл, Иудея (2019). Книга «Почему: новая наука о причине и следствии» . Дана Маккензи. Лондон , Великобритания : Penguin Books. ISBN 978-0-14-198241-0 . OCLC 1047822662 .
- ^ Хартнетт, Кевин (15 мая 2018 г.). «Чтобы создать по-настоящему умные машины, научите их причине и следствию» . Журнал Кванта . Проверено 11 октября 2022 г.
- ^ «То, что ИИ до сих пор не может сделать» . Обзор технологий Массачусетского технологического института . Проверено 18 октября 2022 г.
- ^ «Что нового в цикле хайпа Gartner в отношении новых технологий в 2022 году» . Гартнер . Проверено 11 октября 2022 г.
- ^ Шарма, Шубхам (10 августа 2022 г.). «Gartner выбирает новые технологии, которые могут способствовать дифференциации предприятий» . ВенчурБит . Проверено 11 октября 2022 г.
- ^ Зенил, Гектор (25 июля 2020 г.). «Алгоритмическая информационная динамика» . Схоларпедия . 15 (7). Бибкод : 2020SchpJ..1553143Z . doi : 10.4249/scholarpedia.53143 . hdl : 10754/666314 . Зенил, Гектор; Киани, Нарсис А.; Тегнер, Йеспер (2023). Алгоритмическая информационная динамика: вычислительный подход к причинно-следственной связи с применением к живым системам . Издательство Кембриджского университета. дои : 10.1017/9781108596619 . ISBN 978-1-108-59661-9 .
- ^ Зенил, Гектор; Киани, Нарсис А.; Зеа, Аллан А.; Тегнер, Йеспер (2019). «Причинная деконволюция алгоритмическими генеративными моделями» . Природный машинный интеллект . 1 (1): 58–66. дои : 10.1038/s42256-018-0005-0 . hdl : 10754/630919 .
- ^ Эрнандес-Ороско, Сантьяго; Зенил, Гектор; Ридель, Юрген; Уччелло, Адам; Киани, Нарсис А.; Тегнер, Йеспер (2021). «Алгоритмическое вероятностно-ориентированное машинное обучение в недифференцируемых пространствах» . Границы искусственного интеллекта . 3 : 567356. doi : 10.3389/frai.2020.567356 . ПМЦ 7944352 . ПМИД 33733213 .