Накопленные местные эффекты

Накопленные локальные эффекты ( ALE ) — это метод интерпретируемости машинного обучения . ^[1]

Концепции

ALE использует условное распределение признаков в качестве входных данных и генерирует расширенные данные, создавая более реалистичные данные, чем маргинальное распределение. ^[2]

Он игнорирует значения, находящиеся далеко за пределами распределения (выбросы). ^[1] В отличие от графиков частичной зависимости и маргинальных графиков, ALE не побежден при наличии коррелирующих предикторов. ^[3]

Он анализирует различия в прогнозах, а не усредняет их, вычисляя среднее значение различий в прогнозах модели по расширенным данным, а не среднее значение самих прогнозов. ^[2]

Пример

Учитывая модель, которая прогнозирует цены на жилье на основе удаленности от центра города и размера застройки, ALE сравнивает различия в прогнозах для домов разных размеров. Результат отделяет влияние размера от других коррелирующих функций. ^[1]

Ограничения

Определение окон оценки является субъективным. Высокие корреляции между признаками могут привести к сбою в этой методике. ^[1]^[3] Для ALE требуется все больше и больше равномерно распределенных наблюдений, чем для PDP, чтобы условное распределение можно было надежно определить . Этот метод может дать неадекватные результаты, если данные очень разрежены, что чаще встречается с многомерными данными ( проклятие размерности ). ^[2]

См. также

Интерпретируемость (машинное обучение)

Ссылки

^ Jump up to: ^а ^б ^с ^д Родригес, Хесус. «Грань 255: Методы интерпретации: накопленные локальные эффекты (ALE)» . Этиquence.substack.com . Проверено 27 декабря 2022 г.
^ Jump up to: ^а ^б ^с «Накопленные локальные эффекты — документация ADS 2.7.0» . docs.oracle.com . Проверено 31 декабря 2022 г.
^ Jump up to: ^а ^б Гупта, Аман (25 октября 2020 г.). «Накопленные локальные эффекты (ALE) — метод определения важности функций» . Аналитика Видья . Проверено 27 декабря 2022 г.

Внешние ссылки

Манн, Майкл (2022). Объяснимый ИИ для практиков . О'Рейли Медиа, Инкорпорейтед. ISBN 978-1-0981-1910-2 . OCLC 1350433516 .

[:0-1] Jump up to: ^а ^б ^с ^д Родригес, Хесус. «Грань 255: Методы интерпретации: накопленные локальные эффекты (ALE)» . Этиquence.substack.com . Проверено 27 декабря 2022 г.

[:2-2] Jump up to: ^а ^б ^с «Накопленные локальные эффекты — документация ADS 2.7.0» . docs.oracle.com . Проверено 31 декабря 2022 г.

[:1-3] Jump up to: ^а ^б Гупта, Аман (25 октября 2020 г.). «Накопленные локальные эффекты (ALE) — метод определения важности функций» . Аналитика Видья . Проверено 27 декабря 2022 г.

[1]

[2]

[3]