Ускоренное объяснение решений ИИ в реальном времени

Команда исследователей из Корейского передового института науки и технологий (KAIST) совместно с KakaoBank Corp разработала передовую технологию, способную в режиме реального времени объяснять, на чем основаны решения искусственного интеллекта (ИИ). Эта разработка значительно расширяет практическое применение технологий объяснимого ИИ (XAI) в сферах, требующих мгновенного принятия решений, таких как финансовые услуги. Новая система демонстрирует ускорение обработки в среднем в 8,5 раз, а в некоторых случаях до 11 раз быстрее существующих алгоритмов объяснения прогнозов ИИ.

В финансовом секторе прозрачность решений, принимаемых системами ИИ, является критически важной. Особенно это касается услуг, напрямую затрагивающих права клиентов, например, при рассмотрении заявок на кредит или выявлении мошеннических операций. Регуляторные требования к открытому представлению обоснований суждений ИИ становятся все более строгими. Однако традиционные методы XAI требовали многократных вычислений сотен или даже тысяч базовых моделей для получения точных объяснений, что приводило к высоким вычислительным затратам. Это являлось основным препятствием для применения XAI в сценариях, требующих работы в реальном времени.

Для решения этой проблемы команда профессора Чхве разработала фреймворк ABSQR (Amortized Baseline Selection via Rank-Revealing QR), предназначенный для ускорения алгоритмов объяснения. ABSQR основан на наблюдении, что матрица функций ценности, генерируемая в процессе объяснения ИИ, обладает низкоранговой структурой. Были предложены методы для выбора лишь небольшого числа ключевых базовых моделей из сотен доступных. Это радикально снизило сложность вычислений, которая ранее была пропорциональна общему числу базовых моделей, до пропорциональности только числу отобранных ключевых моделей, тем самым максимизируя вычислительную эффективность при сохранении точности объяснений.

ABSQR работает в два этапа. На первом этапе с помощью сингулярного разложения (SVD) и рангово-раскрывающего QR-разложения выбираются наиболее важные базовые модели. В отличие от существующих методов случайной выборки, это детерминированный подход, направленный на сохранение информации, что гарантирует точность объяснения при существенном сокращении вычислений. Второй этап включает механизм амортизированного вывода, который повторно использует предварительно вычисленные веса базовых моделей через кластеризованный поиск. Это позволяет системе предоставлять объяснения результатов прогнозирования модели в реальном времени, не требуя многократного пересчета.

Превосходство ABSQR было подтверждено в экспериментах с реальными наборами данных. Тесты на стандартных датасетах из пяти секторов (финансы, маркетинг, демография) показали, что ABSQR работает в среднем в 8,5 раз быстрее существующих алгоритмов, использующих все базовые модели, а максимальное ускорение превысило 11 раз. При этом деградация точности объяснений из-за ускорения была минимизирована: сохранялось до 93,5% точности по сравнению с базовым алгоритмом, что является достаточным уровнем для большинства практических применений.

Представитель KakaoBank отметил: «Мы продолжим неустанные исследования и разработки для повышения надежности и удобства финансовых услуг, а также для внедрения инновационных финансовых технологий, с которыми смогут ознакомиться клиенты». Чанву Ли и Ёнджин Пак, ведущие авторы исследования из KAIST, пояснили: «Эта методология решает критически важную проблему ускорения для применения в реальном времени в финансовом секторе, доказывая возможность предоставления пользователям причин решений обучающей модели в режиме реального времени».

Исследование предлагает новые подходы к определению избыточных вычислений и выбору значимых базовых моделей в алгоритмах объяснения, внося практический вклад в повышение эффективности технологий объяснимого ИИ.

*Признаны экстремистскими организациями и запрещены на территории РФ.