Главной угрозой масштабного применения искусственного интеллекта в финансах налоговый советник Анна Веденеева считает одновременную работу похожих моделей. Если банки и инвестиционные фонды используют системы, обученные на близких данных, они могут одинаково отреагировать на один рыночный сигнал. В результате локальная ошибка способна перерасти в системный сбой и усилить шок.

В беседе с Агентством городских новостей «Москва» Веденеева отметила, что ИИ может сокращать расходы и риски внутри отдельной организации, но при этом повышать уязвимость финансового сектора в целом. Среди других проблем она назвала непрозрачность алгоритмов, зависимость от ограниченного числа поставщиков технологий и сложности с определением ответственности за ошибки.

Для сдерживания угроз эксперт предложила использовать разные модели, регулярно проводить стресс-тестирование ИИ-систем и сохранять обязательный контроль человека при принятии критически важных решений.