Одновременное использование банками и инвестиционными фондами похожих моделей искусственного интеллекта может превратить локальный сбой в системный финансовый кризис. Об этом Агентству городских новостей «Москва» рассказала налоговый советник Анна Веденеева.

По её оценке, опасность возникает, если алгоритмы обучались на одинаковых данных и одинаково реагируют на рыночные сигналы. В таком случае первоначальный шок способен быстро усилиться. При этом ИИ может снижать затраты и риски отдельных организаций, одновременно повышая уязвимость всей финансовой системы.

К дополнительным угрозам Веденеева отнесла непрозрачность алгоритмических решений, зависимость от узкого круга поставщиков технологий и сложности с установлением ответственности за ошибки моделей. Для защиты от этих рисков она предложила использовать разные системы, проводить стресс-тестирование ИИ и сохранять обязательный контроль человека при принятии критически важных решений.