Председатель совета по противодействию технологическим правонарушениям КС НСБ России Игорь Бедеров в беседе с RT прокомментировал заявление президента американского Института исследований машинного интеллекта Нейта Соареса: тот считает, что человечество может вымереть из-за искусственного интеллекта менее чем за десять лет.

Бедеров назвал эту оценку личным вероятностным мнением, которое представляет крайнюю позицию в экспертной среде. По его словам, большинство серьёзных специалистов признают ненулевой риск утраты контроля над системой, значительно превосходящей человека по интеллектуальным возможностям. Такая система, предположил эксперт, может преследовать цели, не совпадающие с человеческими, обходить ограничения разработчиков, совершенствоваться и создавать инфраструктуру без участия людей. Речь, пояснил он, не о «восстании машин», а о среде, которая может стать непригодной для человека; рассуждения Соареса Бедеров назвал интеллектуальной работой, а не пророчеством.

Чем опаснее система и менее понятна логика её решений, тем строже, считает Бедеров, должны быть требования к прозрачности и тестированию, а у человека должна оставаться возможность вмешаться. Регулирование ИИ, добавил он, должно также снижать риски чрезмерного доверия алгоритмам в чувствительных сферах, утечек персональных данных в зарубежные сервисы, манипуляций и мошенничества с помощью ИИ.