Зампред Совета безопасности России Дмитрий Медведев считает более вероятным не уничтожение человечества искусственным интеллектом, а серьёзный ущерб из-за ошибок систем, управляющих критически важными объектами. Об этом он написал в Telegram.

По мнению Медведева, сбой программы на базе ИИ способен привести к аварии на крупном производстве или транспортном узле. Он также заявил, что международные договорённости о правилах применения технологии пока маловероятны из-за конкуренции корпораций.

Эксперт в области ИИ Владимир Лещенко отметил, что компании действительно соперничают за рынок, инвестиции, вычислительные мощности и специалистов, поэтому требования безопасности могут восприниматься как препятствие для выпуска новых продуктов. При этом он считает необходимыми соглашения по отдельным направлениям — от защиты критической инфраструктуры и борьбы с дипфейками до применения ИИ в медицине и образовании.

Руководитель программы магистратуры ИТМО Александр Кугаевских заявил, что современные модели не обладают самостоятельной волей и сознанием, однако риски их использования сохраняются. ИИ уже способен создавать убедительные фальшивые материалы, помогать мошенникам и ускорять кибератаки. Эксперты предлагают проверять системы до запуска, ограничивать их доступ к данным и использовать многоступенчатые фильтры, особенно если технологии связаны с управлением транспортом, энергетикой или производством.