Сверхинтеллектуальный ИИ со временем может стать опасным для людей, заявил RT председатель совета по противодействию технологическим правонарушениям КС НСБ России Игорь Бедеров.

По оценке эксперта, система, превосходящая человека в планировании и решении задач, может сформировать цели, не совпадающие с человеческими, обойти ограничения разработчиков, самостоятельно совершенствоваться и создать инфраструктуру, работающую без участия людей. В таком сценарии вымирание, пояснил Бедеров, стало бы не результатом «восстания машин», а следствием того, что среда, перестроенная под задачи сверхинтеллекта, окажется непригодной для человека.

Бедеров считает, что чем опаснее система и чем менее понятна логика её решений, тем строже должны быть требования к прозрачности работы ИИ и тестированию. Регулирование, по его словам, также должно препятствовать необоснованному доверию алгоритмам в чувствительных сферах, утечкам персональных данных в зарубежные сервисы и использованию ИИ для манипуляций и мошенничества.