Искусственный интеллект способен усилить уже существующие угрозы — от кибератак и дезинформации до разработки опасных вирусов. Об этом Business Insider рассказали исследователи, обсудившие возможные последствия дальнейшего развития технологии.

Профессор Стюарт Рассел допускает атаки на энергетику, водоснабжение, транспорт, финансовую систему и связь. Джеффри Хинтон считает, что для масштабного ущерба ИИ не обязательно получать физический контроль: он может манипулировать людьми через интернет и помогать создавать биологическое или компьютерное оружие. Гэри Маркус полагает, что технология способна повлиять на выборы, спровоцировать войну или содействовать созданию вируса, но не видит реалистичного сценария полного уничтожения человечества.

Другой риск связан с постепенной утратой контроля. По мнению Ника Бострома, люди могут передать ИИ управление критически важными процессами и разработкой новых систем, перестав понимать происходящее. Роман Ямпольский не исключает, что автономная система будет скрывать свои цели, использовать уязвимости и получать доступ к финансовым, военным и биологическим ресурсам.

Оценки вероятности катастрофы заметно расходятся: Эван Хабингер говорит о более чем 10% в ближайшее десятилетие, Тоби Орд — примерно об одном шансе из десяти до 2100 года, а Ямпольский считает риск при создании сверхразума значительно выше. Рассел, Орд и Ямпольский выступают за международный мораторий на разработку сверхразума до подтверждения его управляемости. Бостром считает, что ИИ может принести пользу медицине и обществу при осторожном развитии.