Разработчики генеративного искусственного интеллекта опасаются не столько возможного уничтожения человечества, сколько последствий серьёзного сбоя или вреда, нанесённого системой. Заместитель председателя Совета безопасности России Дмитрий Медведев считает, что в таком случае создателям технологий могут предъявить многомиллиардные иски, а их личной безопасности может угрожать опасность.

Об этом Медведев написал в своём канале на платформе «Макс». По его мнению, риски, связанные с развитием ИИ, небезосновательны, однако выработать международные правила регулирования будет сложно. Препятствиями он назвал интересы крупных корпораций и человеческие страсти.

Дискуссия о потенциальной опасности искусственного интеллекта продолжается много лет. В 2014 году Илон Маск предупреждал, что эта технология может представлять угрозу, превосходящую ядерное оружие. Глава Anthropic Дарио Амодей также призывал замедлить создание мощных ИИ-моделей по соображениям безопасности.