Американские разработчики искусственного интеллекта создают многоуровневую систему экстренной защиты на случай, если алгоритмы начнут действовать неконтролируемо. Об этом сообщает портал Axios.

Необходимость таких мер связана с устройством современных ИИ-систем: они работают одновременно на множестве компьютеров и платформ, поэтому отключить их одним переключателем невозможно. Разработчики рассчитывают, что защитные механизмы смогут распознавать подозрительную активность, останавливать отдельных ИИ-агентов и лишать их доступа к вычислительным ресурсам.

Дискуссия об угрозах ИИ усилилась после ухода из индустрии исследователя Anthropic Джейкоба Коксона. Он связал решение с ускорением технологической гонки и заявил о приближении «точки невозврата», последствия которой, по его мнению, могут стать катастрофическими к концу 2027 года.

Эмиль Майкл из Пентагона считает, что опасения по поводу возможного уничтожения человечества искусственным интеллектом вызваны страхом перед переменами. Бывший президент США Дональд Трамп также говорил, что восстание машин невозможно, однако в случае угрозы, по его словам, найдётся отдельное техническое решение.