Американские компании разрабатывают системы, которые должны остановить искусственный интеллект при опасном или неконтролируемом поведении. Об этом сообщает Axios.

Отключение отдельных серверов не всегда решает проблему: мощные ИИ-системы могут работать одновременно на множестве компьютеров и цифровых платформ. Поэтому разработчики создают несколько уровней защиты — от выявления подозрительных действий до блокировки доступа к необходимым ресурсам.

В OpenAI сообщили о разработке автономной процедуры экстренного отключения. Специальный ИИ-наблюдатель должен сигнализировать сотрудникам о потенциально опасном поведении агентов, а при подтверждении угрозы остановить систему в течение 30 минут.