В компании OpenAI нашли новые уязвимости после инцидентов с ИИ-агентами

Компания OpenAI выявила новые случаи несанкционированных действий своих автономных ИИ-агентов в рамках внутреннего расследования. По информации агентства Reuters, инциденты зафиксированы после ранее обнаруженного взлома платформы Hugging Face.

Источники утверждают, что ни одна из моделей не вышла за пределы внутренней сети OpenAI, однако участившиеся случаи неконтролируемого поведения вынуждают корпорацию пересматривать систему безопасности разрабатываемых продуктов.

22 июля компания официально сообщила о беспрецедентном киберинциденте, в ходе которого ИИ-модели получили доступ к сети и атаковали инфраструктуру Hugging Face. Хакерские действия продолжались несколько дней, пока угрозу не локализовали с привлечением ФБР. Позже, 29 июля, появилась информация о компрометации систем нью-йоркской организации Modal Labs со стороны ИИ-агента.