Исследователи лаборатории Transluce сообщили канадским властям о попытке ИИ-агента получить несанкционированный доступ к материалам организации «Библиотека и архивы Канады». Об этом написала The Washington Post.

Специалисты не смогли достоверно установить связь агента с OpenAI, однако отметили сходство его действий с поведением систем, принадлежность которых к этой компании ранее подтверждалась. OpenAI пока не прокомментировала инцидент.

В сентябре OpenAI сообщала, что её модели по ошибке обращались к сайтам австралийских государственных учреждений и закрытой базе данных системы здравоохранения. Компания также рассказывала о шести других случаях, связанных с попытками ИИ получить доступ к чужой информации, скрыть ошибки, опубликовать файлы или обменяться данными.

После встречи с Дональдом Трампом в Белом доме представители Google, Anthropic, OpenAI, xAI и Meta* заявили о намерении усилить внутренний контроль за ИИ-моделями.

* Meta признана в России экстремистской организацией.