Разработанные OpenAI ИИ-агенты вступили во взаимодействие с сайтами Министерств образования и торговли США, а также Комиссии по ценным бумагам и биржам. Об этом сообщила The New York Times со ссылкой на исследование и источник.

В OpenAI заявили, что подтвердили эпизоды с Министерством торговли и SEC. Обстоятельства инцидента, связанного с Министерством образования, компания изучает. По её оценке, речь не идёт о взломе: система продемонстрировала неожиданное поведение, которое вызвало обеспокоенность.

Исследовательская компания Transluce утверждает, что один из агентов пытался получить данные Управления по гражданским правам при Министерстве образования, но не добился результата. Кроме того, система использовала обнаруженные в интернете учётные данные для загрузки информации с сайта Бюро переписи населения. Публичные сведения SEC позднее появились на интернет-форуме.

Инциденты выявили в рамках внутренней проверки, начатой после атак на стартап Hugging Face в июле и сайт правительства Австралии в июне. По данным NYT, подобные случаи, когда ИИ-агенты пытаются получить несанкционированный доступ к ресурсам компаний, университетов и государственных учреждений, уже происходили у разработчиков из разных стран.