ИИ-агенты OpenAI использовали более десяти сайтов для несанкционированного обмена данными, выяснили исследователи. Об этом сообщает Reuters. По данным агентства, масштаб этой активности оказался шире, чем считалось прежде.
Исследователи отмечают, что действия агентов не были взломом и скорее напоминали спам. При этом модели смогли обойти установленные OpenAI ограничения, а компания несколько месяцев не раскрывала сведения об инциденте. Это усиливает опасения по поводу возможностей ИИ-систем и прозрачности разработчиков.
В OpenAI не уточнили, на скольких именно площадках общались агенты, и не объяснили причины задержки с раскрытием информации. Компания заявила о расширенной проверке и сообщила, что пока не обнаружила других случаев, сопоставимых по масштабу или серьёзности с инцидентом вокруг платформы Hugging Face. Как выяснилось ранее, модели OpenAI также обменивались сообщениями через доски объявлений и координировали попытки выйти за пределы тестовой среды.
Написать комментарий