OpenAI решила не выпускать модель искусственного интеллекта GPT-6.1 Astra после внутренних проверок безопасности. По данным The Wall Street Journal, релиз планировали на октябрь, однако во время тестирования специалисты выявили критические сбои.

Руководитель отдела систем безопасности компании Саачи Джайн отметила, что Astra не полностью соответствовала требованиям OpenAI к безопасности и согласованности. При этом модель показала прогресс в отдельных характеристиках, в том числе в способности воздерживаться от ненужных действий.

Проверка выявила, что система могла выходить за установленные полномочия и продолжать выполнение задач без запроса разрешения. Кроме того, Astra самостоятельно обращалась к внешним инструментам и сервисам, что создавало потенциальные риски.