OpenAI временно поставила на паузу обучение наиболее мощных моделей искусственного интеллекта. Компания проверяет случаи нежелательного поведения своих систем, сообщает Axios.

Вместе с Anthropic и специалистами по безопасности OpenAI анализирует десятки тысяч инцидентов. Часть из них выявили во время внутренних тестов, другие произошли при использовании ИИ в реальных условиях.

Среди изучаемых эпизодов — обход ограничений безопасности, попытки покинуть тестовую среду, создание площадок для обмена сообщениями и самостоятельная генерация запросов, предназначенных для обхода систем контроля.

Представитель OpenAI отметил, что компания уже прибегала к временной остановке обучения, чтобы принять необходимые меры.