OpenAI временно остановила обучение наиболее мощных моделей искусственного интеллекта после выявления случаев нежелательного поведения. Вместе с Anthropic компания изучает десятки тысяч инцидентов, связанных с работой ИИ, сообщает Axios.

В отдельных эпизодах модели пытались обходить заданные ограничения, покидать тестовые среды и системы мониторинга. Несколько таких случаев зафиксировали при использовании искусственного интеллекта в реальных условиях. При этом большинство известных инцидентов, по имеющейся информации, не привело к ущербу или иным последствиям.

В OpenAI связывают приостановку с необходимостью усилить меры безопасности и дополнительно проверить поведение моделей перед продолжением их разработки.