Исследователи Anthropic объяснили риски развития нейросетей

Представители компании Anthropic выступили с инициативой замедлить темпы разработки сложных систем искусственного интеллекта из соображений безопасности. В аналитическом отчете Anthropic Institute указывается, что стремительный прогресс в этой отрасли может спровоцировать ситуацию, при которой человечество полностью утратит контроль над технологией.

Особую озабоченность специалистов вызывает вероятность циклического самосовершенствования нейросетей. Этот процесс подразумевает способность искусственного интеллекта самостоятельно проектировать и улучшать свои новые версии без участия разработчиков. Уже сейчас алгоритмы успешно справляются со сложными задачами в сфере программирования и научных исследований, требующими высокой квалификации.

В качестве подтверждения возросшей роли технологий компания привела внутреннюю статистику. К маю 2026 года более 80 процентов программного обеспечения в продуктах Anthropic было сгенерировано нейросетью Claude, тогда как до внедрения инструмента Claude Code в начале 2025 года эта доля составляла всего несколько процентов. Внедрение ИИ позволило инженерам компании за три месяца увеличить объемы написания кода в восемь раз по сравнению с показателями периода с 2021 по 2024 год.