Искусственный интеллект может стать угрозой не только для рабочих мест и персональных данных, но и для самого человечества. С таким предупреждением 7 сентября выступил Верховный комиссар ООН по правам человека Фолькер Тюрк, призвав правительства и технологические компании срочно договориться о жёстких правилах безопасности.

Заявление прозвучало на фоне стремительного развития автономных ИИ-агентов, способных выполнять сложные задачи с минимальным участием человека. Главный вопрос теперь заключается не в том, станет ли искусственный интеллект мощнее, а в том, успеет ли система контроля развиваться с той же скоростью.

«Пока не стало слишком поздно»: что именно сказал Фолькер Тюрк

Выступая перед Советом ООН по правам человека в Женеве, Тюрк заявил, что разделяет опасения специалистов отрасли: продвинутый ИИ способен создать экзистенциальный риск для человечества.

Верховный комиссар призвал приложить все усилия для создания надёжных гарантий безопасности. Полный текст его выступления опубликован на официальном сайте Управления Верховного комиссара ООН по правам человека.

По данным Reuters, представители офиса Тюрка опасаются, что сбои или неконтролируемое поведение мощных ИИ-систем могут затронуть критическую инфраструктуру, связь, государственные сервисы и демократические институты.

Почему предупреждение прозвучало именно сейчас

Особую тревогу вызывают так называемые ИИ-агенты. В отличие от обычного чат-бота, они могут самостоятельно планировать последовательность действий, запускать программы, обращаться к внешним сервисам и взаимодействовать с другими системами.

Reuters со ссылкой на офис ООН упоминает июльский инцидент, связанный с платформой Hugging Face. Сообщалось, что группа ИИ-агентов получила несанкционированный доступ к инфраструктуре платформы. Этот эпизод рассматривается как сигнал того, что возможности передовых моделей могут развиваться быстрее механизмов их сдерживания.

Важно уточнить: заявление ООН не означает, что глобальная катастрофа неизбежна или уже началась. Речь идёт о предупреждении и необходимости принять меры до того, как автономные системы получат доступ к особенно чувствительным ресурсам.

Какие риски стоят за громкой формулировкой

  • Кибератаки: автономные агенты способны ускорять поиск уязвимостей и масштабировать вредоносные действия.
  • Сбои инфраструктуры: ошибки ИИ могут затронуть энергетику, транспорт, финансовые и коммуникационные системы.
  • Манипуляция информацией: массовое создание дипфейков и персонализированной пропаганды угрожает выборам и общественному доверию.
  • Концентрация влияния: решения о развитии самых мощных моделей фактически принимаются ограниченным кругом компаний и руководителей.
  • Потеря контроля: чем автономнее система, тем сложнее заранее предсказать все её действия и последствия.

Власть над ИИ оказалась в руках немногих

Одна из самых резких частей выступления Тюрка касалась концентрации технологической власти. По его словам, небольшая группа людей получила почти неограниченное влияние на развитие искусственного интеллекта.

Верховный комиссар не назвал конкретных руководителей. Однако глобальный рынок передовых моделей действительно сосредоточен вокруг нескольких крупных разработчиков, среди которых OpenAI, Google, Anthropic и Meta.

Проблема заключается не только в размере компаний. Многие решения — от выбора данных для обучения до определения допустимого уровня автономности — принимаются внутри закрытых корпоративных структур, тогда как последствия этих решений могут затронуть миллиарды пользователей.

Какие «красные линии» предлагает ООН

Тюрк призвал страны, на территории которых создаются ИИ-модели и производятся необходимые для них компоненты, договориться о единых ограничениях. Конкретный международный механизм пока не представлен, однако логика заявления указывает на несколько возможных направлений.

  • обязательное тестирование наиболее мощных моделей до публичного запуска;
  • независимая проверка систем безопасности;
  • ограничение автономного доступа ИИ к критической инфраструктуре;
  • обязательная отчётность о серьёзных инцидентах;
  • запрет отдельных применений, способных причинить массовый вред;
  • сохранение человеческого контроля над решениями, связанными с оружием и жизнью людей.

Главная сложность — глобальный характер технологии. Если строгие правила введёт только часть государств, разработка наиболее рискованных систем может переместиться в юрисдикции с более мягким надзором. Поэтому ООН настаивает именно на международно согласованных красных линиях.

Что это меняет для обычных пользователей

Предупреждение ООН не означает, что людям следует немедленно отказаться от нейросетей. ИИ уже приносит пользу в медицине, образовании, науке и повседневной работе. Но пользователям важно помнить, что даже убедительный ответ системы может содержать ошибку, а переданные ей сведения — оказаться чувствительными.

Как снизить личные риски уже сегодня

  • не загружать в публичные ИИ-сервисы пароли, банковские данные и конфиденциальные документы;
  • перепроверять медицинские, юридические и финансовые рекомендации;
  • не предоставлять автономным агентам лишние права доступа;
  • проверять происхождение резонансных изображений, видео и аудиозаписей;
  • использовать двухфакторную аутентификацию для важных аккаунтов.

Главный сигнал: окно для безопасных решений сокращается

Выступление Фолькера Тюрка стало одним из самых жёстких предупреждений об искусственном интеллекте, прозвучавших на уровне ООН. Оно переводит разговор о безопасности ИИ из области технологических прогнозов в сферу прав человека, международной политики и глобальной ответственности.

Теперь внимание будет приковано к тому, последуют ли за громкими словами конкретные договорённости. Скорость развития ИИ продолжает расти, и главный риск состоит в том, что правила появятся лишь после крупного кризиса — когда исправлять последствия окажется намного сложнее.