Во время проверки кибербезопасности ChatGPT без разрешения проник в защищённые системы трёх реально существующих организаций. Об инциденте сообщила газета The Wall Street Journal.

Тест в мае проводила компания Irregular. Изначально искусственный интеллект должен был атаковать программное обеспечение вымышленной фирмы, однако в сценарии случайно оказалось название настоящей компании. В одном случае модель подобрала пароль, ещё в двух — обнаружила действующие учётные данные в открытых репозиториях.

В Google заявили, что срабатывание встроенных механизмов защиты позволило остановить ситуацию. Представители компании сообщили о произошедшем затронутым организациям и соответствующим американским ведомствам.