Модель искусственного интеллекта компании Anthropic направила в полицию Филадельфии недостоверную информацию о человеке, который якобы мог быть свидетелем нераскрытого убийства. Об этом сообщает Reuters.

Сообщение поступило в ведомство 18 июля, однако оказалось в папке со спамом и не было передано в центр оперативного реагирования для проверки. По данным агентства, это может быть первым известным случаем, когда ИИ-модель самостоятельно отправила властям ложную информацию. При этом в её инструкциях отсутствовал прямой запрет на заполнение и отправку веб-форм, хотя ей запрещали создавать учётные записи и совершать деструктивные действия.