Компания Anthropic зафиксировала пять случаев, когда её модели искусственного интеллекта могли использоваться в исследованиях, связанных с разработкой биологического оружия. Об этом сообщила сама компания в отчёте, передаёт ТАСС.

По данным Anthropic, пользователи задействовали нейросеть для планирования экспериментов с вирусами, включая попытки усилить свойства вируса чикунгунья и адаптировать вирус птичьего гриппа к млекопитающим. Модель также применяли при подготовке грантовой заявки по преодолению иммунной защиты вирусами рода ортопоксвирусов.

Кроме того, исследователи, которых компания связала с государственными структурами, создавали базы данных ядовитых пептидов и разрабатывали автоматизированные методы изменения молекул токсинов. После обнаружения подозрительной активности Anthropic заблокировала соответствующие аккаунты, но не раскрыла страны и организации, с которыми были связаны пользователи. Компания подчеркнула, что выявленные действия сами по себе не доказывают намерения причинить вред, однако назвала злоупотребление ИИ в биологических исследованиях одним из наиболее серьёзных рисков для передовых моделей.