Ошибки нейросетей особенно опасны в сферах, где неверный результат может угрожать жизни и здоровью людей или привести к значительному ущербу. Поэтому специалисты считают необходимым проверять ответы ИИ и ограничивать его применение в чувствительных областях.

Российские учёные предложили для научных публикаций семь принципов VALENCE. Они требуют проверять факты, ссылки и выводы, указывать использование нейросетей, поручать им только подходящие задачи и редактировать созданные материалы. Ответственность за данные, аргументацию и итоговый текст должен нести человек. Нейросеть нельзя считать соавтором или использовать её ответы как научные утверждения.

В медицине специализированные алгоритмы отличаются от обычных чат-ботов: такие программные продукты могут регистрироваться как медицинские изделия и подпадать под действие профильного законодательства. ИИ способен анализировать большие массивы данных и предлагать врачу варианты, но не может заменить специалиста при постановке диагноза и выборе лечения. Сгенерированные рекомендации о препаратах и дозировках нельзя воспринимать как медицинское назначение.

Международные правила также постепенно формируются. В 2021 году ЮНЕСКО приняла рекомендацию по этике ИИ, а в 2024-м Евросоюз утвердил закон, регулирующий риски чат-ботов, дипфейков и авторские права. В том же году страны БРИКС приняли Казанскую декларацию о сотрудничестве в сфере ИИ и противодействии киберпреступности.