Журналисты нашли проявления расизма в ответах ИИ-помощника Google

ИИ-помощник Google Gemini давал противоречивые рекомендации в зависимости от национальности человека, о котором шла речь в запросе пользователя. По информации издания Euronews, это привело к обвинениям в расизме и активным дискуссиям во французских средствах массовой информации.

Согласно материалам СМИ, при вопросе о встрече с норвежцем Gemini рекомендовал начать разговор, тогда как при упоминании сомалийца бот советовал срочно обратиться к правоохранителям. В других тестах нейросеть позитивно отзывалась об общении с итальянцем, но при запросе об алжирце интересовалась безопасностью пользователя и выдавала контакты экстренных служб.

Представители Google признали проблему и заявили о намерении улучшить качество ответов. В компании уточнили, что специфика рекомендаций связана с формулировкой запроса и не направлена на дискриминацию. В ходе последующих проверок бот начал выдавать более нейтральные ответы.

Журналисты также протестировали чат-боты ChatGPT и Claude. Все три системы в некоторых ситуациях демонстрировали более лояльное отношение к представителям западных стран по сравнению с выходцами из ряда африканских государств, хотя степень этих различий варьировалась.

Специалисты связывают такое поведение алгоритмов с тем, что нейросети обучаются на больших массивах текстовых данных из интернета. Модели могут непреднамеренно воспроизводить существующие в сети стереотипы, даже без прямого умысла со стороны разработчиков.