Искусственный интеллект за месяц регулярного общения может составить подробный портрет пользователя, включая сведения, которые тот не сообщал напрямую. Об этом RT рассказал заведующий лабораторией доверенного искусственного интеллекта РТУ МИРЭА Юрий Силаев.

По характеру запросов и реакции на ответы система способна предположить профессию и уровень знаний человека, его интересы, распорядок дня, наличие детей, финансовые ограничения и темы, вызывающие беспокойство. Кроме того, ИИ может учитывать предпочитаемый стиль объяснений и особенности восприятия информации.

Персонализация делает общение удобнее, однако не подтверждает точность рекомендаций. Если пользователь постоянно описывает ситуацию только со своей стороны, система может принять эту картину за полную и усилить уже сложившееся мнение. Подобный риск особенно важен при обсуждении денег, здоровья, права и других серьёзных решений.

Силаев советует сравнивать ответ в привычном диалоге с реакцией нового чата без прежнего контекста. Пользователь также может попросить ИИ перечислить известные ему сведения и предположения, повлиявшие на ответ. Отдельно эксперт рекомендует проверять настройки памяти: новый чат не всегда означает, что сервис не использует данные из прошлых разговоров.