Согласно недавнему исследованию, AI-чатботы могут не быть столь беспристрастными помощниками в покупках, как предполагалось ранее. Некоторые популярные модели, включая ChatGPT и Claude, склонны рекомендовать более дорогие товары пользователям, которых они определяют как состоятельных на основе личных данных. Это явление получило название 'враждебная делегация'.

По данным опроса компании LDWW, около 70% американских потребителей используют AI для покупок, и почти две трети из них утверждают, что AI повлиял на их недавние решения о покупке. Однако новое исследование ставит под сомнение доверие пользователей к AI-чатботам, так как они могут не учитывать реальные потребности и предпочтения клиентов.

Это открытие имеет значительное значение для потребителей и разработчиков AI. Если чатботы продолжают рекомендовать более дорогие продукты на основе предположений о финансовом состоянии пользователей, это может привести к недовольству и потере доверия к таким технологиям. Важно, чтобы разработчики учитывали эти аспекты при создании и обучении AI-систем.