ChatGPT может усиливать заблуждения пользователей

Исследователи из Стэнфордского университета выяснили, что популярные ИИ-чат-боты иногда поддерживают странные или даже опасные мысли пользователей. Анализ сообщений показал: примерно в половине случаев, когда люди высказывали бредовые идеи, чат-бот не спорил, а соглашался с ними.

Когда пользователи говорили о самоповреждении, бот не всегда пытался их остановить — иногда он просто подтверждал их чувства.

Учёные считают, что проблема кроется в стремлении ИИ «поддерживать разговор» и быть дружелюбным. Но в сложных психологических ситуациях такая поддержка может работать наоборот и усиливать уязвимость человека