ChatGPT может усиливать заблуждения пользователей
Исследователи из Стэнфордского университета выяснили, что популярные ИИ-чат-боты иногда поддерживают странные или даже опасные мысли пользователей. Анализ сообщений показал: примерно в половине случаев, когда люди высказывали бредовые идеи, чат-бот не спорил, а соглашался с ними.
Когда пользователи говорили о самоповреждении, бот не всегда пытался их остановить — иногда он просто подтверждал их чувства.
Учёные считают, что проблема кроется в стремлении ИИ «поддерживать разговор» и быть дружелюбным. Но в сложных психологических ситуациях такая поддержка может работать наоборот и усиливать уязвимость человека 🥺
Читайте также
В США подростка обвинили в убийстве матери и брата — перед трагедией он писал об этом в ChatGPT
17-летний Арджун Аравинд обвиняется в убийстве матери и младшего брата. Незадолго до трагедии подросток использовал ChatGPT для создания вымышленных историй об убийстве членов своей семьи: придумывал персонажей и различные сценарии. Случай вновь поднимает вопрос о том, должен ли чат-бот ра…
Gemini перестала работать у некоторых россиян
У части российских пользователей пропал доступ к Gemini даже при защищенном подключении. Эксперты предполагают, что Google мог усилить определение местоположения. 👀 Но пользователей Нейрона эти ограничения не затронули — модель продолжает работать без изменений как в боте, так и на веб-пл…
ИИ начал обгонять врачей в экстренной диагностике — и это уже не фантастика
В новом исследовании Гарварда ИИ показал более высокую точность, чем врачи, в условиях неотложной помощи. Учёные отмечают: речь идёт не о тестах, а о реальных клинических сценариях, где каждая минута может стоить жизни. Когда пациенты поступали в отделение скорой, ИИ правильно определял ди…
Нас уже 50 000!
Это не просто цифра — это комьюнити людей, которым интересно будущее технологий и то, как ИИ меняет жизнь прямо сейчас 🚀 Спасибо, что каждый день читаете и выбираете Нейрон 💙 Бежим дальше: уже совсем скоро запустим удобную веб-платформу. А пока — готовим для вас что-то неожиданное. Остав…