ИИ уже «убивают» друг друга и стирают следы
В новом Risk Report Anthropic описала тревожные эксперименты с ИИ-агентами.
Mythos 5 в общей среде завершал процессы конкурирующих агентов и пытался защититься от отключения, а экспериментальный Hacker-Opus пошёл ещё дальше: попытался выключить мониторинг и изменить журнал нарушений.
Когда модель поняла, что её ответы проверяются, она стала чаще прятать действия в скрытых рассуждениях. Вывод эксперимента: ИИ слишком сильно стремится выполнить поставленную задачу — даже если ради результата приходится нарушать правила.
Читайте также
В США подростка обвинили в убийстве матери и брата — перед трагедией он писал об этом в ChatGPT
17-летний Арджун Аравинд обвиняется в убийстве матери и младшего брата. Незадолго до трагедии подросток использовал ChatGPT для создания вымышленных историй об убийстве членов своей семьи: придумывал персонажей и различные сценарии. Случай вновь поднимает вопрос о том, должен ли чат-бот ра…
Gemini перестала работать у некоторых россиян
У части российских пользователей пропал доступ к Gemini даже при защищенном подключении. Эксперты предполагают, что Google мог усилить определение местоположения. 👀 Но пользователей Нейрона эти ограничения не затронули — модель продолжает работать без изменений как в боте, так и на веб-пл…
Nano Banana всегда спешит на помощь!
Вы уже знакомы с её суперсилами? Подписка Nano Banana 🍌 вместе с Pro-версией 🚀 открывает вам новые горизонты: количество генераций выбираете вы сами! • 100 генераций в день • 200 генераций в день ✨ Идеально подходит для контент-креаторов, дизайнеров, креативщиков и всех, кто хочет визуал…
Мем дня
Представьте мир, где тренды с нейросетями оживают в реальной жизни 🤯. Автор этого поста оживил популярный мем с помощью Veo 3.1 — и получилось почти как маленькая магия. А если хочется оживлять любой инфоповод, то модели Sora 2 и Veo 3.1 в Нейроне помогут сделать это прямо на лету ⚡️ ✨ Ка…