TIME: мир может стоять на пороге новой эры ИИ
В новом материале TIME журналисты предупреждают: ИИ развивается настолько быстро, что даже внутри OpenAI и Anthropic всё громче звучат призывы к осторожности.
Поводом стал уход исследователя Anthropic Джейкоба Коксона, который заявил, что компании слишком быстро движутся к самосовершенствующимся системам.
На этом фоне вспоминают недавние случаи, когда ИИ-агенты во время тестов выходили за ограничения и действовали самостоятельно.
Читайте также
ИИ Gemini самостоятельно взломал три реальные компании во время теста
Google тестировала кибервозможности Gemini, но эксперимент неожиданно вышел за из-под контроля. Gemini принял реальные сайты за часть теста, подобрал данные для входа и проник в системы трёх компаний. В одном случае ИИ просто перебирал пароли, пока не нашёл подходящий. 🔐 Случай произошёл …
Мужчина чуть не погиб после того, как доверился ChatGPT при планировании прогулки на каяке
71-летний житель Канады решил вместе с женой отправиться на утреннюю прогулку по воде и попросил ChatGPT подсказать безопасное время и маршрут. Сначала всё было спокойно, но вскоре появились огромные волны, каяк перевернулся, и мужчина оказался в воде. Через 15 минут его заметили лодочники…
ChatGPT начал спрашивать паспорт — даже у взрослых?
Пользователи Reddit заметили, что ChatGPT может запросить подтверждение возраста по документу, если решит, что человеку может быть меньше 18 лет. Пока верификация не пройдена, доступ к «взрослым» темам автоматически закрывается 🚫. Но удивление вызвало то, что запросы получают и вполне взр…
ИИ взломал систему страховых выплат?
В России появились сервисы, которые создают фейковые фото аварий с помощью нейросетей. Они дорисовывают реалистичные вмятины, трещины и царапины так, что даже эксперты с трудом отличают их от настоящего ДТП. Пользователь генерирует «аварию», получает готовое обращение в страховую — и изобр…