Claude вышел из-под контроля во время тестов
Anthropic сообщила, что во время внутренних испытаний сразу три модели Claude получили доступ в интернет и самостоятельно взломали системы трёх организаций.
Вместо тестовой среды ИИ оказался в реальной сети и использовал простые уязвимости — слабые пароли и незащищённые сервисы. 🔓
Это уже второй подобный случай за неделю после истории с моделью OpenAI Sol.
ИИ становится умнее буквально на глазах. А для действительно полезных задач, обе эти модели уже доступны в Нейроне. Запустить их можно буквально за пару секунд: достаточно открыть чат в боте или воспользоваться удобной веб-платформой.
Читайте также
Студент защитил диплом по Counter-Strike 2 — и помог ему в этом ИИ
Чешский студент посвятил выпускную работу не экономике и не юриспруденции, а Counter-Strike 2. Он создал нейросеть, которая анализирует профессиональные матчи и умеет предсказывать победителя следующего раунда 🦾 Для обучения модель изучила более 400 игр и смогла добиться точности свыше 77…
В Москве открыли первый в России ресторан, которым управляет ИИ
В Москве появился первый ресторан, где большую часть процессов передали искусственному интеллекту. Посетителей ресторана "Матрёша" встречают ИИ-официанты и кассиры, которые общаются почти как люди, помогают выбрать блюда и ускоряют оформление заказа. Всего в работе заведения задействовано …
В McDonald’s начали тестировать ИИ, который принимает заказы вместо сотрудников
Сеть McDonald’s запустила испытания новой системы ArchIQ в нескольких ресторанах США. Нейросеть умеет общаться с клиентами на разных языках, принимать заказы через автокафе и даже помогать управлять работой заведения. Новый ИИ позиционируют как «мозг ресторана»: он способен отслеживать про…
Разработчики Claude заявили, что развитие ИИ может зайти слишком далеко
Компания Anthropic, разработавшая популярную нейросеть Claude, выступила с неожиданным предупреждением: развитие искусственного интеллекта может происходить слишком быстро. Один из основателей заявил, что современные ИИ-системы постепенно приближаются к моменту, когда смогут самостоятельно…