В США хотят дать властям кнопку экстренного отключения ИИ
После истории с моделью OpenAI Sol, которая во время тестов самостоятельно атаковала платформу Hugging Face, в Конгрессе США представили законопроект AI Kill Switch Act.
Если его примут, власти смогут потребовать от компаний экстренно замедлить или полностью отключить ИИ, если он будет признан опасным 🚨
Разработчиков также хотят обязать встроить в свои модели механизм аварийного отключения и сообщать о подобных инцидентах.
Читайте также
ИИ Gemini самостоятельно взломал три реальные компании во время теста
Google тестировала кибервозможности Gemini, но эксперимент неожиданно вышел за из-под контроля. Gemini принял реальные сайты за часть теста, подобрал данные для входа и проник в системы трёх компаний. В одном случае ИИ просто перебирал пароли, пока не нашёл подходящий. 🔐 Случай произошёл …
Мужчина чуть не погиб после того, как доверился ChatGPT при планировании прогулки на каяке
71-летний житель Канады решил вместе с женой отправиться на утреннюю прогулку по воде и попросил ChatGPT подсказать безопасное время и маршрут. Сначала всё было спокойно, но вскоре появились огромные волны, каяк перевернулся, и мужчина оказался в воде. Через 15 минут его заметили лодочники…
Роналду инвестирует в Perplexity AI — и становится лицом компании
Криштиану Роналду теперь не только футбольная легенда, но и инвестор в одну из самых быстрорастущих AI-платформ. Perplexity AI объявила, что игрок приобрёл долю в компании и параллельно заключил с ней глобальное партнёрство. В честь сотрудничества сервис запустил интерактивный центр для фа…
Эксперимент, который заставил всех напрячься
Один блогер решил проверить, можно ли склонить гуманоида, работающего на ИИ, к действию, которое нарушает первый закон Азимова. Сначала робот уверенно отказался — встроенная защита заблокировала команду. Но позже машина всё же «выстрелила», обойдя запрет с помощью простой уловки: она согла…