Школьный эксперимент, вызвавший скандал
В 2019 году в одной из начальных школ Китая ученикам выдали AI-повязки, которые в реальном времени отслеживали уровень их внимания на уроках. Интернет взорвался: пользователей возмутило, что школьников фактически «подключили» к системе контроля, вмешивающейся в личное пространство.
🙈 Власти быстро отреагировали и приостановили эксперимент. Разработчик уверял, что устройства лишь помогают тренировать концентрацию и давно используются за рубежом, но этому поверили немногие.
Сегодня, на фоне бурного развития ИИ, эта история звучит еще тревожнее. Если тогда технология напугала людей, то что было бы сейчас, когда алгоритмы стали мощнее, а сбор данных — незаметнее?
Разбор
В 2019 году в китайской школе детям надели повязки, которые в реальном времени считывали уровень концентрации на уроке — и это оказалось не про обучение, а про наблюдение за ребёнком без его согласия. Разработчик говорил про «тренировку внимания», но людей возмутило не название функции, а сам факт: устройство собирало данные о состоянии человека и передавало их наружу, а решения о том, как эти данные использовать, принимал не сам ребёнок.
Прямого аналога такому носимому трекеру внимания у Нейрона нет: сервис не считывает биометрию и не работает с датчиками на теле. Здесь принципиальная разница в модели данных — Нейрон обрабатывает то, что пользователь сам вводит в диалог или загружает как файл, и только в момент запроса, а не собирает показатели о человеке фоново и без его инициативы.
История 2019 года интересна не как повод для сравнения продуктов, а как напоминание: чем незаметнее становится сбор данных, тем важнее спрашивать, кто инициирует сессию — человек или система за его спиной.
Частые вопросы
Что показал школьный эксперимент с AI-повязками в Китае?
В 2019 году устройства на голове учеников в реальном времени отслеживали уровень концентрации на уроках; после волны возмущения в интернете власти приостановили эксперимент.
Как разработчик объяснил назначение повязок?
Он заявлял, что устройства помогают тренировать концентрацию и уже применяются за рубежом, но это объяснение не сняло вопросов о вторжении в личное пространство школьников.
Читайте также
Google отключила ИИ редактирование для Google Earth спустя два дня после запуска
Google представила функцию, которая позволяла с помощью ИИ буквально дорисовывать события на реальных спутниковых снимках. Пользователи успели создать изображения разрушенной Эйфелевой башни, огромной воронки возле пирамид и десятки других полностью вымышленных сцен. Уже через 48 часов Goo…
Бывший агент ФБР украл почти $1 млн и попросил ChatGPT помочь сбежать в Европу
В США разгорается громкий скандал. По версии следствия, бывший сотрудник ФБР перевел себе почти $925 тысяч с криптокошельков, доступ к которым получил во время расследования. Перед арестом он консультировался с ChatGPT, спрашивая, как переехать в Европу с миллионом долларов и где лучше нач…
ChatGPT раскрыл криптоаферу на миллион долларов
Жительница Сан-Хосе лишилась почти $1 млн после того, как «романтичный бизнесмен» из соцсетей вовлёк её в фейковые криптоинвестиции. Мужчина, с которым она общалась через Facebook* уверял, что помогает ей «быстро заработать», показывал поддельные скриншоты с фантастической прибылью. В итог…
ИИ-очки, которые стирают приватность
Похоже, у нас появилась новая фобия для коллекции — умные очки с ИИ, способные превратить любого прохожего в открытую книгу. Один журналист протестировал базовую модель и обнаружил, что она без труда вытаскивает о человеке массу личных сведений из публичных источников. 💭 Представьте: вы п…