Могут ли инструменты школьного наблюдения подвергнуть подростков риску?
26 января 2023 г.Поскольку штаты спешат принять законы, предусматривающие уголовную ответственность за медицинские услуги, связанные с абортами, после недавнего решения Верховного суда, отменяющего дело Роу против Уэйда, защитники здоровья и группы гражданских прав предупреждают, что школьное программное обеспечение для наблюдения может быть использовано против подростков, которые обращаются за репродуктивной помощью. .
В десятках тысяч школ каждое сообщение, отправляемое учащимися или слово, которое они ищут на своем компьютере, алгоритмически отслеживается программным обеспечением таких компаний, как Bark, Gaggle, GoGuardian и Securly.
Эти инструменты следят за многими учащимися даже во внеурочное время и могут отправлять автоматические оповещения школьной администрации, родителям или полиции, когда обнаруживают опасное поведение, которое может варьироваться от неизбежных угроз самоубийства до «сексуального содержания».
По словам экспертов по гражданским правам, добавив несколько ключевых слов в список наблюдения, школы могли бы легко поручить программам помечать учащихся, ищущих информацию об абортах или других недавно незаконные медицинские услуги.
"Администратор школы, персонал, родители или другие взрослые, имеющие доступ к консоли администратора, могут видеть все, – – сказал Дейли Барнетт, штатный технолог Electronic Frontier Foundation.
«То, как эти приложения могут использоваться для сбора информации о поиске информации о репродуктивном здоровье, вызывает тревогу».
<цитата>Вызывает тревогу тот факт, что эти приложения могут использоваться для сбора информации о поиске информации о репродуктивном здоровье.
Дейли Барнетт, Electronic Frontier Foundation
Николь, ученица средней школы в Остине, которая попросила не называть ее полного имени, рассказала The Markup, что большую часть своих знаний об абортах и репродуктивном здоровье она получила в Интернете самостоятельно.
«Независимо от того, живу я в Техасе или нет, [интернет] дает мне некоторый доступ», — сказала она.
Веб-сайты, которые тайно отправляют лекарства, являются одним из немногих, хотя и незаконных, способов доступа аборты в штате, который не только ввел уголовную ответственность за аборты, но и принял закон, который >разрешает частным лицам подавать гражданские иски против любого, кто помогает другому человеку прервать беременность.
Николь сказала, что ее школа предоставляет компьютер каждому ученику, который в нем нуждается или хочет, и что на каждом устройстве предустановлено ПО GoGuardian. Программное обеспечение позволяет учителям просматривать экраны учащихся в режиме реального времени, получать доступ к их истории поиска и отслеживать их сообщения.
GoGuardian отправляет оповещения администраторам по электронной почте, когда обнаруживает контент, связанный с наркотиками, алкоголем или домогательствами, в соответствии с Политика Независимого школьного округа Остина. Другие предупреждения, в том числе о «содержании сексуального характера», направляются непосредственно в окружное отделение полиции.
Политика не содержит определения содержания сексуального характера, и Анастасия Драбицки, представитель Остина ISD, сообщила, что округ закрыт на неделю, поэтому персонал не может отвечать на вопросы.
В прошлом году алгоритмические фильтры, используемые компанией Securly, занимающейся мониторингом учащихся, оказались неправильно маркирует ресурсы о сексуальном здоровье как порнографию, контент для взрослых и разжигание ненависти.
Николь рассказала The Markup, что не знала, что GoGuardian отправляет предупреждения в полицию округа.
Цифровые улики беспокоили защитников репродуктивных прав еще до вынесения Верховным судом решения по делу Доббс против Организации женского здоровья Джексона.
В 2015 году присяжные признали женщину из Индианы виновной в убийстве плода посредством искусственного аборта, частично на основании текстовых сообщений, которые она отправила другу. Ее приговор был в конце концов отменен по апелляции.
В 2017 году прокуратура обвинила женщину из Огайо в убийстве своего мертворожденного ребенка, используя ее просят судью о трех разных судах/3K7QBgn8TgO7RkPcQNQBcI/">история посещений интернета в качестве доказательства. Присяжные оправдали женщину по самым тяжким обвинениям.
А в 2018 году большое жюри Миссисипи предъявило женщине обвинение в убийстве ее мертворожденного ребенка после обвинение представило ее историю поиска в Google таблеток для аборта. В конечном итоге эти обвинения были сняты после того, как группы защиты гражданских прав встали на защиту женщины.
Но штаты теперь могут свободно применять карательные законы об абортах, планка для обеспечения осуждения в будущих делах может быть ниже.
Технологические компании по большей части хранят молчание о том, как и когда они передавать пользовательские данные в полицию в случаях абортов, добавляя к опасения по поводу того, кому будет предоставлен доступ к данным из таких инструментов, как трекеры месячных.
Кендра Альберт, клинический инструктор Киберправовой клиники Гарвардской школы права, сказала эти опасения не беспочвенны но что большая юридическая угроза, вероятно, исходит от систем наблюдения, которые уже существуют и могут быть легко адаптированы к новым законам, например, программное обеспечение для мониторинга учащихся.
<цитата>Мы видели… школьные округа, которые считают своей миссией следить за порядком и не допускать учащихся.
Кендра Альберт, Гарвардская юридическая клиника киберправа
"Меня всегда больше беспокоят случаи, когда вы просто добавляете в систему больше ключевых слов, чем случаи, когда вам приходится создавать всю систему с нуля", – сказал Альберт.
"Мы видели, особенно в красных штатах, школьные округа, которые считают своей миссией следить за полицией и учащимися, и это может иметь последствия для конвейера из школы в тюрьму".
The Markup обратилась к популярным компаниям по мониторингу студентов Bark, Gaggle, GoGuardian и Securly с вопросами о том, как они отслеживают контент о сексуальном здоровье и делятся информацией с правоохранительными органами. Bark была единственной компанией, которая ответила.
«Наш искусственный интеллект помечает контент и уведомляет об этом, а затем перенаправляет его соответствующему контактному лицу в школах», — написала в электронном письме Адина Калиш, представитель компании.
«Лай служит только для обнаружения и оповещения, а дела, требующие дальнейшего вмешательства правоохранительных органов, рассматриваются непосредственно школами».
«Барк не предоставляет правоохранительным органам информацию о студентах», — добавил Калиш. «Школы занимаются этим напрямую, когда выявляется проблема, вызывающая озабоченность».
Однако, согласно конфиденциальности Bark политики, компания оставляет за собой право передавать данные пользователей, «если информация предоставляется в соответствии с законом, применимыми нормами, правительственными и квазигосударственными запросами, судебными постановлениями или повестками в суд».
<цитата>Очень опасаются, что все, что мы делаем, должно проходить через призму закона.
Z Zenobia, студенческий организатор, URGE
З. Зенобия, студенческий организатор некоммерческой организации Unite for Reproductive and Gender Equity (URGE), говорит, что молодые люди имеют опыт адаптации к небезопасным онлайн-пространствам, используя закодированный язык и находя другие способы подорвать технологии.
Но для этого им нужно знать, что за ними наблюдают, и Зенобия говорит, что они опасаются, что повсеместное распространение слежки в школах отпугнет некоторых людей от поиска медицинской информации.
«Многие люди не знают, что план Б не работает для людей весом более 180 фунтов», — сказала Зенобия, ссылаясь на эффективный предел веса.
«Любой, кто пытается получить доступ к тому, за кем ведется наблюдение, на данный момент в основном находится в опасности. Очень сильно опасаются, что все, что мы делаем, должно проходить через призму закона».
Автор: Тодд Фезерс
Также опубликовано здесь
Оригинал