Правительство Австралии рассматривает возможность дать пользователям соцсетей право выбирать, быть ли им подбираем контент алгоритмами, а также изучает недавний запрет в Великобритании на изображения удушения и удушающих практик в порно. Эти меры обсуждаются в контексте разработки второго плана действий по предотвращению семейного, домашнего и сексуального насилия в отношении женщин и детей.
Причины пересмотра политики платформ
Министр по социальным службам Таня Плиберсек заявила, что соцсети «играют огромную роль» в росте сексуального насилия среди подростков и в нормализации практик, связанных с удушением в сексуальном контексте. По её словам, алгоритмы подбирают и подают молодым людям контент, который формирует искажённые представления о здоровых отношениях.
Плиберсек указала на связь между распространённостью подобного контента и сообщаемыми случаями травм: «Если вы заведёте аккаунт в соцсети как молодой мальчик в Австралии сегодня, в среднем через 23 минуты вам подадут женоненавистнический, насильственный женоненавистнический контент… Это умышленное решение социальных сетей, которое разрушает наших юношей, давая им неправильные представления о том, как выглядят здоровые отношения».
Случаи и общественные кампании
Сообщается о деле, в котором 16-летняя девушка в Сиднее скончалась после предполагаемого сексуального акта с удушением; Guardian Australia сообщил, что источник сообщил о том, что подросток, как полагают, потеряла сознание в результате асфиксии во время сексуального акта. По данным публикации, арестов не производилось.
Кампанию за то, чтобы алгоритмы были опциональными — то есть по умолчанию требовали явного согласия пользователя — ведёт инициатива Teach Us Consent Шанель Контос. Правительство работает с этой группой и рассматривает варианты проектирования системы с возможностью «opt-in» или «opt-out» для рекомендательных алгоритмов.
- Рассмотрение опции «включить/отключить» алгоритмы рекомендательных систем;
- Изучение недавнего дела против Meta в США и британских мер по запрету изображений удушения в порно;
- Разработка второго плана действий по проблемам семейного и сексуального насилия;
- Подготовка законопроекта о цифровой обязанности заботы (digital duty of care) и второго пакета реформ по приватности.
Правительство ранее ввело запрет на использование социальных сетей для лиц младше 16 лет, который вступил в силу в декабре, а также внедрило меры верификации возраста для доступа к порнографии. Плиберсек ранее признавала, что дети относительно легко обходят новые правила.
Задачи регулирования технологий
Кроме алгоритмов, обсуждение затрагивает и обязанности технологических компаний по обеспечению безопасности продуктов до их вывода на рынок. Плиберсек высказала обеспокоенность возможным злоупотреблением камерофункций в смарт-очках, которые могут использоваться для тайной съёмки, в том числе во время сексуальных контактов, а затем для шантажа.
В числе рассматриваемых инициатив — законопроект о цифровой обязанности заботы, который возложит ответственность на технологические и AI-компании за создание безопасных онлайн-пространств, а также второй пакет реформ по приватности, который, как ожидается, специально изучит новые устройства с камерами и их потенциальные угрозы.