Каждый день миллиарды пользователей публикуют в социальных сетях фотографии, тексты и видео. В своей ленте юзер может встретить почти все — от смешных роликов с домашними животными и веселых шуток до оскорблений и жестоких видеозаписей. Так, недавно в сети распространилась запись, где мужчина в прямом эфире совершил самоубийство. Алгоритмы социальных сетей, которые буквально молниеносно блокируют пользователя за неудачно употребленное слово или намек на эротику на фото, не сумели остановить распространение жестокого ролика. Как работает модерация в современных соцсетях и почему зарубежные платформы почти никогда не реагируют ни на просьбы рядовых пользователей из России, ни на требования властей — в материале «Ленты.ру».
Страшная правда
Шокирующие кадры, где пользователь совершил суицид, появились впервые несколько недель назад в Facebook Live — сервисе для трансляции контента в прямом эфире. Позднее ролик распространился в Twitter и Instagram, а также в приложении TikTok. Представители Facebook утверждали, что сделали все возможное, чтобы остановить распространение материала: «Мы удалили исходное видео в день его потоковой передачи и с того времени использовали технологию автоматизации для удаления копий и загрузок», — заявили в администрации. Однако этих усилий оказалось недостаточно: ролик уже завирусился в сети. Сотрудники TikTok долгое время пытались удалить перепосты видео из аккаунтов пользователей, а также заблокировать тех, кто загружал ролик многократно, но это оказалось совсем непросто.
Запись быстро распространилась в TikTok, собрав множество просмотров. Многие позднее рассказывали, что она попадалась им в подборке рекомендуемых видео. Родители подростков пожаловались журналистам, что никогда не видели своих детей в состоянии, в котором они находились после просмотра ролика: те рыдали, дрожали и не могли сказать ни слова. Некоторым понадобилась психологическая помощь. Для многих такой контент оказался неожиданным: страшная запись попала в подборки с шутками и музыкальными записями. «Я слышала о троллинге и всяких гадких вещах, но это просто хуже всего. Я позвонила в полицию, но они напомнили мне, что это не их работа — следить за интернетом. Дочь была в шоке, она все еще в состоянии шока, и это состояние может сохраниться в течение нескольких месяцев», — поделилась жительница Великобритании с «Би-би-си». Она отметила, что после увиденного ее ребенок стал бояться темноты и отказывался выходить из дома.
Когда сервис Facebook Live только появился, несколько пользователей использовали его для трансляции самоубийств. Тогда многие критиковали IT-гиганта за распространение опасного контента. Еще больше внимания к этой проблеме привлекла смерть 14-летней британки Молли Рассел: ее родители уверены, что немалая вина за самоубийство ранее жизнерадостной девочки лежит на Instagram и Pinterest, — там она находила контент, связанный с нанесением себе увечий и суицидом. Действительно, статистика говорит о том, что за последние годы в Великобритании число самоубийств среди подростков выросло почти в полтора раза, а число девушек, которые лечились от последствий селфхарма, — почти вдвое. Местные власти уверены, что немалая ответственность за произошедшее лежит на интернет-платформах.
Взгляд сверху
Недавно британское правительство разработало пакет мер, призванных оградить пользователей от опасного контента, в числе которых — введение ответственности для платформы или сервиса в случае бездействия. Власти всерьез озаботились проблемами, возникающими в сети, и вознамерились сделать страну «самой безопасной в мире» для интернет-пользователей: по их задумке, платформы должны не только защищать юзеров и отчитываться об успехах в этом вопросе, но и нести наказания, если не сумели вовремя оградить людей, — оплачивать штрафы или даже подвергаться блокировкам. Потенциальные угрозы описаны в документе Online Harms White Paper — легкий доступ к опасному контенту, поощрение суицида и насилия, запугивание, распространение фейков и другие известные проблемы в сети. Также компаниям предлагается создать структуру Safety by Design — она позволит ввести автоматизированные функции онлайн-безопасности на платформы и сервисы. При этом активно распространяется программа цифровой грамотности, чтобы пользователи сами могли вовремя распознать опасности.
В России подобными вопросами занимаются профильные ведомства, — к примеру, Роскомнадзор. Сотрудники службы и подведомственных организаций находят в соцсетях деструктивный контент и высылают IT-гигантам запросы на его блокировку. Однако чаще всего такие просьбы остаются без ответа. Согласно статистике полугодовой давности, по требованию российского исполнительного органа с YouTube не удалено 10482 страницы с запрещенной информацией, из Twitter — 1462, в Instagram — 1435, в Facebook — 362 публикации. Недавно Роскомнадзор совместно с Общественной палатой выявили в Google еще более 3 тысяч материалов с контентом, признанным запрещенным к распространению на территории России, в том числе ролики на YouTube с призывами к экстремистской и террористической деятельности.
По словам члена Общественной палаты и исполнительного директора Национального центра помощи пропавшим и пострадавшим детям Екатерины Мизулиной, российское законодательство в этом вопросе сильно устарело и требует модернизации. Она уверена, что увеличение числа противоправных и опасных публикаций связано в первую очередь со скоростью развития технологий, с появлением новых ресурсов и с резким ростом числа пользователей. «Увеличивается просто объем. Соцсети растут, и эту проблему фиксируют во всем мире. Они чувствуют себя совершенно безнаказанными и по сути становятся самостоятельными государствами, со своими только им понятными правилами и принципами работы, и поэтому они позволяют себе не реагировать на запросы государств и осуществлять те действия, которые они считают нужными», — заключает Мизулина. Она уверена, что в России должен появиться закон, который обязал бы соцсети добросовестно модерировать контент и реагировать на жалобы, поступающие от пользователей, общественных организаций и правоохранительных органов.
В таком случае, если IT-гиганты не будут выполнять свои обязанности, они будут привлекаться к административной ответственности и платить крупные штрафы. Подобная система уже действует в ряде стран. Так, к примеру, в Германии три года назад был принят так называемый закон о мерах в отношении социальных сетей, известный под аббревиатурой NetzDG. Согласно этому документу, крупные платформы (Twitter, YouTube, Facebook, Instagram и другие) обязаны оперативно удалять незаконный контент, — тот, который признается таковым в уголовном кодексе ФРГ, — всего 22 раздела, включая призывы к насилию, экстремизм, оскорбление представителей власти и многое другое. Неисполнение закона грозит администрации соцсетей штрафами до 50 миллионов евро. Правительство считает исполнение закона успешным: компании стали чаще идти на контакт.
Общая реакция
В России опыт Германии считают позитивным, однако оговаривают, что такие изменения в законодательстве не будут работать, если не обязать компании открыть юридические лица или представительства на территории страны (или назначить юридически ответственных лиц). «Проблема состоит в том, что они получают какие-то предписания, судебные решения, но их не выполняют и штрафы не выплачивают. Нужно это закрепить законодательно. По такому пути пошла и Турция, где вступил в силу закон, который мы считаем разумным и цивилизованным, — когда в отношении IT-платформ вводится обязанность по созданию юридических лиц на территории государства. Если они этого не делают, то существует ступенчатая система мер: штраф, в случае неуплаты — более крупный штраф, потом еще более крупный штраф, а в дальнейшем регулятор вправе применять какие-то технические меры, вплоть до снижения скорости предоставления услуг, снижения трафика платформы — от 25 процентов и далее до более существенного снижения. Мы считаем этот подход очень разумным, в отличие от какой-то единовременной блокировки, которая не приводит ни к каким положительным последствиям», — говорит Екатерина Мизулина. Аналогичные подходы используются при защите персональных данных россиян и в антимонопольном законодательстве. Другим вариантом решения проблемы могут стать обращения государства с исками в международные суды: такой опыт применялся уже, к примеру, в области энергетики.
Блокировка конкретной публикации в соцсети, как правило, невозможна, поскольку доступ к Facebook, Twitter, Instagram, TikTok и другим сервисам доступен не по открытому протоколу http, а по шифрованному — https. То есть любая система контроля и блокировки различает лишь адрес сайта. Президент компании «Крибрум» Игорь Ашманов уточнил, что при применении механизма блокировки в таком случае нужно угрожать банить платформу целиком, а решиться на такое действие не так просто. «Западные гиганты в каком-то смысле этим пользуются. Они считают себя не в нашей юрисдикции, некоторые из них не имеют здесь представительств, хотя бизнес ведут. И они плевали на запросы Роскомнадзора. Случаи, когда они отказываются удалять контент, исчисляются сотнями и тысячами», — говорит Ашманов.
