Одна из самых популярных социальных сетей в мире известна, в том числе, достаточно жесткими порядками. Например, там очень легко схватить бан за собственную фамилию.
Если большинство пользователей мирится с порядками Facebook и принадлежащего ему Instagram, то бывший футболист сборной России Дмитрий Хохлов решил через суд обязать американскую соцсеть с уважением относиться к его фамилии. Просто потому, что самого экс-спортсмена, а ныне тренера, и его друзей Facebook банит за упоминание фамилии.
Алгоритмы социальной сети не в состоянии учесть многозначность отдельных слов русского языка, а после известных событий между Россией и Украиной блокировки пользователей за высказывания на Facebook стали, скорее, правилом, чем исключением.
Например, экс-мэр Екатеринбурга Евгений Ройзман был забанен за слово «ишак», а создатель мессенджеров QIP и 4talk Сергей Кравцов блокировался за слово «москалики». И подобных примеров множество, поскольку если на сообщения поступают жалобы пользователей, то администрация зачастую не углубляется в значение слов и контекст вызвавшей претензии записи.
Кто и как следит за нами
Как и в любой крупной социальной сети, первичной модерацией контента в Facebook занимается искусственный интеллект. Алгоритмы, обученные на специальной подборке запрещенной информации, достаточно эффективно позволяют в автоматическом режиме бороться с распространением нелегального контента. Но, несмотря на все достижения современных технологий, искусственный интеллект недостаточно совершенен. Он с трудом отличает разжигающие ненависть сообщения и просто оскорбительные посты от невинных высказываний с ключевыми словами, использующимися в ином значении.
Несколько тысяч модераторов
Более тонкой оценкой занимаются живые люди. Команда модераторов Facebook насчитывает несколько тысяч человек. Но даже их не хватает для того, чтобы качественно проверять миллиарды сообщений, появляющихся еженедельно. Естественно, пользователи Facebook общаются на разных языках, а значит модераторы нанимаются в разных странах. Они анализируют спорные посты, которые им присылает искусственный интеллект или на который жалуются другие пользователи. Но проблема заключается в несовершенстве правил и их непрозрачности.
Чем руководствуются модераторы, знают только сами модераторы. Правила Facebook, рекомендации и алгоритмы по работе с пользовательским контентом разрабатывают юристы, эксперты по кризисному менеджменту, PR-специалисты, ученые, наконец. Причем переписываются правила и рекомендации достаточно быстро — они должны учитывать меняющиеся настроения в обществе.
Искусственный интеллект Facebook способен определять 100% спама, выявлять 99,5% контента о терроризме, 98,5% фейковых аккаунтов пользователей, 96% постов на тему секса, а также 86% изображений, где есть насилие. Точность, как видите, очень высокая, но только пока речь не заходит об оскорблениях. Здесь алгоритмы дают сбой в 62% случаев, да и то при условии, что эти сообщения написаны на английском или португальском языках. С другими языками работают живые модераторы.
Проще – скрыть или удалить
Несмотря на то, что существуют схемы оценки сообщений на предмет недопустимых высказываний, далеко не все формулировки, с учетом, например, богатства русского языка, можно предусмотреть в методичках. Да и не каждый модератор сможет правильно оценить сомнительный пост. Один человек вчитается в сообщение и, поняв контекст, не станет блокировать пользователя. Другому достаточно будет выхватить взглядом запрещенное слово, после чего он заблокирует и само сообщение, и его автора. Не стоит забывать и о настроении модератора в момент работы, а также о его политических и прочих взглядах. Пользователям же ждать ответа от техподдержки, в подавляющем большинстве случаев, бессмысленно.
С учетом того, что Facebook давным-давно превратился из студенческого комьюнити в глобальную социальную сеть, ей требуется учитывать множество факторов — особенности национального законодательства разных стран, политическую ситуацию в мире, и не забывать про то, что разные модераторы могут счесть один и тот же пост как разрешенным к публикации, так и запрещенным. Все просто: человеческую жизнь, лексикон и отношение людей к разным событиям невозможно описать в методичках и обучить этому искусственный интеллект.
Поэтому, зачастую, Facebook проще удалить или скрыть из ленты новостей контент, который с большой вероятностью будет негативно воспринят пользователями.
Результаты модерации
На Facebook легко и просто можно попасть в бан за слова «хохол» и «укроп» описывая прическу или говоря о растении соответственно. Однако за схожее по степени негативности в одном из значений слово «ватник» система забанит с меньшей вероятностью. Поэтому Facebook все чаще обвиняют в определенных политических симпатиях. Но опытным путем было установлено, что речь, скорее, идет о несовершенстве алгоритмов, чем о преднамеренных блокировках «неугодных».
Упоминания животных и скота, цитаты из классики, в которых можно углядеть призывы к насилию, псевдонимы и любые намеки на расизм безжалостно вымарываются из ленты, а авторов подобных записей наказываются баном. При этом бывшие сотрудники на условиях анонимности подтверждают, что некоторое предвзятое отношение к российской аудитории по тем же политическим причинам есть.
За что меня банили
Но банить могут не только за высказывания, видео или картинки, но и за названия сайтов, например.
Другое дело, что большинство пользователей Facebook и Instagram, столкнувшись с баном, либо спокойно дожидаются окончания блокировки и дальше стараются вести себя по правилам, либо же доводят дело до окончательного бана.
Дело Хохлова
Но из-за бана до суда дело не доводил, кажется, никто, кроме Дмитрия Хохлова. Будучи персоной публичной и обсуждаемой, он решил не просто заявить о проблеме в интернете, но и побороться за свои права и возможность пользоваться собственной фамилией без ограничений.
На что можно рассчитывать, начав тяжбу с крупной международной компанией? Возможно, это отличный повод поднять шумиху вокруг своего имени?
Официально американская социальная сеть никак не отреагировала на поданный иск и требования Дмитрия Хохлова. До сих пор о прецедентах, когда пользователям удалось заставить Facebook изменить правила модерации, не сообщалось.
Тем и примечателен пример российского тренера. Он станет показательным: сможет ли один человек противопоставить что-то корпорации? Если дело против Facebook будет проиграно, или социальная сеть не станет исполнять решение суда, то не исключен бан самого Facebook. Да, депутаты нашей думы уже рассматривают вариант блокировки соцсети в России. Тогда «под хвост» пойдет не только страничка Caranddriver и тысячи подписчиков. Сложно не думать, что именно для этого раздувается конфликт.