Одна из самых популярных социальных сетей в мире известна, в том числе, достаточно жесткими порядками. Например, там очень легко схватить бан за собственную фамилию.
Если большинство пользователей мирится с порядками Facebook* и принадлежащего ему Instagram*, то бывший футболист сборной России Дмитрий Хохлов решил через суд обязать американскую соцсеть с уважением относиться к его фамилии. Просто потому, что самого экс-спортсмена, а ныне тренера, и его друзей Facebook* банит за упоминание фамилии.
Алгоритмы социальной сети не в состоянии учесть многозначность отдельных слов русского языка, а после известных событий между Россией и Украиной блокировки пользователей за высказывания на Facebook* стали, скорее, правилом, чем исключением.
Например, экс-мэр Екатеринбурга Евгений Ройзман был забанен за слово «ишак», а создатель мессенджеров QIP и 4talk Сергей Кравцов блокировался за слово «москалики». И подобных примеров множество, поскольку если на сообщения поступают жалобы пользователей, то администрация зачастую не углубляется в значение слов и контекст вызвавшей претензии записи.
Кто и как следит за нами
Как и в любой крупной социальной сети, первичной модерацией контента в Facebook* занимается искусственный интеллект. Алгоритмы, обученные на специальной подборке запрещенной информации, достаточно эффективно позволяют в автоматическом режиме бороться с распространением нелегального контента. Но, несмотря на все достижения современных технологий, искусственный интеллект недостаточно совершенен. Он с трудом отличает разжигающие ненависть сообщения и просто оскорбительные посты от невинных высказываний с ключевыми словами, использующимися в ином значении.
Несколько тысяч модераторов
Более тонкой оценкой занимаются живые люди. Команда модераторов Facebook* насчитывает несколько тысяч человек. Но даже их не хватает для того, чтобы качественно проверять миллиарды сообщений, появляющихся еженедельно. Естественно, пользователи Facebook* общаются на разных языках, а значит модераторы нанимаются в разных странах. Они анализируют спорные посты, которые им присылает искусственный интеллект или на который жалуются другие пользователи. Но проблема заключается в несовершенстве правил и их непрозрачности.
Чем руководствуются модераторы, знают только сами модераторы. Правила Facebook*, рекомендации и алгоритмы по работе с пользовательским контентом разрабатывают юристы, эксперты по кризисному менеджменту, PR-специалисты, ученые, наконец. Причем переписываются правила и рекомендации достаточно быстро — они должны учитывать меняющиеся настроения в обществе.
Искусственный интеллект Facebook* способен определять 100% спама, выявлять 99,5% контента о терроризме, 98,5% фейковых аккаунтов пользователей, 96% постов на тему секса, а также 86% изображений, где есть насилие. Точность, как видите, очень высокая, но только пока речь не заходит об оскорблениях. Здесь алгоритмы дают сбой в 62% случаев, да и то при условии, что эти сообщения написаны на английском или португальском языках. С другими языками работают живые модераторы.
Проще – скрыть или удалить
Несмотря на то, что существуют схемы оценки сообщений на предмет недопустимых высказываний, далеко не все формулировки, с учетом, например, богатства русского языка, можно предусмотреть в методичках. Да и не каждый модератор сможет правильно оценить сомнительный пост. Один человек вчитается в сообщение и, поняв контекст, не станет блокировать пользователя. Другому достаточно будет выхватить взглядом запрещенное слово, после чего он заблокирует и само сообщение, и его автора. Не стоит забывать и о настроении модератора в момент работы, а также о его политических и прочих взглядах. Пользователям же ждать ответа от техподдержки, в подавляющем большинстве случаев, бессмысленно.
С учетом того, что Facebook* давным-давно превратился из студенческого комьюнити в глобальную социальную сеть, ей требуется учитывать множество факторов — особенности национального законодательства разных стран, политическую ситуацию в мире, и не забывать про то, что разные модераторы могут счесть один и тот же пост как разрешенным к публикации, так и запрещенным. Все просто: человеческую жизнь, лексикон и отношение людей к разным событиям невозможно описать в методичках и обучить этому искусственный интеллект.
Поэтому, зачастую, Facebook* проще удалить или скрыть из ленты новостей контент, который с большой вероятностью будет негативно воспринят пользователями.
Результаты модерации
На Facebook* легко и просто можно попасть в бан за слова «хохол» и «укроп» описывая прическу или говоря о растении соответственно. Однако за схожее по степени негативности в одном из значений слово «ватник» система забанит с меньшей вероятностью. Поэтому Facebook* все чаще обвиняют в определенных политических симпатиях. Но опытным путем было установлено, что речь, скорее, идет о несовершенстве алгоритмов, чем о преднамеренных блокировках «неугодных».
Упоминания животных и скота, цитаты из классики, в которых можно углядеть призывы к насилию, псевдонимы и любые намеки на расизм безжалостно вымарываются из ленты, а авторов подобных записей наказываются баном. При этом бывшие сотрудники на условиях анонимности подтверждают, что некоторое предвзятое отношение к российской аудитории по тем же политическим причинам есть.
За что меня банили
Но банить могут не только за высказывания, видео или картинки, но и за названия сайтов, например.
Другое дело, что большинство пользователей Facebook* и Instagram*, столкнувшись с баном, либо спокойно дожидаются окончания блокировки и дальше стараются вести себя по правилам, либо же доводят дело до окончательного бана.
Дело Хохлова
Но из-за бана до суда дело не доводил, кажется, никто, кроме Дмитрия Хохлова. Будучи персоной публичной и обсуждаемой, он решил не просто заявить о проблеме в интернете, но и побороться за свои права и возможность пользоваться собственной фамилией без ограничений.
На что можно рассчитывать, начав тяжбу с крупной международной компанией? Возможно, это отличный повод поднять шумиху вокруг своего имени?
Официально американская социальная сеть никак не отреагировала на поданный иск и требования Дмитрия Хохлова. До сих пор о прецедентах, когда пользователям удалось заставить Facebook* изменить правила модерации, не сообщалось.
Тем и примечателен пример российского тренера. Он станет показательным: сможет ли один человек противопоставить что-то корпорации? Если дело против Facebook* будет проиграно, или социальная сеть не станет исполнять решение суда, то не исключен бан самого Facebook*. Да, депутаты нашей думы уже рассматривают вариант блокировки соцсети в России. Тогда «под хвост» пойдет не только страничка Caranddriver и тысячи подписчиков. Сложно не думать, что именно для этого раздувается конфликт.
*Instagram и Facebook принадлежат Meta, которая признана экстремистской организацией и запрещена на территории РФ