The Wall Street Journal изучил внутренние документы Facebook и выяснил, что платформа освобождает некоторых политиков и звезд от соблюдения правил соцсети и не блокирует посты, даже если на них поступает много жалоб. Это результат работы алгоритма XCheck. Он должен был облегчить работу модераторов, но что-то пошло не так.
«Фейсбук» блокирует вашу рекламу на всякий случай, а звездам позволяет многое
«Фейсбук» довольно жестко регулирует публикации на платформе и быстро удаляет как обычные, так и рекламные посты, если они не соответствуют требованиям соцсети. Сталкивались с таким?
Скорее всего, да: автоматизированные системы компании быстро удаляют или скрывают сомнительный контент еще до проверки человеком.
По оценке Марка Цукерберга, в 10 % случаев эти системы ошибаются и удаляют контент, который не нарушал правила. При этом пользователям причина удаления не сообщается, так что люди даже не могут оспорить решение.
Однако если вы не обычный пользователь, а VIP-персона, «Фейсбук» будет к вам снисходителен. Ваши посты будет проверять другой алгоритм – XCheck, который более деликатно относится к сомнительному контенту. Он применяется для контроля постов известных личностей и нужен, чтобы уберечь соцсеть от негативного внимания со стороны прессы.
Это не значит, что сомнительный контент от известных людей не удаляется вовсе. В идеале их посты направляют на рассмотрение реальным модераторам – штатным сотрудникам компании. Те рассматривают жалобу и определяют, допустимо ли размещение поста в соцсети. Если нет, то создатель контента сначала получает предупреждение и предложение удалить публикацию в течение 24 часов.
В рамках внутренней проверки специалисты выяснили, что только 10 % постов действительно доходят до проверки модератором. Все остальные сомнительные посты просто не дожидаются реакции реального человека и остаются в соцсети навсегда.
Все животные равны, но некоторые – равнее
Официальных сообщений о том, кто попал в белые списки «Фейсбука», нет, конечно. VIP-пользователи тоже об этом не знают. Во внутреннем руководстве по XCheck указано, что в белый список заносят персон, «заслуживающих внимания», «влиятельных или популярных» и «рискованных с точки зрения PR». Там указаны и имена персон.
Одна из них – бразильский футболист Неймар да Силва Сантос Жуниор. На данный момент его аккаунт в Instagram насчитает 161 млн подписчиков и считается одним из самых популярных в мире.
В 2019 году бразильская модель обвинила футболиста в изнасиловании. В ответ Неймар разместил в социальных сетях переписку из WhatsApp, которая содержала личные данные и интимные фотографии девушки.
В «Фейсбук» действует правило: все посты с изображениями интимного характера, размещенными без согласия людей на фото, моментально удаляются. Более того, немедленной блокировке подлежат учетные записи людей, опубликовавших материалы без разрешения человека с фотографии.
Однако посты Неймара не были удалены. Причина – XCheck, который «защитил» футболиста. В итоге посты с оскорблениями и угрозами в адрес девушки получили более 6 000 репостов и подвергли модель опасности. Позднее суд установил, что обвинения Неймара против девушки были несостоятельны.
Еще один пример – сообщение Дональда Трампа: «Когда начинается мародерство, начинается стрельба». Пост с таким содержание одновременно вышел в «Твиттере» и в «Фейсбуке». «Твиттер» пометил публикацию как поощряющую насилие, а «Фейсбук» проигнорировал пост.
Обычные алгоритмы сделали вывод, что пост на 90 % из 100 % нарушает правила платформы. Когда дело касается простых пользователей, такая оценка приводит к незамедлительному удалению поста, как только на публикацию пожалуется хотя бы один пользователь, однако пост Трампа оставили в соцсети. Позднее Цукерберг лично призвал не удалять его.
Помимо Трампа (до его двухлетнего отстранения от Facebook в июне 2021 года) в белый список входят все члены семьи бывшего и действующего президента, члены конгресса США и парламента Европейского Союза, мэры крупных городов, диссиденты и гражданские активисты.
В белом списке находятся многие, но все же не все государственные чиновники и кандидаты на правительственные посты. Фактически это давало определенное преимущество некоторым персонам, участвующим в предвыборной гонке.
Помимо политиков в белый список входят известные журналисты, блогеры со значительным количеством подписчиков, кинозвезды, ведущие ток-шоу, ученые и другие популярные персоны.
Зачем реально нужен XCheck
«Фейсбук» всегда стремился стать соцсетью, в которой миллиарды пользователей могут общаться наравне: политические, культурные и журналистские элиты и обычные пользователи, взрослые и дети. Стандарты площадки, соответственно, тоже должны были применяться ко всем одинаково, независимо от статуса и известности.
Однако в реальном мире работать такая система не могла и неоднократно подрывала репутацию «Фейсбука».
Например, в 2020 году алгоритмы «Фейсбук» неверно истолковали старый пост Хосама Эль Саккари, независимого журналиста, который ранее возглавлял арабскую службу новостей BBC. В своем посте журналист осудил Усаму бен Ладена, а алгоритмы «подумали», что Саккари поддерживает террористические организации, и удалили пост. Журналист хотел обжаловать решение, но и модераторы-люди тоже сочли пост сомнительным.
В итоге журналист разместил гневный пост в «Твиттере» и привлек внимание широкой общественности. «Фейсбук» извинился, а вскоре, и снова по ошибке, удалил несколько постов Саккари, в которых была раскритикована деятельность консервативных мусульманских персон.
За этим случаем последовали серьезные разбирательства в «Фейсбуке». Сотрудники соцсети пришли к выводу, что необходим белый список персон, таких, как Хосама Эль Саккари, посты которых будут проверяться особо тщательно и более лояльно, чтобы избежать очередных PR-скандалов.
Чтобы избежать повторения подобных ситуаций, «Фейсбук» создал программу перекрестной проверки XCheck. Изначально она должна была контролировать качество работы алгоритмов, которые проверяют посты из аккаунтов знаменитостей, политиков и журналистов. Однако сегодня вместо двойной проверки XCheck, по сути, просто формирует миллионные списки VIP-пользователей, которых в дальнейшем начинает защищать от работы алгоритмов. Речь про оценку адекватности предлагаемых мер уже не идет.
Служба проверки фактов «Фейсбука» установила, что публикации людей из белого списка часто содержат опасные и ложные факты. Например, утверждения, что вакцина от ковида смертельно опасна, Хиллари Клинтон прикрывает педофилов, а Дональд Трамп называет всех беженцев, ищущих убежища, животными.
Вот что написали сотрудники «Фейсбук» во внутреннем обзоре программы XCheck: «Мы подрываем доверие пользователей… В отношении избранных членов сообщества мы не соблюдаем нашу политику и стандарты. Эти люди, в отличии от большинства, могут спокойно нарушать наши правила без последствий».
Представитель «Фейсбука» Энди Стоун в письменном заявлении согласился, что критика в отношении XCheck справедлива, однако и обойтись совсем без этой системы невозможно. «XCheck была разработана по веской причине. Facebook был необходим еще один шаг, который позволил бы алгоритмам точнее определять, какие меры стоит применять в отношении того или иного контента. Большая часть этого внутреннего документа – устаревшая информация: мы уже давно боремся с существованием белых списков, так как сами смогли выявить недостатки перекрестной проверки».
Теоретически «Фейсбук» мог бы и вовсе отказаться от XCheck в пользу реальных модераторов, однако на практике реализовать это невозможно: штата специалистов, нанятых соцсетью для проверки контента, не хватает, чтобы обрабатывать весь поток информации. Кроме того, в случае «ручного» принятия модерационных решений все равно неизбежны ошибки, которые могут привести к ущербу репутации Facebook.
Так что XCheck нужен не только для автоматизации процесса, но и для того, чтобы снизить количество ложных срабатываний обычного алгоритма.
Сегодня даже внутри компании постоянно идут дискуссии о том, насколько корректно допускать такую работу алгоритма и формировать белые списки. Многие сотрудники публично высказываются против XCheck: «Фейсбук», по их мнению, должен быть демократичной платформой, высказаться на которой может каждый.
«Мы сознательно дезинформируем пользователей о том, какие ресурсы и процессы в компании фильтруют контент. Нужно отделять политику работы с контентом от международной политики», – говорится в документе «Политический белый список противоречит основным принципам Facebook» от 2019 года.
