Его разработкой займется Институт системного программирования им. В. П. Иванникова, получивший грант от Аналитического центра при правительстве РФ.
Не пугайтесь пока – намерения самые хорошие. Это поможет не только эффективно выявлять группы смерти, террористов и, тем самым, бороться с экстремизмом, но и определять психологическое состояние лиц, которые занимают государственные посты или позиции в крупных компаниях. То есть алгоритм планируют применять для «распознавания манипулятивного управления большими социальными группами, оценки творческого потенциала работников и моделирование их профессионального развития».
«Программой исследовательского центра ИСП РАН предусмотрено в том числе создание доверенной технологии диагностики свойств личности. Такие проекты могут помочь в выявлении и своевременном реагировании на разжигание национальной розни, формирование групп смерти, вербовку или привлечение граждан к террористической деятельности», – цитирует «Коммерсантъ» заявление пресс-службы Аналитического центра. Что касается сроков, то технология психоанализа людей по постам в соцсетях может появиться через пару лет – срок сдачи работ назначен на 1 сентября 2024 года, а обойдется исследование в 36 млн руб.
Благодаря соцсетям искусственный интеллект получит, так сказать, всю необходимую пищу для размышлений и анализа: интересы и увлечения пользователей соцсетей, а также их записи, говорящие о степени поведенческой активности.
Технологии анализа личности, как говорится в описании тендера, «открывают широкие возможности по оценке личности и прогнозированию ее поведения без осуществления психологического тестирования, требующего добровольного согласия (человека, – прим. ред.)».
Юридические проблемы
Последнее словосочетание, по мнению юристов, противоречит законам. В частности, закону, касающемуся защиты персональных данных.
«В конце прошлого года были приняты поправки к закону о персональных данных, согласно которым опубликованные гражданами данные могут использоваться для какого-либо анализа только с их согласия. Когда мы выкладываем фотографии в соцсетях, мы рассчитываем, что они будут интересны нашим друзьям и знакомым. Однако получается, что некий ФГБУ будет собирать ваши данные и присваивать вам "оценки личности", проводить "психологическую диагностику", цели которой непонятны», – говорит преподаватель Moscow Digital School Олег Блинов.
«Еще больше вопросов вызывает перспектива обработки подрядчиком данных из соцсетей, которые человек не делает публичными», – отмечает директор по правовым инициативам Фонда развития интернет-инициатив Александра Орехович, подчеркивая, что такая обработка информации третьими лицами требует отдельного согласия от гражданина.
Анализ вранья и другие проблемы
Также велик риск того, что искусственный интеллект создаст неправильный психологический портрет личности. Причина простая – никто и ничто не мешает людям врать о себе и своей жизни в соцсетях. Богатый и успешный путешественник, любящий животных, светская львица, прожигающая жизнь на тусовках, примерный семьянин с мыслями только о детях – это может оказаться как правдой, так и вымыслом.
Анализ человека через даже правдивый аккаунт не выявит его психологическое состояние, указывают эксперты. Так можно лишь составить впечатление, а оно чаще бывает обманчивым. Для анализа нужны психологические тесты и опросники, но и те имеют невысокий процент эффективности. «Единственный достоверный источник – это беседа со специалистом, где учитывается лексика, информационная часть, эмоции, жесты… А то, что по записям в соцсетях можно узнать что-то о человеке, – это миф», – говорит психолог Павел Волженков.
Это подтверждает и психолог-психоаналитик Анна Булычева: «В массовом масштабе вряд ли стоит делать однозначные и далеко идущие выводы о характере человека на основании его сетевых аккаунтов. Достаточно обращать внимание на степень присутствия в соцсетях и характер контента. Как полное отсутствие человека в соцсетях, так и чрезмерное присутствие в них настораживает, поскольку указывает на возможность нарушения социализации или на асоциальность. Навязчивый однотипный контент специфического содержания в больших количествах тоже можно считать тревожным признаком». То есть о конкретных проблемах человека узнать по соцсетям не получится – выявить можно лишь признаки нарушения социализации, например.
Китайский опыт: система социального рейтинга
В Китае система социального рейтинга существует с 14 июля 2014 года, когда правительство опубликовало план и цели ее внедрения.
Гражданин получает «на старте» 1000 баллов – это рейтинг категории А+. То есть, по умолчанию все хорошие и начинать путь с нуля не нужно. Затем, в зависимости от того, чем занят человек, рейтинг может меняться. Если набирается 1050 баллов, то человек становится чуть ли не избранным с высшим рейтингом ААА, и перед ним открыты все дороги. Если баллы начинают пропадать, то человек последовательно может скатиться в категории B, C и D. Проблемы начинаются с категории С – уже нельзя работать в государственных и муниципальных структурах. Для лиц с категорией D велик шанс остаться без работы совсем, и надеяться на доброту окружающих не стоит – людей с этой категорией стараются избегать (вдруг из-за общения с изгоем понизят рейтинг).
Заработать баллы можно разными способами. Это, например, благотворительность и помощь людям, добрососедские отношения, забота о родителях и донорство (нет, отдавать почку не обязательно, но кровь – вполне), а также безоговорочная поддержка правительства. Подойдут также героический поступок или хорошая финансовая история.
А вот список грехов, которыми выстлана дорога в категорию D: протест против властей, несоблюдение правил дорожного движения, пренебрежение родителями, слухи и фейки – как их создание, так и передача дальше, а также неискренние извинения, сектантство и жульничество, причем даже в онлайн-играх.