24 жестких ограничения для ИИ (в Китае) — полный список

18 Август 2023

Время чтения: 10 минут

Это не первая страна, которая задумалась над контролем.

Правительство КНР подписало документ из 24 статей, которые регламентируют деятельность компаний, создающих алгоритмы искусственного интеллекта — в том числе и нейросети. Рассказываем, как теперь будет устроено регулирование ИИ в Китае, и как оно уже действует в Европе и США.

Регулирование нейросетей в Китае

Вот ключевые принципы регулирования ИИ в Китае из нового документа:

ИИ, создаваемый компаниями, должен придерживаться основных социалистических ценностей и не должен подстрекать к подрыву государственной власти;
ИИ не должен дискриминировать пользователей по этнической принадлежности, убеждениям, стране, региону, полу, возрасту и так далее;
Разработчики нейросетей должны уважать права интеллектуальной собственности и деловую этику;
Разработчики алгоритмов ИИ должны уважать законные права и интересы людей, не подвергать опасности их физическое и психическое здоровье и не нарушать их права;
Работа алгоритмов должна быть прозрачной, а разработчики должны стремиться к повышению точности и надежности генерируемого контента;
Власти должны поощрять инновационное применение технологии генеративного искусственного интеллекта в различных отраслях;
Власти должны содействовать созданию генерирующей инфраструктуры искусственного интеллекта и созданию общедоступной платформы с данными для обучения алгоритмов — судя по всему, для реализации этого пункта власти привлекут (или обяжут) бизнес собирать соответствующие данные на определенную платформу;
При обучении алгоритмов разработчики должны использовать данные и базовые модели из легальных источников, не нарушать интеллектуальную собственность, качественно маркировать данные по стандарту, который будет разработан позже;
Провайдеры, предоставляющие инфраструктуру разработчикам ИИ, должны подписывать с ними договор и предоставлять им наиболее защищенное оборудование для обеспечения безопасности данных;
Провайдеры также должны обеспечивать стабильный и непрерывный доступ к услугам, а также регистрировать генерацию противоправного контента и блокировать этот процесс;
За работой сервисов генеративного ИИ должны следить специальные органы.

В других пунктах регламентируется, к кому применяется данный закон, какие министерства будут следить за его соблюдением, а также, какой контент попадает под регулирование (спойлер: текст, видео, аудио и любой другой контент, созданный генеративным ИИ).

Регулирование ИИ в Европе

В ЕС написали первый в мире закон, регулирующий использование ИИ, в том числе нейросети ChatGPT и Midjourney. Системы распознавания лиц и эмоций тоже попадают под этот закон — их возможности будут существенно ограничены. Например, ИИ для распознавания лиц и эмоций нельзя будет использовать правоохранительным органам, пограничникам, работодателям и образовательным учреждениям.

Документ выделяет четыре категории систем ИИ: с минимальным, ограниченным, высоким и неприемлемым риском.

Под категорию сервисов с «минимальным» риском попадает большинство инструментов, если результаты их работы прогнозируемы и никак не могут навредить пользователям;
Под категорию «ограниченного» риска, вероятно, попадут нейросети, такие как ChatGPT и Midjourney. Их алгоритмы для доступа в ЕС должны будут пройти проверку на безопасность;
К категории «высокой» степени риска относятся специализированные ИИ-системы, например, применяющиеся в медицине, образовании, транспорте (беспилотные автомобили) и так далее;
Категория «неприемлемого» риска — это, например, алгоритмы для выставления социального рейтинга или создания дипфейков;

Проект закона об искусственном интеллекте в ЕС приняли в июне 2023 года. Когда его положения вступят в силу, пока неизвестно.

Регулирование ИИ в США

В США законодатели активно обсуждают регулирование ИИ — на данный момент есть несколько предложений относительно ограничений и правил, которым должны будут следовать разработчики сервисов, в том числе на основе нейросетей.

Но, несмотря на активное обсуждение, власти США не спешат разрабатывать и принимать закон о регулировании алгоритмов, предоставляя на данный момент достаточно большую свободу своим компаниям для разработки и совершенствования технологий искусственного интеллекта.

Регулирование ИИ в России

В России существует закон № 123-ФЗ, который регламентирует условия для разработки и внедрения технологий искусственного интеллекта, а также использование результатов его работы. Регламентируются в нем и вопросы конфиденциальности данных, используемых для обучения нейросетей.

Есть у законодателей на заметке также проект закона, который запрещает использование технологии распознавания лиц в общественных местах и применение полицией ИИ для прогнозирования правонарушений, а также регулирует системы генеративного ИИ (такие, как ChatGPT).