Открытое письмо, опубликованное НКО «Институт будущего жизни» (Future of Life Institute), насчитывает на момент публикации около 1000 подписантов, среди которых соучредитель Apple Стив Возняк, разработчик нейросети Stable Diffusion Эмад Мостак, философ Юваль Ной Харари, а также Илон Маск. Авторы письма требуют немедленной паузы в обучении нейросетей как минимум на шесть месяцев, пока не будут разработаны стандарты безопасности в этой сфере.
Интересно, что никто из организации OpenAI, создавшей ChatGPT и GPT-4, не подписался под этим письмом. Немудрено, ведь прежде всего это письмо адресовано именно OpenAI и Microsoft, который контролирует организацию. Вот что пишут авторы петиции:
«Продвинутый искусственный интеллект может сильно изменить историю жизни на Земле, поэтому его развитие следует четко планировать. Мы также должны научиться управлять генеративным ИИ. К сожалению, пока достаточного уровня планирования и управления мы не видим — наоборот, в последние месяцы лаборатории искусственного интеллекта вступили в бесконтрольную гонку разработки и внедрения все более мощных нейросетей. О том, как их контролировать, мы даже не задумываемся».
Авторы письма призывают всех ключевых разработчиков нейросетей в мире взять паузу и на время прекратить совершенствование своих моделей. Если же это окажется невозможным, представители «Института будущего жизни» просят правительство ввести мораторий на подобные разработки.
Во многом все зависит, конечно, от добросовестности разработчиков искусственного интеллекта. Ведь даже с мораторием, подписанным президентом США, в мире останется множество компаний из других стран, которые занимаются подобными разработками. И если американские фирмы приостановят обучение своих моделей, то для компаний из других стран это станет звездным часом для выхода вперед и лишь подтолкнет рынок к созданию все более совершенных нейросетевых моделей.
Петиция пока получила относительно мало голосов, но даже с большим их числом вряд ли что-то поменяется. Microsoft и другие крупные компании, приносящие экономике США триллионы долларов дохода, вряд ли согласятся притормозить прогресс. Вероятнее всего, придумывать регулирование в области искусственного интеллекта властям придется на ходу.
Читайте также:
Видео из текста и команды голосом: новая ChatGPT — это прорыв!
Чат-бот сдал экзамен по MBA на 4. Интервью с приемной комиссией
Теперь нейросети еще и сценарии пишут: ChatGPT и «Южный Парк»