«Все это добром не кончится», – считает Джеффри Хинтон.
Проработав в Google более десяти лет, доктор 76-летний Джеффри Хинтон решил покинуть компанию. И дело не только в том, что человек решил уйти на пенсию. Он не стал делать тайну из реальных причин ухода. Наоборот, он подчеркивает, что виной тому сам искусственный интеллект (ИИ), над которым доктор работал много лет. Точнее, те опасности, которые он несет. Словом, г-н Хинтон настроен весьма пессимистично относительно судьбы человечества и воинственно по отношению к ИИ.
Джеффри Хинтон, которого называют «Крестным отцом ИИ», рассказал The New York Times, что люди уже начали сталкиваться с негативными последствиями деятельности нейросетей. Это, например, потеря рабочих мест, когда работодатели поручают ИИ часть обязанностей увольняемых рабочих. Например, в Баварии на заводе BMW нейросети и роботы уже контролируют качество покраски кузовов автомобилей, а немногочисленные проверяющие люди лишь подстраховывают их. В результате подобных шагов работы лишатся миллионы людей во всем мире, уверен Хинтон и ряд других экспертов.
Также Джеффри Хинтон указывает на то, что стало размываться само понятие правды, а достоверность фактов под большим вопросом из-за генерируемых видео, изображений, текстов…
Кроме того, нейросети включились в гонку вооружений, что весьма беспокоит исследователя.
При этом ученого не особо мучает совесть за то, что он разрабатывал: «Я утешаю себя так: если бы я этого не сделал, это сделал бы кто-то другой».
Теперь он намерен посвятить себя рассказам об опасностях искусственного интеллекта и того, как его используют. Хинтон считает, что дальше будет только хуже. И чтобы говорить об этом открыто, уволился из Google.
Краткая история Джеффри Хинтона
Над искусственным интеллектом британо-канадский когнитивный психолог и специалист по информатике Джеффри Хинтон, родившийся 6 декабря 1947 года, работал всю жизнь. Он один из тех, кто стоял у истоков искусственного разума, развивая его с 1970-х годов (сразу после окончания Кембриджа). Он является автором и соавтором более 200 рецензируемых публикаций.
Вместе с Дэвидом Румелхартом и Рональдом Дж. Уильямсом Хинтон написал одну из самых цитируемых статей в области исследования ИИ – «Изучение представлений путем обратного распространения ошибок». Статья, в которой популяризировался метод обратного распространения для обучения многоуровневых нейронных сетей, была опубликована в 1986 году.
Приведем очень грубое, но потому более-менее понятное объяснение (да простят нас программисты). В ходе обучения нейроны одного слоя, а в слое их несколько (сотен, тысяч, миллионов – зависит от сложности нейросети) транслируют получаемый сигнал всем нейронам следующего слоя (каждый нейрон одного слоя связан со всеми нейронами другого слоя). Этот второй (его еще называют скрытым) слой производит вычисления (сетевую или активную функцию) и рассылает результат всем нейронам третьего слоя (выходного слоя). Этот слой тоже вычисляет сетевую функцию и сравнивает результат с вводимыми изначально данными и результатами срединного слоя (слоев). Далее происходит корректировка связей. Так нейросеть и обучается, устраняя ошибки (разногласия) в своих "умозаключениях" (разницу на входе и выходе).
Но надо сказать, что Хинтон с коллегами были не первыми, кто предложил этот подход. Первую обучаемую нейросеть еще в 1957 году продемонстрировал психолог Корнеллского университета Фрэнк Розенблатт. Но та сеть была одноуровневой (ограничена в количестве шаблонов обучения), а у Хинтона – многоуровневая. Именно поэтому его и называют не отцом, а «Крестным отцом ИИ», наставником и воспитателем, не родившим, а развившим нейросети до современного уровня.
Следующей впечатляющей вехой стал прорыв ученого в области распознавания изображений с помощью AlexNet, разработанной в сотрудничестве с его учениками Алексом Крижевским и Ильей Суцкевером (к слову, уроженцем Нижнего Новгорода) для ImageNet challenge в 2012 году. Так началась эпоха развития компьютерного зрения.
Эта разработка была продана Google за 44 млн долларов, а сам Хинтон занял пост вице-президента Google по направлению нейросетей. То есть, появившийся в 2018 году ИИ BERT – полностью его детище, как и нейросеть Imagen, представленная год назад.
В 2018 году Хинтон получил премию Тьюринга вместе с Йошуа Бенгио и Янном Лекуном за их работу по глубокому обучению нейросетей. К слову, Бенгио и Лекуна тоже называют крестными отцами искусственного интеллекта и крестными отцами глубокого обучения.
В 2022 году Хинтон представил идею нового алгоритма обучения нейросетей. Она состоит в том, чтобы заменить традиционные прямые и обратные проходы обратного распространения двумя прямыми проходами: один с положительными (то есть реальными) данными, а другой – с отрицательными данными, которые могут быть сгенерированы исключительно самой нейросетью. Каждый уровень имеет свою собственную целевую функцию, которая заключается просто в том, чтобы иметь высокую достоверность для положительных данных и низкую достоверность для отрицательных данных. То есть сравнение с входными данными для корректировки связей нейросети исключается. Этот подход к обучению ИИ сегодня только изучается.
Читайте также:
Нейросеть Microsoft Designer – создает даже видеооткрытки
Внутри ChatGPT – как устроены языковые нейросети
Бесплатный ChatGPT от создателей Stable Diffusion — качай скорее!
