Нобелевские лауреаты использовали физику для обучения искусственного интеллекта
В пресс-релизе о присуждении Нобелевской премии по физике 2024 года Джону Хопфилду и Джеффри Хинтону нобелевский комитет пишет: «Два нобелевских лауреата по физике 2024 года использовали инструменты физики для разработки методов, которые лежат в основе современного мощного машинного обучения».
Джон Дж. Хопфилд родился в 1933 году в Чикаго, штат Иллинойс, США. Доктор философии 1958 года, Корнельский университет, Итака, штат Нью-Йорк, США. Профессор Принстонского университета, штат Нью-Джерси, США.
Джеффри Э. Хинтон, родился в 1947 году в Лондоне, Великобритания. Доктор философии 1978 года, Эдинбургский университет, Великобритания. Профессор Университета Торонто, Канада. Джеффри Хинтон — учитель одного из ведущих разработчиков ChatGPT — Ильи Суцкевера.
Нобелевский комитет в своем пресс-релизе так описал заслуги лауреатов.
Джон Хопфилд создал ассоциативную память, которая может хранить и восстанавливать изображения и другие образы данных. Джеффри Хинтон изобрел метод, который может автономно находить свойства в данных и выполнять такие задачи, как идентификация конкретных элементов на фотографиях. Когда мы говорим об искусственном интеллекте, мы часто подразумеваем машинное обучение с использованием искусственных нейронных сетей. Изначально эта технология была вдохновлена строением мозга. В искусственной нейронной сети нейроны мозга представлены узлами, которые имеют различные значения. Эти узлы влияют друг на друга через связи, которые можно сравнить с синапсами и которые можно усиливать или ослаблять. Сеть обучается, например, путем развития более прочных связей между узлами с одновременно высокими значениями.
Лауреаты этого года провели важную работу с искусственными нейронными сетями, начиная с 1980-х годов. Джон Хопфилд изобрел сеть, которая использует метод сохранения и воссоздания паттернов. Мы можем представить себе узлы в виде пикселей. Сеть Хопфилда использует физику, которая описывает характеристики материала, обусловленные его атомным спином — свойством, которое делает каждый атом крошечным магнитом.
Сеть в целом описывается способом, эквивалентным энергии в системе спинов в физике, и обучается, находя значения для связей между узлами так, чтобы сохраненные изображения имели низкую энергию. Когда сети Хопфилда подается искаженное или неполное изображение, она методично перебирает узлы и обновляет их значения, чтобы энергия сети падала. Таким образом, сеть пошагово ищет сохраненное изображение, наиболее похожее на полученное на входе.
Джеффри Хинтон использовал сеть Хопфилда в качестве основы для новой сети, которая использует другой метод: машину Больцмана. Она может научиться распознавать характерные элементы в заданном типе данных. Хинтон использовал инструменты из статистической физики — науки о системах, построенных из множества одинаковых компонентов. Машина обучается путем подачи примеров, которые с большой вероятностью возникнут при ее работе. Машина Больцмана может быть использована для классификации изображений или создания новых примеров того типа шаблонов, на которых она была обучена. Хинтон развил эту работу и помог положить начало нынешнему взрывному развитию машинного обучения.
«Работа лауреатов уже принесла огромную пользу. В физике мы используем искусственные нейронные сети в самых разных областях, например, для разработки новых материалов с особыми свойствами», — говорит Эллен Мунс, председатель Нобелевского комитета по физике.