В последние годы искусственный интеллект (ИИ) стал неотъемлемой частью нашей жизни. Нейросети рисуют картины, пишут дипломы и рекомендуют фильмы. Однако такой бум технологий не всегда был возможен. Искусственный интеллект несколько раз оказывался на грани забвения, и один из самых критических моментов произошел в конце 1970-х и начале 1980-х годов, когда мир столкнулся с первой "зимой ИИ". Этот термин описывает период, когда интерес к ИИ резко упал, а финансирование проектов было свернуто.

Зима ИИ: причины и последствия

Кризис начался после выхода отчета Лайтхилла в 1973 году, который утверждал, что разработки в области ИИ не способны решать реальные задачи и ограничены лишь игрушечными задачами. В 1969 году Марвин Минский и Сеймур Пейперт в своей книге "Перцептроны" доказали, что простейшие нейросети не могут решать даже элементарные логические задачи. Это привело к тому, что исследователи, занимающиеся нейросетями, оказались без финансирования и поддержки. Потеряв веру в нейросети, ученые переключились на символьные подходы и экспертные системы. Они решили, что если не удается обучить систему, то необходимо вручную прописать миллионы строгих правил. Так появились медицинские экспертные системы, такие как MYCIN, разработанная в Стэнфордском университете для диагностики инфекций крови. MYCIN показывала хорошие результаты в лабораторных условиях, но столкнулась с серьезными проблемами при внедрении в реальную практику.

Проблемы экспертных систем

Экспертные системы сталкивались с несколькими ключевыми проблемами:

Бутылочное горлышко извлечения знаний: Команды программистов проводили месяцы, общаясь с экспертами, чтобы собрать необходимые знания. Мастера часто не могли четко сформулировать свои действия, что затрудняло процесс.

Хрупкость: Экспертные системы работали в узкой математической среде и ломались при малейших отклонениях. Ошибки в вводе данных приводили к нелепым результатам, и системы не могли использовать здравый смысл.

Отсутствие здравого смысла: MYCIN могла точно рассчитывать дозировки, но не имела базовых правил, таких как "не убивать пациента". Это подчеркивало, что попытка имитировать разум через жесткие алгоритмы была неэффективной.

Поворотный момент: Джон Хопфилд

На фоне этого кризиса появился Джон Хопфилд, физик, который не имел опыта в программировании, но был увлечен изучением человеческого мозга. В конце 1970-х годов он начал исследовать, как работает память, и пришел к выводу, что она функционирует по принципу автоассоциации. Это означало, что мозг может восстанавливать целостные образы из частичных или искаженных данных. В 1982 году Хопфилд опубликовал свою знаменитую работу, в которой предложил новую архитектуру нейросетей. Он использовал концепцию спиновых стёкол из физики, где атомы взаимодействуют друг с другом, создавая стабильные состояния. Хопфилд предложил рассматривать нейроны как спины, которые могут находиться в двух состояниях: "включен" (+1) и "выключен" (-1).

Архитектура сети Хопфилда

Сеть Хопфилда состоит из одного слоя нейронов, где каждый нейрон связан со всеми остальными. Эта полная связанность позволяет сети стремиться к состоянию равновесия, соответствующему одному из запомненных паттернов. Обучение происходит за одну итерацию, когда эталонные изображения переводятся в векторы пикселей, и формируется матрица весов. Когда на вход подается зашумленный вектор, сеть начинает процесс асинхронного обновления, вычисляя локальное поле и минимизируя свою энергию, чтобы достичь одного из эталонов. Это позволяет восстанавливать и распознавать изображения, даже если они искажены.

Возрождение интереса к нейросетям

Работа Хопфилда привела к новому взгляду на ИИ и нейросети. Исследователи начали рассматривать ИИ не как набор формул, а как систему, способную к самоорганизации. Эта концепция подтолкнула новое поколение ученых к разработке более сложных моделей, таких как машина Больцмана и алгоритмы обратного распространения ошибки. С тех пор нейросети прошли долгий путь. В 2016 году были предложены новые подходы, которые увеличили емкость сетей Хопфилда, а в 2020 году появились современные версии, которые использовали принципы, схожие с архитектурой Transformer.

Нобелевская премия 2024 года

8 октября 2024 года Джон Хопфилд и Джеффри Хинтон получили Нобелевскую премию по физике за свои открытия, которые стали основой современного машинного обучения. Комитет отметил, что Хопфилд создал ассоциативную память на базе физики атомных спинов, а Хинтон разработал модели, которые учатся находить характерные свойства данных. Эта награда подчеркивает важность междисциплинарного подхода в науке, где физика и информатика пересекаются, создавая новые возможности для развития технологий.