На лабораторном столе исследователь из Cornell Tech, постдок Yifan He, устанавливает линзу оптического приемника почти на метр от светодиода, испускающего красный свет. Подключенный к приемнику компьютерный монитор обновляется, и на экране появляется массив квадратов, напоминающий QR-код. Однако этот приемник выполняет совершенно другую задачу: он напрямую изменяет свою память, используя фототоки, создаваемые световым массивом. В отличие от данных, скрытых за QR-кодом, которые могут указывать на простой веб-адрес, этот оптический код может передавать параметры модели искусственного интеллекта.

Проблема увеличения памяти для AI-систем

Новый дизайн приемника был представлен на симпозиуме IEEE/JSAP по VLSI-технологиям и схемам в Гонолулу. Он направлен на снижение нагрузки, связанной с растущими требованиями к памяти в системах ИИ. Исследователи утверждают, что передача данных на процессоры с помощью света может снизить энергозатраты, которые обычно требуются для дата-центров, автономных автомобилей и даже для «краевых» приложений, таких как роботы с ИИ. "Люди разрабатывают множество различных чипов для ИИ," говорит Jae-sun Seo, доцент кафедры электротехники и компьютерной инженерии в Cornell Tech. "Эти процессоры часто не имеют достаточного пространства для всех параметров, составляющих модели ИИ, поэтому дополнительные данные хранятся в динамической оперативной памяти (DRAM)." Электрические соединения, используемые для перемещения данных между DRAM и процессором, создают проблемы с затратами и эффективностью при масштабировании систем. "Это одно из основных узких мест."

Оптические связи как решение

Оптические связи могут передавать данные с высокой пропускной способностью и меньшими потерями энергии по сравнению с металлическими проводами. Однако современные оптические приемники теряют это преимущество, полагаясь на энергозатратные аналоговые схемы для преобразования света в электронные биты. Новая технология, разработанная командой, вместо этого принимает быстрые вспышки цифровых матриц, подобных QR-коду, что позволяет чипам изменять параметры моделей без использования аналоговых схем, обеспечивая полностью цифровую оптическую связь, которая потребляет меньше энергии. "Это действительно важная проблема," говорит Dennis Sylvester, член IEEE и председатель кафедры электротехники и компьютерной инженерии в Университете Мичигана, который не участвовал в этой работе. "Это решение имеет огромные коммерческие последствия. Оно является умным способом решения проблемы."

Как свет "переключает" память для питания AI

Процессоры имеют немного встроенной статической оперативной памяти (SRAM), но ее недостаточно для независимой работы модели ИИ. Хотя SRAM быстрее, чем DRAM, последняя может хранить больше данных на том же пространстве. В новой системе DRAM находится вместе с передатчиком, а приемник является частью SRAM процессора. Передатчик передает данные на массив ячеек SRAM, которые в данном случае модифицированы для включения фотодиодов. Свет, попадая на каждый фотодиод, создает ток, который переключает двоичные значения в SRAM. Создание связи между светом и приемником требует калибровки, так как ожидать идеального выравнивания невозможно. Чип ссылается на кадровые данные, содержащие информацию о предполагаемом положении каждого пикселя данных, и использует эти данные для корректного приема реальных данных. "Идеально, если между передатчиком и приемником будет прямая линия," добавляет Seo, "но даже если они немного наклонены, у нас есть эта калибровочная схема."

Будущее оптических связей памяти

По словам Sylvester, текущая версия технологии, вероятно, далека от коммерциализации, так как отдельные фоточувствительные ячейки больше, чем ячейки SRAM в обычных чипах. Эти большие ячейки означают, что чип может вместить меньше памяти, что, по его словам, может свести на нет преимущества, получаемые от световой технологии. Seo утверждает, что команда продолжает работать над уменьшением размеров ячеек, что можно достичь за счет оптимизации размеров транзисторов и схем, а также использования масштабирования CMOS. Seo и He рассматривают применение технологии в робототехнике и других краевых приложениях. Одним из примеров являются склады и фабрики, управляемые роботами с ИИ, которые могут использовать оптическую передачу данных для экономии времени и энергии при обновлении моделей ИИ в каждом роботе. Кроме того, микророботы, которые по своей природе ограничены в памяти из-за размера, могут в будущем извлечь выгоду из этой технологии, хотя это потребует более компактного дизайна. "Краевой ИИ — это большая область роста, и через три-четыре-пять лет вы будете слышать о ней так же часто, как и о дата-центрах, вероятно, поскольку интеллект все больше и больше мигрирует в эти устройства, которые у нас есть," говорит Sylvester.