Дизайн микросхемы значительно снижает энергию, необходимую для вычисления света - МИКРОН-ДИЛЕР-СЕРВИС

САНКТ-ПЕТЕРБУРГ:

тел.: +7(812) 701-02-32 факс: +7(812) 701-02-82 email: [email protected], [email protected] адрес: ул. Курчатова д.10, лит. М

ИЖЕВСК:

тел.: +7(3412) 467-100 факс: +7(3412) 933-163 email: [email protected], [email protected] адрес: ул. Автозаводская, д. 7
Курс валют ЦБРФ: 62.8666 RUB. 1 USD | 70.7941 RUB. 1 EUR на: 20.07.2019
{"effect":"slide-v","fontstyle":"normal","autoplay":"true","timer":"4000"}

ЭЛЕКТРОННЫЕ

КОМПОНЕНТЫ

ДЛЯ ВАШЕГО УСПЕХА

ПОСТАВЩИК ЭКБ РЕГИСТР ИСО 9001 ПОСТАВЩИК ЭКБ ВВТ

МИКРОН-ДИЛЕР-СЕРВИС

ISO 9001

ПОСТАВКА ЭЛЕКТРОННЫХ КОМПОНЕНТОВ

С ПРИЁМКОЙ ОТК,ВП,ОС,ОСМ

РАБОТАЕМ СОГЛАСНО

275-ФЗ*, 44-ФЗ и 223-ФЗ

*с изменениями согласно 159-ФЗ

МИКРОН-ДИЛЕР-СЕРВИС

Дизайн микросхемы значительно снижает энергию, необходимую для вычисления света

Дизайн микросхемы значительно снижает энергию, необходимую для вычисления света

Моделирование предполагает, что фотонный чип может работать с оптическими нейронными сетями в 10 миллионов раз эффективнее, чем его электрические аналоги.

Исследователи из Массачусетского технологического института разработали новый «фотонный» чип, который использует свет вместо электричества и при этом потребляет относительно мало энергии. Чип можно использовать для обработки массивных нейронных сетей в миллионы раз эффективнее, чем современные классические компьютеры.

Нейронные сети – это модели машинного обучения, которые широко используются для таких задач, как идентификация роботизированных объектов, обработка естественного языка, разработка лекарств, медицинская визуализация и питание автомобилей без водителя. Новые оптические нейронные сети, которые используют оптические явления для ускорения вычислений, могут работать намного быстрее и эффективнее, чем их электрические аналоги.

Но по мере усложнения традиционных и оптических нейронных сетей они поглощают тонны энергии. Для решения этой проблемы исследователи и крупные технологические компании, включая Google, IBM и Tesla, разработали «ускорители ИИ», специализированные чипы, которые повышают скорость и эффективность обучения и тестирования нейронных сетей.

Для электрических микросхем, включая большинство ускорителей искусственного интеллекта, существует теоретический минимальный предел потребления энергии. Недавно исследователи MIT начали разработку фотонных ускорителей для оптических нейронных сетей. Эти чипы работают на порядок эффективнее, но они полагаются на некоторые громоздкие оптические компоненты, которые ограничивают их использование относительно небольшими нейронными сетями.

В статье, опубликованной в Физический обзор XИсследователи из Массачусетского технологического института описывают новый фотонный ускоритель, в котором используются более компактные оптические компоненты и методы оптической обработки сигналов, чтобы значительно сократить как энергопотребление, так и площадь микросхемы. Это позволяет чипу масштабироваться до нейронных сетей на несколько порядков больше, чем его аналоги.

Симуляция обучения нейронных сетей в наборе данных классификации изображений MNIST позволяет предположить, что ускоритель теоретически может обрабатывать нейронные сети более чем в 10 миллионов раз ниже предела энергопотребления традиционных электрических ускорителей и примерно в 1000 раз ниже предела фотонных ускорителей. Исследователи сейчас работают над прототипом чипа, чтобы экспериментально доказать результаты.

«Люди ищут технологии, которые могут вычислить за пределами фундаментальных пределов потребления энергии», – говорит Райан Хамерли, постдок из Исследовательской лаборатории электроники. «Фотонные ускорители являются многообещающими … но наша мотивация заключается в создании (фотонный ускоритель), который может масштабироваться до больших нейронных сетей».

Практическое применение таких технологий включает снижение энергопотребления в центрах обработки данных. «Существует растущий спрос на центры обработки данных для работы больших нейронных сетей, и он становится все более сложным в вычислительном отношении по мере роста спроса», – говорит соавтор Александр Слуддс, аспирант Исследовательской лаборатории электроники. Цель состоит в том, чтобы «удовлетворить вычислительные потребности с помощью оборудования нейронной сети… для устранения узких мест в энергопотреблении и задержке».

К работе присоединились Sludds и Hamerly: соавтор Лиана Бернштейн, аспирант RLE; Марин Солячич, профессор физики Массачусетского технологического института; и Дирк Энглунд, адъюнкт-профессор электротехники и компьютерных наук Массачусетского технологического института, исследователь RLE и руководитель лаборатории квантовой фотоники.

Компактная конструкция

Нейронные сети обрабатывают данные через множество вычислительных слоев, содержащих взаимосвязанные узлы, называемые «нейронами», чтобы найти закономерности в данных. Нейроны получают вход от своих соседей вверх по течению и вычисляют выходной сигнал, который отправляется нейронам дальше вниз по течению. Каждому входу также присваивается «вес», значение, основанное на его относительной важности для всех других входов. По мере того как данные распространяются «глубже» по уровням, сеть узнает все более сложную информацию. В конце выходной слой генерирует прогноз на основе расчетов по всем слоям.

Все ускорители ИИ стремятся уменьшить энергию, необходимую для обработки и перемещения данных во время определенного шага линейной алгебры в нейронных сетях, называемого «умножение матриц». Там нейроны и веса кодируются в отдельные таблицы строк и столбцов, а затем объединяются для вычисления выходы.

В традиционных фотонных ускорителях импульсные лазеры, закодированные информацией о каждом нейроне в слое, поступают в волноводы и через светоделители. Результирующие оптические сигналы поступают в сетку квадратных оптических компонентов, называемых «интерферометрами Маха-Цендера», которые запрограммированы для выполнения умножения матриц. Интерферометры, которые кодируются с информацией о каждом весе, используют методы помехи сигнала, которые обрабатывают оптические сигналы и значения веса, чтобы вычислить выход для каждого нейрона. Но есть проблема масштабирования: для каждого нейрона должен быть один волновод, и для каждого веса должен быть один интерферометр. Поскольку число весов квадратов с количеством нейронов, эти интерферометры занимают много места.

«Вы быстро понимаете, что число входных нейронов никогда не может превышать 100 или около того, потому что вы не можете разместить столько компонентов на чипе», – говорит Хамерли. «Если ваш фотонный ускоритель не может обрабатывать более 100 нейронов на слой, то это затрудняет внедрение больших нейронных сетей в эту архитектуру».

Чип исследователей опирается на более компактную, энергоэффективную «оптоэлектронную» схему, которая кодирует данные с помощью оптических сигналов, но использует «сбалансированное гомодинное обнаружение» для умножения матриц. Это метод, который производит измеримый электрический сигнал после вычисления произведения амплитуд (высот волн) двух оптических сигналов.

Импульсы света, закодированные с информацией о входных и выходных нейронах для каждого слоя нейронной сети, которые необходимы для обучения сети, проходят через один канал. Отдельные импульсы, закодированные с информацией о целых рядах весов в таблице умножения матриц, проходят через отдельные каналы. Оптические сигналы, переносящие нейрон и данные о весе, распространяются на сетку гомодинных фотоприемников. Фотодетекторы используют амплитуду сигналов для вычисления выходного значения для каждого нейрона. Каждый детектор подает электрический выходной сигнал для каждого нейрона в модулятор, который преобразует сигнал обратно в световой импульс. Этот оптический сигнал становится входом для следующего слоя и так далее.

Конструкция требует только одного канала на каждый входной и выходной нейрон, и только столько гомодинных фотоприемников, сколько имеется нейронов, а не весов. Поскольку нейронов всегда намного меньше, чем весов, это экономит значительное пространство, поэтому чип может масштабироваться до нейронных сетей с более чем миллионом нейронов на слой.

В поисках сладкого места

В случае фотонных ускорителей в сигнале присутствует неизбежный шум. Чем больше света подается в чип, тем меньше шума и выше точность, но это становится довольно неэффективным. Меньшее количество входного света увеличивает эффективность, но отрицательно влияет на производительность нейронной сети. Но есть «сладкое пятно», говорит Бернштейн, которое использует минимальную оптическую мощность при сохранении точности.

Это приятное место для ускорителей ИИ измеряется количеством джоулей, которое требуется для выполнения одной операции умножения двух чисел, например, во время умножения матриц. Прямо сейчас традиционные ускорители измеряются в пикоджоулях, или одной триллионной доли джоуля. Фотонные ускорители измеряют в аттоджоулях, что в миллион раз эффективнее.

В своих симуляциях исследователи обнаружили, что их фотонный ускоритель может работать с субаттоджоулевой эффективностью. «Существует некоторая минимальная оптическая мощность, которую вы можете отправить, прежде чем потерять точность. Фундаментальный предел нашего чипа намного ниже, чем у традиционных ускорителей… и ниже, чем у других фотонных ускорителей », – говорит Бернштейн.

ПОДЕЛИТЬСЯ:
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  •  
  • 23.06.2019

Вступайте в группу ВКОНТАКТЕ

Виртуальный помощник Эмдис
Scroll Up