Новый чип может использовать мобильные устройства для реализации нейронных сетей

Нейронные сети обычно реализуются с использованием графических процессоров (GPU), специальных графических чипов, которые можно найти во всех вычислительных устройствах с экранами. Мобильный GPU, используемый в мобильных телефонах, может иметь почти 200 ядер, или устройств обработки данных, что делает его подходящим для имитации сетевых распределенных процессоров.

На Международной конференции по вопросам монолитных интегральных схем в Сан-Франциско (31 января — 4 февраля 2016) исследователи MIT (Massachusetts Institute of Technology) представили новый чип, разработанный специально для реализации нейронных сетей. 
Нейронные сети широко изучались в ранние годы исследования искусственного интеллекта, но к 1970-м годам интерес к ним пропал. Однако в последние десятилетия исследования нейронных сетей возобновились под названием «глубинное обучение» («deep learning»).

«Глубинное обучение полезно для приложений по распознаванию объектов, речи, лиц, — говорит Вивьен Цзе (Vivienne Sze), доцент кафедры электротехники в Массачусетском технологическом институте, руководитель группы по разработке нового чипа. — Сейчас сети достаточно сложные и в основном работают на мощных графических процессорах. Представьте, если перенести эти функциональные возможности в ваш мобильный телефон — вы сможете работать даже без подключения к Wi-Fi сети. Подобная локальная работа снимает вопрос конфиденциальности, а также позволяет избежать задержки передачи данных».
С мощными алгоритмами искусственного интеллекта подключенные к этой сети устройства при помощи датчиков могут принимать важные решения локально, доверяя только своим выводам. И, конечно, нейронные сети будут полезны для автономных роботов, питающихся от батареи.

Разделение труда

Нейронные сети обычно организуются в слои, каждый из которых содержит большое количество узлов обработки. Поступающие данные распределяются между узлами в нижнем слое. Каждый узел оперирует данными, которые он получает, и передает результаты на узлы в следующем слое, и так далее. Данные последнего слоя выдают решение некоторой расчетной задачи.

В сверточной нейронной сети множество узлов в каждом слое обрабатывают одни и те же данные разными способами. Таким образом, сети могут увеличиваться до огромных размеров. Хотя такие сети более производительны, чем традиционные алгоритмы, они требуют гораздо больших вычислительных ресурсов.

Отдельные манипуляции, выполняемые каждым узлом в нейронной сети, являются результатом тренировочного процесса, в котором сеть пытается найти корреляции между сырыми данными и маркировкой, наносимой составителями. С чипом, разработанным исследователями MIT, обученная сеть может быть просто экспортирована в мобильное устройство.

Действуй локально

Ключ к эффективности Eyeriss в минимизации частоты, которая необходима ядрам для обмена данными с удаленными банками памяти — операция, которая занимает много времени и энергии. В отличие от GPU, где множество ядер имеют один огромный банк памяти, каждый из ядер Eyeriss обладает собственной памятью. Кроме того, чип имеет схему, которая сжимает данные перед отправкой их отдельным ядрам.

Каждое ядро, если необходимо, может взаимодействовать напрямую с соседними ядрами, не проводя данные через основную память. Это имеет важное значение в сверточной нейронной сети, в которой много узлов обработки одних и тех же данных.

Еще один ключ эффективности чипа специального назначения — схема, которая распределяет задачи между ядрами. При использовании локальной памяти в ядре нужно хранить не только данные, обрабатываемые узлами, но и данные, описывающие сами узлы. Распределяющая схема перенастривается для различных типов сетей, автоматически направляя оба типа данных между ядрами таким образом, чтобы максимально увеличивать тот объем работы, который каждый из них может сделать.
«Эта работа очень важна, она показывает, как встроенные процессоры для глубинного обучения могут обеспечить оптимизацию мощности и производительности, что перенесет эти сложные вычисления из облака на мобильные устройства», — говорит Майк Полли (Mike Polley), вице-президент лаборатории Micro Plasma Ion компании Samsung.