Компания Toshiba представляет TDNN - новый высокоэффективный нейроморфный процессор, ориентированный на технологии глубинного машинного изучения - «Наука и технологии»

Компания Toshiba, продолжая развивать направление Интернета вещей (Internet of Things, IoT) и анализа больших объемов данных (Big Data analysis), представила всеобщему вниманию новый процессор Time Domain Neural Network (TDNN), который представляет собой нейроморфный полупроводниковый процессор со сверхнизким потреблением энергии. Процессор TDNN ориентирован на технологии глубинного машинного изучения и он содержит большое число специализированных вычислительных узлов, построенных, в отличие от традиционных цифровых процессоров, на базе оригинальной аналоговой технологии компании Toshiba.

Глубинное машинное изучение требует огромного количества вычислительных операций. Из-за этого для реализации подобных технологий используются мощные процессоры, обладающие большой мощностью и потребляющие значительное количество энергии. Однако, для реализации глубинного изучения на уровне IoT-устройств требуются малопотребляющие чипы, которые способны выполнить большое количество необходимых операций при минимально возможном количестве потребляемой энергии.

В традиционной архитектуре фон Неймана, на базе которой построено большинство современных компьютеров, достаточно большое количество энергии расходуется на передачу данных от устройств хранения данных до процессора, который выполняет обработку этих данных. Одним из методов уменьшения количества операций пересылки данных является то, что каждая инструкция работает с данными, расположенными рядом с ячейкой, в которой хранились данные, использованные предыдущей инструкцией.

У архитектуры, реализованной природой в виде мозга высокоразвитых живых существ, имеются все особенности, необходимые для реализации максимально эффективной обработки больших объемов информации. В качестве параметра, определяющего первоочередность обработки тех или иных данных, выступает сила сцепления между нейронами, которая реализуется в виде синапсов, нейронных связей. Это позволяет синапсу также принимать участие в обработке сигналов, а такая архитектура называется полностью развернутой в пространстве архитектурой (fully spatially unrolled architecture). Однако, воспроизведение такой архитектуры на чипе традиционными методами практически невозможно, так как это требует наличия огромного количества арифметических и логических блоков.

Создавая процессор TDNN, специалисты компании Toshiba решили вышеуказанную проблему путем смешивания функций аналоговых и цифровых цепей, создав так называемый метод смешанных вычислений (time-domain analog and digital mixed signal processing, TDAMS). Этот метод был разработан еще в 2013 году и он позволяет максимально миниатюризировать каждый из вычислительных блоков. Это достигается за счет выполнения арифметических операций над данными, которые проходят через логический или арифметический элемент в виде аналогового сигнала. И это позволяет создать вычислительный узел для глубинного машинного изучения, состоящий всего из трех логических элементов и 1-битной ячейки памяти.

Созданный специалистами компании Toshiba экспериментальный чип был запрограммирован на задачу распознавания рукописного текста. И на этой задаче он продемонстрировал уровень потребления энергии в 20.6 фДж на одну операцию, что приблизительно на 10-20 процентов ниже, чем потребление других аналогичных решений, созданных ранее.

А в самом скором времени компания Toshiba планирует создать новый TDNN-процессор, который будет построен не на базе обычной статической памяти SRAM, а на базе резистивной памяти ReRAM (resistive random access memory). Это, в свою очередь, позволит одновременно увеличить производительность процессора и снизить количество потребляемой им энергии.