Оригинальная архитектура российского специального процессора оказалась в числе лучших в мире

Созданная в нашей стране архитектура для нового отечественного тензорного 28-нм микропроцессора (ускорителя расчета нейронных сетей) показала отличные характеристики на тестах международного консорциума MLPerf, представляющей объединение мировых лидеров индустрии в сфере искусственного интеллекта. Речь идет о проекте IVA TPU, первые образцы одноименных процессоров 2 видов с использованием данной архитектуры будут доступны в первой половине 2021 года. Что это за процессоры?

IVA TPU – оригинальная российская разработка, выполненная отечественной компанией IVA Technologies. Это специализированные устройства, необходимые для работы в нейронных сетях. Основными особенностями IVA TPU, по словам разработчиков, являются совместимость с готовым свободным программным обеспечением (TensorFlow), высокая производительность (более 20 TOPS) при малом энергопотреблении и значительно меньшем времени обработки, чем GPU. Основой новых процессоров является блок матричного умножения, который выполняет наиболее ресурсоемкие вычисления со скоростью десятки тысяч операций за такт.

Компания запускает в производство разработанные в 2018-2020 годах два вида микропроцессоров – для оконечных устройств (IVA E) и облачных сервисов (IVA H). На базе процессоров создаются несколько модулей, которые можно будет использовать в устройствах коммерческих заказчиков. Это позволит вывести на рынок первую отечественную конкурентную продукцию для ускоренного расчета нейронных сетей для совершенно разных производственных и сервисных компаний. Где она будет использована?

Список сфер применения включает в себя: системы распознавания образов; распознавание голоса и перевод в текстовую форму, детектор ключевых слов; прогнозирование по неструктурированным данным; управление беспилотниками (БПЛА) и роботизированной техникой; автоматические системы наведения. Также российская компания-разработчик планирует продавать вычислительные ресурсы для инференса нейронных сетей через облачный сервис.

Теперь о международной премьере IVA TPU. Тестирование российской архитектуры на площадке аттестации и тестирования оборудования в сфере машинного обучения и искусственного интеллекта MLPerf в группе Closed Division показало, что в нашей стране создана разработка уровня ведущих производителей планеты, которых до появления отечественной новинки было всего 4: Xilinx, Nvidia, ARM и Centaur. Теперь в их число вошла российская компания IVA Technologies, которой удалось показать результаты выше, чем у Xilinx.