Google представила мікропроцесор для алгоритмів машинного навчання

Компанія Google представила співпроцесор Edge TPU, призначений для апаратного прискорення роботи натренованих нейромережевих моделей. Інженери компанії також розробили два готових пристрої на базі процесора - одноплатний комп'ютер, а також USB-модуль для підключення до інших комп'ютерів.

Оскільки навчання нейросетевих алгоритмів вимагає великих обчислювальних ресурсів, часто цей етап проводять на хмарних або локальних серверах, які дозволяють швидко тренувати алгоритм на великому обсязі даних. Але навіть застосування вже навченої нейросетевої моделі на пристроях користувачів може становити собою проблему. З одного боку, пристрої не завжди підключені до інтернету і можуть передавати обробку даних на хмарні сервери, а з іншого, багато поширених комп'ютерів не володіють достатньою потужністю для того, щоб проводити обробку даних нейросетевими алгоритмами в реальному часі. Через це багато технологічних компаній почали розробляти спеціалізовані обчислювальні пристрої для апаратного прискорення роботи нейросетевих алгоритмів.

Google також займається розробкою подібних пристроїв. На конференції I/O в 2016 році компанія представила перше покоління свого тензорного процесора (TPU), а на двох наступних конференціях представляла його нові версії. Google використовує їх тільки в своєму хмарному сервісі, призначеному для навчання і виконання нейромережевих алгоритмів. Тепер компанія представила окремий співпроцесор Edge TPU для апаратного прискорення вже навчених алгоритмів в кінцевих пристроях. Він є інтегральною схемою спеціального призначення (ASIC), оптимізованою для ефективного виконання нейромережевих алгоритмів.

Компанія не розкриває технічних подробиць співпроцесора, але як приклад розповіла, що він зможе в реальному часі проводити обробку відео високої роздільної здатності з частотою 30 кадрів на секунду, використовуючи для цього кілька часто застосовуваних нейросетевих моделей. В якості основного призначення співпроцесора Google бачить розумні датчики, які зможуть не тільки збирати дані для передачі їх більш потужному пристрою, але і самостійно проводити первинну обробку і приймати рішення.

Google представила не тільки сам чіп, але і два готових пристрої на його основі. Одне з них являє собою одноплатний комп'ютер з розширенням, в якому встановлені процесор NXP i.MX 8M, співпроцесор Edge TPU та інші компоненти. Він оснащений безліччю портів для підключення додаткових пристроїв і призначений для застосування в якості повноцінного комп'ютера для роботи різних апаратів і прототипів. Крім того, Google представила пристрій, який також містить в собі Edge TPU, але виступає в якості модуля для апаратного прискорення, що підключається до інших до комп'ютерів через USB. Наприклад, на його корпусі є отвори, сумісні з монтажними отворами одноплатного комп'ютера Raspberry Pi Zero.

Обидва пристрої призначені для роботи з фреймворком машинного навчання TensorFlow Lite, розробленим Google для виконання нейросетевих алгоритмів на мобільних пристроях. Також вони підтримують операційні системи Linux і Android Things. Пристрої розроблені в рамках проекту AIY, орієнтованого на аматорські проекти з використанням машинного навчання. Раніше компанія представила два перших пристрої в цьому проекті - картонні набори для розпізнавання голосових команд і розпізнавання образів за допомогою камери.