MacBook Pro з M1 протестували зі штучним інтелектом - це просто гармата

Apple всерйоз вирішила зайнятися штучним інтелектом. Так, нещодавно компанія запустила в експлуатацію своє відгалуження TensorFlow, бібліотеки Google для побудови і тренування нейронних мереж. А потім навчила ML Compute, новий фреймворк (вид бібліотеки), що з'явився в macOS Big Sur влітку цього року, задіяти його. Новини на зразок цієї зазвичай цікаві лише фахівцям, про них зазвичай не пишуть у ЗМІ, але цього разу сталася сенсація. Продуктивність прискореної TensorFlow зросла навіть на Intel Mac'ax, причому в рази. Але цікавіше навіть не це, а те, що ручні і домашні Мас'і з M1 витворяють з TensorFlow. Не перегріваючись і не знижуючи продуктивності.

Перебільшую? Програмістам, які всерйоз займаються системами машинного навчання, потрібні комп'ютери з несередньою обчислювальною міццю. Типова робоча станція початкового рівня це HP Z6 G4 з 28-ядерним Intel Xeon Platinum, 48 ГБ оперативної пам'яті і графічним процесором NVIDIA GeForce RTX 2020 Ti. Вселяє? Технічний менеджер проекту Google TPU Панкадж Канвар стверджує, що Мас'і з M1 всередині справляються з цією роллю нітрохи не гірше.

У Google пробували MacBook Pro і Mac mini в злегка просунутій конфігурації: з 16 ГБ оперативної пам'яті і 512 ГБ флеш-пам'яті. Головним героєм випробування були не M1 Мас'і, а яблучний «форк» TensorFlow, який порівнювали з TensorFlow 2.3 на використовуваних для цього Mac Pro з Intel Xeon. А цікаво було б подивитися на MacBook Air в цій ролі, чи не так?

Тести Mac Pro 2019

У червні-липні цього року, у вузьких колах присвячених у таїнстві машинного навчання та штучного інтелекту, ML Compute, новий фреймворк, якому на WWDC 2020 приділили кілька хвилин у двох сесіях (про комп'ютерний зір і Metal), зустріли з деякою прохолодою. Фахівці не виявили в ньому чогось «такого собі», і будучи скептиками за своєю природою, написали про його недоліки, запропонували Swift Playground для бажаючих спробувати новинку. Загалом, обійшлися без компліментів і чудових ступенів. «Таке» позначилося 18 листопада, коли ML Compute несподівано засяяв як наднова зірка.

Mac Pro 2019 року, 16-ядерний Intel Xeon W, 32 ГБ оперативної пам'яті, AMD Radeon Pro Vega II Duo з 64 ГБ HBM2 (дві графічні карти з 32 ГБ HBM2 на кожній з них) і з SSD ємністю в 256 ГБ. Космічно сірим кольором показано час, який потрібен Mac Pro для виконання п'яти непростих і трудомістких тестів в TensorFlow 2.3, а жовтим - в TensorFlow 2.4:

Не дивно, що в Apple цим результатам зраділи. Невже такого зростання можна домогтися за допомогою оптимізації? Не вірите - і правильно робите. У TensorFlow 2.3 для машинного навчання використовувався тільки центральний процесор. У 2.4 його доповнив і посилив графічний процесор. Apple використовує графічні процесори не так, як все, можливо ефективніше за всіх - але для того, щоб відчути яблучну міць у справжнику Apple, довелося власноруч адаптувати TensorFlow до Metal.

Тести 13-дюймового MacBook Pro з M1

Учасники наступної гонки:

• 13-дюймовий MacBook Pro з M1, 16 ГБ оперативної пам'яті і 256 ГБ SSD;
• 13-дюймовий MacBook Pro (Intel) з 4-ядерним Core i7 і тактовою частотою в 1,7 ГГц, з вбудованою графікою Iris Plus Graphics 645, 16 ГБ оперативної пам'яті і 2 ТБ SSD.

Сірим показані результати випробувань MacBook Pro з Intel всередині в TensorFlow 2.3, а жовтим - результати того ж ноутбука в TensorFlow 2.4. Більше Metal'a і результат гарантований. MacBook Pro з M1 не працює з TensorFlow 2.3, тому йому дали проявити себе виключно в TensorFlow 2.4, стовпчики з його результатами помаранчеві.

Перевершити Mac Pro ноутбуку навіть на M1 не вдалося ні в одному з тестів, великий і потужний Mac Pro відстояв честь потужних робочих станцій - тим не менш, результати маленького Mac'a більш ніж «залікові», він годиться на роль інструменту для побудови і тренування нейронних мереж.

MacBook Pro з 16 ГБ оперативної пам'яті і 256 ГБ SSD коштує 149 990 рублів. Mac Pro 2019 року з 16-ядерним Intel Xeon W, 32 ГБ оперативної пам'яті, з AMD Radeon Pro Vega II Duo з сумарною відеопам'яттю в 64 ГБ HBM2 (дві графічних карти з 32 ГБ HBM2 на кожній) і з SSD ємністю в 256 ГБ коштує майже в десять разів більше: 1 341 990 рублів. Чи це не диво?