本文首發(fā)自 HyperAI 超神經(jīng)微信公眾平臺~

6 月 17 日，由 MLC.AI 及?HyperAI 超神經(jīng)主辦、 OpenBayes 貝式計(jì)算協(xié)辦的 2023 Meet TVM 第二站線下聚會圓滿落幕。

我們很榮幸邀請到了來自上海交通大學(xué)、 ARM China 、地平線以及蔚來汽車的 7 位技術(shù)專家，結(jié)合 AI 編譯器在自身業(yè)務(wù)場景中的應(yīng)用案例，為現(xiàn)場的朋友們帶來了精彩的分享。

除北京本地的朋友外，還有多位來自天津、南京、杭州、上海等地的朋友加入，大家?guī)е陨順I(yè)務(wù)的疑問和挑戰(zhàn)，在聆聽技術(shù)分享之余，與同行進(jìn)行了積極的交流和研討。

以下是活動內(nèi)容簡介以及現(xiàn)場的視頻回顧。

關(guān)注微信公眾號「HyperAI 超神經(jīng)」，后臺回復(fù)關(guān)鍵字?TVM 北京，獲取嘉賓完整 PPT 。

分享主題：利用 MLC-LLM 把語言模型部署到任意設(shè)備

內(nèi)容簡介：生成人工智能和大型語言模型 (LLM) 領(lǐng)域取得了重大進(jìn)展，它們具有卓越的能力和從根本上改變許多領(lǐng)域的潛力。目前，這些模型中的大多數(shù)都需要強(qiáng)大的算力和內(nèi)存要求，無法部署在個(gè)人 PC 、手機(jī)以及更小的端側(cè)設(shè)備。 MLC-LLM 通過編譯技術(shù)，優(yōu)化了運(yùn)行速度和內(nèi)存需求，使得端側(cè)部署 LLMs 成為可能，為語言模型后續(xù)的發(fā)展提供了新的基礎(chǔ)設(shè)施。

現(xiàn)場視頻：

https://www.bilibili.com/video/BV1rm4y1Y7Si/?spm_id_from=333.999.0.0

分享主題：TVM at ARM?China

內(nèi)容簡介：隨著 AI 應(yīng)用的蓬勃發(fā)展，各種 NPU 芯片被應(yīng)用在邊緣端設(shè)備上加速 AI 應(yīng)用，如何快速適配各機(jī)器學(xué)習(xí)框架及操作系統(tǒng)成為了難題。通過自身工具鏈與 TVM 的整合，ARM China 實(shí)現(xiàn)了圖拆分, 自動異構(gòu)執(zhí)行等多個(gè)實(shí)用功能，幫助客戶快速部署 AI 應(yīng)用到 ARM China Zhouyi NPU 芯片上。

現(xiàn)場視頻：

https://www.bilibili.com/video/BV1GW4y1X7tL/?spm_id_from=333.337.search-card.all.click

分享主題：AI 異構(gòu)編程及編譯實(shí)踐

內(nèi)容簡介：AI 芯片在朝著緊耦合異構(gòu)的方向不斷演進(jìn)，芯片的可編程性和性能優(yōu)化是業(yè)界一直在嘗試解決的關(guān)鍵問題。本次分享主要針對 AI 編譯優(yōu)化、可編程性等方面介紹地平線的一些實(shí)踐，并針對一些關(guān)鍵問題進(jìn)行深入討論。

現(xiàn)場視頻：

https://www.bilibili.com/video/BV1js4y117NT/?spm_id_from=333.337.search-card.all.click

分享主題：TVM?at NIO?

內(nèi)容簡介：自動駕駛領(lǐng)域是一個(gè)挑戰(zhàn)與機(jī)遇并存的領(lǐng)域，隨著產(chǎn)品的迭代和用戶對駕駛體驗(yàn)越來越高的要求，常見的 AI 引擎無法高效安全的支撐起復(fù)雜的產(chǎn)品生產(chǎn)線。我們基于 TVM 開發(fā)了 NIO 自研的 AI 編譯器，解決了自動駕駛領(lǐng)域中一些常見的問題，并形成了系統(tǒng)化的解決方案和技術(shù)架構(gòu)。

來自蔚來汽車的孟通、陳曦（知乎 aaronxic) 、王璐璐 3 位工程師，對其中涉及到的技術(shù)和架構(gòu)進(jìn)行細(xì)節(jié)上的說明。

現(xiàn)場視頻：

https://www.bilibili.com/video/BV1fV4y117g7/?spm_id_from=333.337.search-card.all.click

分享主題：動態(tài)神經(jīng)網(wǎng)絡(luò)編譯優(yōu)化

內(nèi)容簡介：? 動態(tài)神經(jīng)網(wǎng)絡(luò)與靜態(tài)神經(jīng)網(wǎng)絡(luò)相比在準(zhǔn)確性、計(jì)算效率和適應(yīng)性方面顯示出重要的優(yōu)勢。然而，現(xiàn)有的深度學(xué)習(xí)框架和編譯器主要集中于優(yōu)化具有確定執(zhí)行的靜態(tài)網(wǎng)絡(luò)，錯(cuò)過了動態(tài)網(wǎng)絡(luò)中的優(yōu)化機(jī)會。優(yōu)化動態(tài)網(wǎng)絡(luò)的關(guān)鍵是追蹤其中的數(shù)據(jù)流動。此次分享詳細(xì)介紹了我們在動態(tài)神經(jīng)網(wǎng)絡(luò)編譯方面的工作。

現(xiàn)場視頻：

https://www.bilibili.com/video/BV1Mz4y1v7se/?spm_id_from=333.337.search-card.all.click

繼 3 月上海站及 6 月北京站后，我們很開心能在不同的城市匯聚起關(guān)注 AI 編譯器的工程師，為大家提供一個(gè)同行交流、互通有無的平臺，本年度的第 3 場線下 Meetup，我們計(jì)劃于 9 月在深圳舉辦，屆時(shí)歡迎各位企業(yè)及社區(qū)伙伴參與共創(chuàng)，不斷壯大 TVM 中文社區(qū)的影響力！

此外，我們也在積極招募 TVM 中文社區(qū) contributor，如果你想要成為我們的一員，不要猶豫請隨時(shí)添加微信 antonia0912，期待你的熱情加入！

目前我們在招募：

* TVM 中文文檔翻譯志愿者，確保中文文檔與英文文檔保持同步，為更多希望學(xué)習(xí)和了解 TVM 的工程師，提供基礎(chǔ)設(shè)施（訪問官網(wǎng)：tvm.hyper.ai）！

* 活動志愿者，承擔(dān)各地的活動組織、策劃及執(zhí)行工作，在全國多個(gè)互聯(lián)網(wǎng)中心建立我們的根據(jù)地。

* 答疑志愿者，熟悉 TVM 并愿意為社群中遇到問題的朋友貢獻(xiàn) insights 和 idea，幫大家解決技術(shù)問題。

2023 更多城市持續(xù)解鎖中，加入我們共同創(chuàng)造國內(nèi)最活躍的 AI 編譯器社區(qū)！

最后來一張現(xiàn)場大合影 ??

作為本次活動的主辦方，MLC.AI 社區(qū) (https://mlc.ai/)? 成立于 2022 年 6 月，并由 Apache TVM 主要發(fā)明者、機(jī)器學(xué)習(xí)領(lǐng)域著名的青年學(xué)者陳天奇，帶領(lǐng)團(tuán)隊(duì)上線了 MLC 線上課程，系統(tǒng)介紹了機(jī)器學(xué)習(xí)編譯的關(guān)鍵元素以及核心概念。

2022 年 11 月，在 MLC.AI 社區(qū)志愿者的共同努力下，首個(gè)完整的 TVM 中文文檔上線，并成功托管至 HyperAI 超神經(jīng)官網(wǎng)，進(jìn)一步為對機(jī)器學(xué)習(xí)編譯感興趣的國內(nèi)開發(fā)者，提供了接觸并學(xué)習(xí)一門新技術(shù)的基礎(chǔ)設(shè)施——文檔。

2023 年，社區(qū)將在全國多所城市上線「2023 Meet TVM」系列活動，歡迎企業(yè)及社區(qū)伙伴參與共創(chuàng)。

MLC 線上課程：https://mlc.ai/

TVM 中文文檔：https://tvm.hyper.ai/

HyperAI 超神經(jīng)國內(nèi)領(lǐng)先的人工智能及高性能計(jì)算社區(qū)，致力于為廣大國內(nèi)開發(fā)者提供數(shù)據(jù)科學(xué)領(lǐng)域的優(yōu)質(zhì)公共資源，截至目前已為 1200+ 公開數(shù)據(jù)集提供國內(nèi)下載節(jié)點(diǎn)，支持 300+ 人工智能及高性能計(jì)算相關(guān)的詞條查詢，托管了完整的 TVM 中文文檔，并即將上線多個(gè)基礎(chǔ)及流行教程。

訪問官網(wǎng)：https://orion.hyper.ai/

OpenBayes 貝式計(jì)算是國內(nèi)領(lǐng)先的高性能計(jì)算服務(wù)提供商，通過為新一代異構(gòu)芯片嫁接經(jīng)典軟件生態(tài)及機(jī)器學(xué)習(xí)模型，進(jìn)而為工業(yè)企業(yè)及高?？蒲刑峁└涌焖?、易用的數(shù)據(jù)科學(xué)計(jì)算產(chǎn)品，其產(chǎn)品已被數(shù)十家大型工業(yè)場景或頭部科研院所所采用。

訪問官網(wǎng)：https://openbayes.com/

車庫咖啡是一個(gè)匯聚創(chuàng)業(yè)者的平臺，以咖啡廳為依托，為初創(chuàng)企業(yè)提供一站式投融資綜合解決方案，幫助項(xiàng)目方迅速融到資金，推動快速發(fā)展，同時(shí)提供創(chuàng)業(yè)輔導(dǎo)、資源對接、宣傳報(bào)道等優(yōu)質(zhì)增值服務(wù), 并幫助投資人快速發(fā)現(xiàn)好項(xiàng)目，為其領(lǐng)投、跟投、資源輸出、經(jīng)驗(yàn)輸出等提供依據(jù)，推動多層次的投資人群體協(xié)作發(fā)展。

本文首發(fā)自 HyperAI 超神經(jīng)微信公眾平臺~