計(jì)算-網(wǎng)絡(luò)-軟件-算法-生態(tài)的協(xié)同發(fā)展，2024 Meet AI Compiler 圓滿收官！

12 月 28 日，上海已經(jīng)進(jìn)入初冬，寒冷的天氣也抵擋不住大家的熱情，現(xiàn)場(chǎng)座無虛席，交流氛圍濃烈，從行業(yè)挑戰(zhàn)到技術(shù)創(chuàng)新，從應(yīng)用場(chǎng)景到落地成果，講師與觀眾圍繞 AI 編譯器展開了一場(chǎng)深刻的「華山論劍」。

關(guān)注微信公眾號(hào)「HyperAI超神經(jīng)」，后臺(tái)回復(fù)關(guān)鍵字「1228 AI 編譯器」，即可獲取嘉賓完整 PPT。

本次 Meetup 分為 2 個(gè)環(huán)節(jié)，在技術(shù)分享環(huán)節(jié)中，來自地平線、智源、字節(jié)跳動(dòng)、凌川科技的 4 位資深編譯器專家，為大家展示了各自團(tuán)隊(duì)的最新研究成果，同時(shí)還結(jié)合豐富的實(shí)際應(yīng)用案例，深入淺出地講解了這些成果在解決實(shí)際問題中的應(yīng)用過程和效果。
從編譯器架構(gòu)的創(chuàng)新設(shè)計(jì)，到特定場(chǎng)景下的性能優(yōu)化策略，再到與其他技術(shù)的融合應(yīng)用，講師們的分享涵蓋了編譯器領(lǐng)域的多個(gè)關(guān)鍵環(huán)節(jié)，為在場(chǎng)的參與者提供了深刻的行業(yè)觀察與寶貴的落地經(jīng)驗(yàn)。

在圓桌環(huán)節(jié)中，由上海交通大學(xué)博士、Apache TVM PMC 馮思遠(yuǎn)擔(dān)任主持人，與 4 位講師緊扣「計(jì)算-網(wǎng)絡(luò)-軟件-算法-生態(tài)的協(xié)同發(fā)展」這一核心主題，展開了全方位、多維度的觀點(diǎn)碰撞?，F(xiàn)場(chǎng)觀眾也積極參與互動(dòng)，發(fā)表自己的洞見，與講師交流想法。

活動(dòng)內(nèi)容回顧

以下為分享內(nèi)容簡(jiǎn)介以及現(xiàn)場(chǎng)的視頻回顧。

分享主題：Transformer 模型的編譯&部署優(yōu)化實(shí)踐

內(nèi)容簡(jiǎn)介：Transformer 模型近年來不僅在 LLM 領(lǐng)域取得了顯著的成果，也在計(jì)算機(jī)視覺領(lǐng)域得到了廣泛的應(yīng)用。在自動(dòng)駕駛場(chǎng)景中，Transformer 模型的編譯和部署優(yōu)化是一個(gè)復(fù)雜的過程，端到端模型、VLM 都對(duì)端側(cè)的編譯優(yōu)化和部署提出了非常大的挑戰(zhàn)。本次分享主要介紹地平線在這方面的一些實(shí)踐和經(jīng)驗(yàn)。

觀看本場(chǎng)分享，你將了解：

1. 視覺 Transformer 模型編譯優(yōu)化和部署面臨的挑戰(zhàn)

2. 地平線在 Transformer 模型編譯優(yōu)化上的探索和實(shí)踐

分享主題：FlagGems：研發(fā)進(jìn)展與生態(tài)應(yīng)用探索

內(nèi)容簡(jiǎn)介：自 2.0 版本發(fā)布以來，在智源團(tuán)隊(duì)、合作廠商及 Triton 中國(guó)社區(qū)的緊密協(xié)作下，F(xiàn)lagGems 在算子支持?jǐn)?shù)量、計(jì)算性能、代碼生成以及運(yùn)行時(shí)機(jī)制等方面取得了顯著的研發(fā)突破。同時(shí)，F(xiàn)lagGems 貫通領(lǐng)域上下游，在大模型訓(xùn)練與推理適配、多后端芯片集成等方面展開了創(chuàng)新探索，進(jìn)一步拓展了算子庫(kù)在多元生態(tài)中的應(yīng)用場(chǎng)景。

觀看本場(chǎng)分享，你將了解：

1. FlagGems 的最新研發(fā)成果和技術(shù)提升

2. 算子庫(kù)與大模型適配的創(chuàng)新實(shí)踐與經(jīng)驗(yàn)

3. 多后端芯片集成的技術(shù)方案與應(yīng)用效果

4. Triton 中國(guó)社區(qū)與多元生態(tài)建設(shè)進(jìn)展

分享主題：從計(jì)算-訪存-通信優(yōu)化看 AI 編譯器設(shè)計(jì)

內(nèi)容簡(jiǎn)介：面向 AI 芯片的編譯優(yōu)化需面臨 3 個(gè)角度的優(yōu)化挑戰(zhàn)：計(jì)算、訪存、通信。本報(bào)告將分享 3 個(gè)方面的 AI 編譯器設(shè)計(jì)與優(yōu)化經(jīng)驗(yàn)。計(jì)算角度，分享針對(duì)定制化加速單元的優(yōu)化；訪存角度，分享針對(duì) AI 芯片的訪存建模和優(yōu)化；通信角度，分享計(jì)算通信融合的經(jīng)驗(yàn)和進(jìn)展。

觀看本場(chǎng)分享，你將了解：

1. AI 編譯器優(yōu)化的全局視角

2. 了解充分發(fā)揮 AI 芯片算力的經(jīng)驗(yàn)技巧

3. 了解未來分布式 AI 編譯器發(fā)展方向

2025 Meet AI Compiler · 敬請(qǐng)期待

2023-2024 年，我們?cè)诒本⑸虾?、深圳成功舉辦了 6 場(chǎng)線下 Meetup，聚集了上千位資深從業(yè)者及愛好者，逐步建立了豐富的社區(qū)生態(tài)。2025 年，我們將繼續(xù)開拓 AI Compiler 城市地圖，誠(chéng)摯邀請(qǐng)各位企業(yè)及社區(qū)伙伴們以各種形式參與共創(chuàng)，無論是推薦講師還是提供場(chǎng)地、茶歇，我們都非常歡迎~

讓我們攜手創(chuàng)造國(guó)內(nèi)最活躍的 AI 編譯器社區(qū)！最后分享一張現(xiàn)場(chǎng)的大合影??

主辦方及合作伙伴
HyperAI超神經(jīng)是國(guó)內(nèi)領(lǐng)先的人工智能及高性能計(jì)算社區(qū)，旨在通過提供數(shù)據(jù)集加速下載、在線教程演示、論文深度解讀、頂會(huì)日歷集成等多種基礎(chǔ)設(shè)施，助力中國(guó)的數(shù)據(jù)科學(xué)與??智能?業(yè)的開發(fā)者、愛好者學(xué)習(xí)、理解、實(shí)踐，與社區(qū)?起構(gòu)建??智能的未來。目前超神經(jīng)官網(wǎng)已經(jīng)上線數(shù)千個(gè)經(jīng)典及優(yōu)質(zhì)公開數(shù)據(jù)集和教程，并運(yùn)營(yíng)國(guó)內(nèi)最活躍的 AI 編譯器社區(qū)。

OpenBayes貝式計(jì)算是國(guó)內(nèi)領(lǐng)先的高性能計(jì)算服務(wù)提供商，通過為新一代異構(gòu)芯片嫁接經(jīng)典軟件生態(tài)及機(jī)器學(xué)習(xí)模型，進(jìn)而為工業(yè)企業(yè)及高校科研提供更加快速、易用的數(shù)據(jù)科學(xué)計(jì)算產(chǎn)品，其產(chǎn)品已被數(shù)十家大型工業(yè)場(chǎng)景或頭部科研院所所采用。

MLC.AI 社區(qū)成立于 2022 年 6 月，并由 Apache TVM 主要發(fā)明者、機(jī)器學(xué)習(xí)領(lǐng)域著名的青年學(xué)者陳天奇，帶領(lǐng)團(tuán)隊(duì)上線了 MLC 線上課程，系統(tǒng)介紹了機(jī)器學(xué)習(xí)編譯的關(guān)鍵元素以及核心概念。

2022 年 11 月，在 MLC.AI 社區(qū)志愿者的共同努力下，首個(gè)完整的 TVM 中文文檔上線，并成功托管至 HyperAI超神經(jīng)官網(wǎng)，進(jìn)一步為對(duì)機(jī)器學(xué)習(xí)編譯感興趣的國(guó)內(nèi)開發(fā)者，提供了接觸并學(xué)習(xí)一門新技術(shù)的基礎(chǔ)設(shè)置——文檔。

上海五角場(chǎng)創(chuàng)新創(chuàng)業(yè)學(xué)院是楊浦區(qū)政府聯(lián)合著名高校及行業(yè)龍頭企業(yè)、創(chuàng)服機(jī)構(gòu)共同發(fā)起設(shè)立的非營(yíng)利性教育及服務(wù)組織。以「創(chuàng)造深度連接，讓創(chuàng)新創(chuàng)業(yè)更容易成功」為使命，連接創(chuàng)業(yè)者和賦能方、提高雙創(chuàng)要素資源的配置效率，促進(jìn)創(chuàng)造發(fā)生。

五角場(chǎng)創(chuàng)院 2022 年 11 月，正式啟用學(xué)院公共空間，將 800 平米的空間開放共享給雙創(chuàng)人群，并聯(lián)合港中大上海中心、瑞安集團(tuán)等伙伴共同發(fā)起雙創(chuàng)公益品牌「學(xué)院咖啡」，并邀請(qǐng)對(duì)雙創(chuàng)公益服務(wù)有共識(shí)的 KOL、企業(yè)和社會(huì)組織，成為「公益合伙人」，共同設(shè)計(jì)不同形式的創(chuàng)業(yè)者聚集方式，截止目前「學(xué)院咖啡」共舉辦 140+ 場(chǎng)不同形式的雙創(chuàng)主題活動(dòng)，匯聚 3000+ 位參與者。

活動(dòng)支持

獲取 PPT：關(guān)注微信公眾號(hào)「HyperAI超神經(jīng)」，后臺(tái)回復(fù)關(guān)鍵字「1228 AI 編譯器」，獲取嘉賓完整 PPT。