百度吳甜：飛槳深度學習平臺為人工智能發展提供長足支持力

6月13日，第三屆軟件創新發展大會在武漢召開，百度集團副總裁、深度學習技術及應用國家工程研究中心副主任吳甜分享了大模型時代給深度學習平臺等基礎軟件帶來的變化。她表示，大模型效果不斷提升的背后是深度學習平臺等基礎軟件的支持，飛槳等深度學習平臺的發展將為人工智能下一步發展提供長足的支持力。

百度集團副總裁、深度學習技術及應用國家工程研究中心副主任 吳甜

在主論壇環節，吳甜分享道，大模型的爆發將人工智能推向一個新的高潮。大模型具有效果好、泛化性強、研發流程標準化等特點，正在引領人工智能的發展。研發大模型，對深度學習平臺等基礎軟件提出了新的挑戰。

大模型的研發需要深度學習平臺的支持，面對大模型的模型結構、計算規模和學習機制等特點，支撐大模型研發的深度學習平臺需要具備大規模并行計算、高性能推理部署、全流程工程化等三方面能力。以百度飛槳為例，飛槳作為百度自研的產業級深度學習開源開放平臺，從核心框架、基礎模型庫，到端到端開發套件、工具與組件，以及星河社區等，全方面支持了文心大模型的演進過程。

2018年底，百度就開展了大模型技術研發，2019年3月正式發布文心大模型1.0，今年4月發布了最新的文心 4.5 Turbo和文心X1 Turbo。文心大模型的能力拓展和效率提升，得益于飛槳和文心的聯合優化，包括框架模型的聯合優化，也包括框架算力的聯合優化。通過訓練和推理的技術創新，文心4.5 Turbo訓練吞吐達到文心4.5的5.4倍，推理吞吐達到8倍。

今年4月，飛槳框架迎來重大更新，發布了飛槳框架3.0正式版。飛槳框架3.0面向大模型和異構多芯設計，注重大模型訓推性能、開發調優過程和部署環境，具備動靜統一自動并行、大模型訓推一體、科學計算高階微分、神經網絡編譯器、異構多芯適配五大新特性，為開發者打造了一站式、高性能的深度學習開發體驗。

吳甜表示，基礎軟件平臺需要大量的開發者共建，飛槳正持續賦能開發者，飛槳AI Studio星河社區已上線700萬個實踐項目，600多門公開課以及400多場AI競賽。

公開資料顯示，基于飛槳深度學習平臺和文心大模型，百度在上海、廣州、南京、武漢、廈門、寧波、南昌、無錫等多地落地產業賦能中心、數據生態中心和教育創新中心，加快區域產業智能化升級。在武漢，百度飛槳已重點賦能229家企業，拓展29家飛槳技術合作伙伴，培育出23個基于文心大模型/飛槳的生態AI產品。

例如，在能源管理方向，易睿德（武漢）物聯網有限公司基于飛槳實現的負荷預測模型，能夠制定更為科學合理的能源調配策略，電力負荷預測準確率從50%提升至86%，光伏發電預測準確率達到83%，儲能調度效率提升40%；在低空經濟領域，普宙科技基于百度飛槳打造低空視覺AI中臺，構建了覆蓋城市管理、交通監測、森林防火、水域治理等場景的“無人值守”監管體系，已為全球300多個城市服務，實現無人機車流量統計準確率96%，煙火識別準確率95%，森林、公園等場景巡檢效率提升200%。

吳甜最后表示，飛槳文心開發者數量已超過2185萬，服務超過67萬家企業，創建的模型達到110萬。