百度吳甜：飛槳深度學(xué)習(xí)平臺(tái)為人工智能發(fā)展提供長足支持力

6月13日，第三屆軟件創(chuàng)新發(fā)展大會(huì)在武漢召開，百度集團(tuán)副總裁、深度學(xué)習(xí)技術(shù)及應(yīng)用國家工程研究中心副主任吳甜分享了大模型時(shí)代給深度學(xué)習(xí)平臺(tái)等基礎(chǔ)軟件帶來的變化。她表示，大模型效果不斷提升的背后是深度學(xué)習(xí)平臺(tái)等基礎(chǔ)軟件的支持，飛槳等深度學(xué)習(xí)平臺(tái)的發(fā)展將為人工智能下一步發(fā)展提供長足的支持力。

百度集團(tuán)副總裁、深度學(xué)習(xí)技術(shù)及應(yīng)用國家工程研究中心副主任 吳甜

在主論壇環(huán)節(jié)，吳甜分享道，大模型的爆發(fā)將人工智能推向一個(gè)新的高潮。大模型具有效果好、泛化性強(qiáng)、研發(fā)流程標(biāo)準(zhǔn)化等特點(diǎn)，正在引領(lǐng)人工智能的發(fā)展。研發(fā)大模型，對深度學(xué)習(xí)平臺(tái)等基礎(chǔ)軟件提出了新的挑戰(zhàn)。

大模型的研發(fā)需要深度學(xué)習(xí)平臺(tái)的支持，面對大模型的模型結(jié)構(gòu)、計(jì)算規(guī)模和學(xué)習(xí)機(jī)制等特點(diǎn)，支撐大模型研發(fā)的深度學(xué)習(xí)平臺(tái)需要具備大規(guī)模并行計(jì)算、高性能推理部署、全流程工程化等三方面能力。以百度飛槳為例，飛槳作為百度自研的產(chǎn)業(yè)級(jí)深度學(xué)習(xí)開源開放平臺(tái)，從核心框架、基礎(chǔ)模型庫，到端到端開發(fā)套件、工具與組件，以及星河社區(qū)等，全方面支持了文心大模型的演進(jìn)過程。

2018年底，百度就開展了大模型技術(shù)研發(fā)，2019年3月正式發(fā)布文心大模型1.0，今年4月發(fā)布了最新的文心 4.5 Turbo和文心X1 Turbo。文心大模型的能力拓展和效率提升，得益于飛槳和文心的聯(lián)合優(yōu)化，包括框架模型的聯(lián)合優(yōu)化，也包括框架算力的聯(lián)合優(yōu)化。通過訓(xùn)練和推理的技術(shù)創(chuàng)新，文心4.5 Turbo訓(xùn)練吞吐達(dá)到文心4.5的5.4倍，推理吞吐達(dá)到8倍。

今年4月，飛槳框架迎來重大更新，發(fā)布了飛槳框架3.0正式版。飛槳框架3.0面向大模型和異構(gòu)多芯設(shè)計(jì)，注重大模型訓(xùn)推性能、開發(fā)調(diào)優(yōu)過程和部署環(huán)境，具備動(dòng)靜統(tǒng)一自動(dòng)并行、大模型訓(xùn)推一體、科學(xué)計(jì)算高階微分、神經(jīng)網(wǎng)絡(luò)編譯器、異構(gòu)多芯適配五大新特性，為開發(fā)者打造了一站式、高性能的深度學(xué)習(xí)開發(fā)體驗(yàn)。

吳甜表示，基礎(chǔ)軟件平臺(tái)需要大量的開發(fā)者共建，飛槳正持續(xù)賦能開發(fā)者，飛槳AI Studio星河社區(qū)已上線700萬個(gè)實(shí)踐項(xiàng)目，600多門公開課以及400多場AI競賽。

公開資料顯示，基于飛槳深度學(xué)習(xí)平臺(tái)和文心大模型，百度在上海、廣州、南京、武漢、廈門、寧波、南昌、無錫等多地落地產(chǎn)業(yè)賦能中心、數(shù)據(jù)生態(tài)中心和教育創(chuàng)新中心，加快區(qū)域產(chǎn)業(yè)智能化升級(jí)。在武漢，百度飛槳已重點(diǎn)賦能229家企業(yè)，拓展29家飛槳技術(shù)合作伙伴，培育出23個(gè)基于文心大模型/飛槳的生態(tài)AI產(chǎn)品。

例如，在能源管理方向，易睿德（武漢）物聯(lián)網(wǎng)有限公司基于飛槳實(shí)現(xiàn)的負(fù)荷預(yù)測模型，能夠制定更為科學(xué)合理的能源調(diào)配策略，電力負(fù)荷預(yù)測準(zhǔn)確率從50%提升至86%，光伏發(fā)電預(yù)測準(zhǔn)確率達(dá)到83%，儲(chǔ)能調(diào)度效率提升40%；在低空經(jīng)濟(jì)領(lǐng)域，普宙科技基于百度飛槳打造低空視覺AI中臺(tái)，構(gòu)建了覆蓋城市管理、交通監(jiān)測、森林防火、水域治理等場景的“無人值守”監(jiān)管體系，已為全球300多個(gè)城市服務(wù)，實(shí)現(xiàn)無人機(jī)車流量統(tǒng)計(jì)準(zhǔn)確率96%，煙火識(shí)別準(zhǔn)確率95%，森林、公園等場景巡檢效率提升200%。

吳甜最后表示，飛槳文心開發(fā)者數(shù)量已超過2185萬，服務(wù)超過67萬家企業(yè)，創(chuàng)建的模型達(dá)到110萬。