6月13日,第三屆軟件創(chuàng)新發(fā)展大會(huì)在武漢召開,百度集團(tuán)副總裁、深度學(xué)習(xí)技術(shù)及應(yīng)用國家工程研究中心副主任吳甜分享了大模型時(shí)代給深度學(xué)習(xí)平臺(tái)等基礎(chǔ)軟件帶來的變化。她表示,大模型效果不斷提升的背后是深度學(xué)習(xí)平臺(tái)等基礎(chǔ)軟件的支持,飛槳等深度學(xué)習(xí)平臺(tái)的發(fā)展將為人工智能下一步發(fā)展提供長足的支持力。
百度集團(tuán)副總裁、深度學(xué)習(xí)技術(shù)及應(yīng)用國家工程研究中心副主任 吳甜
在主論壇環(huán)節(jié),吳甜分享道,大模型的爆發(fā)將人工智能推向一個(gè)新的高潮。大模型具有效果好、泛化性強(qiáng)、研發(fā)流程標(biāo)準(zhǔn)化等特點(diǎn),正在引領(lǐng)人工智能的發(fā)展。研發(fā)大模型,對深度學(xué)習(xí)平臺(tái)等基礎(chǔ)軟件提出了新的挑戰(zhàn)。
大模型的研發(fā)需要深度學(xué)習(xí)平臺(tái)的支持,面對大模型的模型結(jié)構(gòu)、計(jì)算規(guī)模和學(xué)習(xí)機(jī)制等特點(diǎn),支撐大模型研發(fā)的深度學(xué)習(xí)平臺(tái)需要具備大規(guī)模并行計(jì)算、高性能推理部署、全流程工程化等三方面能力。以百度飛槳為例,飛槳作為百度自研的產(chǎn)業(yè)級(jí)深度學(xué)習(xí)開源開放平臺(tái),從核心框架、基礎(chǔ)模型庫,到端到端開發(fā)套件、工具與組件,以及星河社區(qū)等,全方面支持了文心大模型的演進(jìn)過程。
2018年底,百度就開展了大模型技術(shù)研發(fā),2019年3月正式發(fā)布文心大模型1.0,今年4月發(fā)布了最新的文心 4.5 Turbo和文心X1 Turbo。文心大模型的能力拓展和效率提升,得益于飛槳和文心的聯(lián)合優(yōu)化,包括框架模型的聯(lián)合優(yōu)化,也包括框架算力的聯(lián)合優(yōu)化。通過訓(xùn)練和推理的技術(shù)創(chuàng)新,文心4.5 Turbo訓(xùn)練吞吐達(dá)到文心4.5的5.4倍,推理吞吐達(dá)到8倍。
今年4月,飛槳框架迎來重大更新,發(fā)布了飛槳框架3.0正式版。飛槳框架3.0面向大模型和異構(gòu)多芯設(shè)計(jì),注重大模型訓(xùn)推性能、開發(fā)調(diào)優(yōu)過程和部署環(huán)境,具備動(dòng)靜統(tǒng)一自動(dòng)并行、大模型訓(xùn)推一體、科學(xué)計(jì)算高階微分、神經(jīng)網(wǎng)絡(luò)編譯器、異構(gòu)多芯適配五大新特性,為開發(fā)者打造了一站式、高性能的深度學(xué)習(xí)開發(fā)體驗(yàn)。
吳甜表示,基礎(chǔ)軟件平臺(tái)需要大量的開發(fā)者共建,飛槳正持續(xù)賦能開發(fā)者,飛槳AI Studio星河社區(qū)已上線700萬個(gè)實(shí)踐項(xiàng)目,600多門公開課以及400多場AI競賽。
公開資料顯示,基于飛槳深度學(xué)習(xí)平臺(tái)和文心大模型,百度在上海、廣州、南京、武漢、廈門、寧波、南昌、無錫等多地落地產(chǎn)業(yè)賦能中心、數(shù)據(jù)生態(tài)中心和教育創(chuàng)新中心,加快區(qū)域產(chǎn)業(yè)智能化升級(jí)。在武漢,百度飛槳已重點(diǎn)賦能229家企業(yè),拓展29家飛槳技術(shù)合作伙伴,培育出23個(gè)基于文心大模型/飛槳的生態(tài)AI產(chǎn)品。
例如,在能源管理方向,易睿德(武漢)物聯(lián)網(wǎng)有限公司基于飛槳實(shí)現(xiàn)的負(fù)荷預(yù)測模型,能夠制定更為科學(xué)合理的能源調(diào)配策略,電力負(fù)荷預(yù)測準(zhǔn)確率從50%提升至86%,光伏發(fā)電預(yù)測準(zhǔn)確率達(dá)到83%,儲(chǔ)能調(diào)度效率提升40%;在低空經(jīng)濟(jì)領(lǐng)域,普宙科技基于百度飛槳打造低空視覺AI中臺(tái),構(gòu)建了覆蓋城市管理、交通監(jiān)測、森林防火、水域治理等場景的“無人值守”監(jiān)管體系,已為全球300多個(gè)城市服務(wù),實(shí)現(xiàn)無人機(jī)車流量統(tǒng)計(jì)準(zhǔn)確率96%,煙火識(shí)別準(zhǔn)確率95%,森林、公園等場景巡檢效率提升200%。
吳甜最后表示,飛槳文心開發(fā)者數(shù)量已超過2185萬,服務(wù)超過67萬家企業(yè),創(chuàng)建的模型達(dá)到110萬。