亞馬遜云科技宣布與Hugging Face進(jìn)一步合作,以加速對(duì)大語(yǔ)言模型和視覺(jué)模型的訓(xùn)練、精調(diào)和部署,促進(jìn)生成式AI應(yīng)用的創(chuàng)建。生成式AI應(yīng)用可以執(zhí)行各種任務(wù),包括文本摘要、問(wèn)題回答、代碼生成、圖像創(chuàng)建以及撰寫(xiě)論文和文章。
亞馬遜云科技在生成式AI創(chuàng)新方面擁有深厚歷史。例如,亞馬遜使用AI技術(shù)為Amazon Alexa用戶提供對(duì)話體驗(yàn),每周用戶互動(dòng)次數(shù)達(dá)到數(shù)十億次,同時(shí)也越來(lái)越多地使用生成式AI來(lái)支持新體驗(yàn),如"Create with Alexa"功能。此外,作為亞馬遜搜索(Amazon Search)的一個(gè)小組,M5可以幫助亞馬遜各地團(tuán)隊(duì)將大模型應(yīng)用到他們的應(yīng)用程序中,并訓(xùn)練大模型以提升Amazon.com網(wǎng)站的搜索結(jié)果。亞馬遜云科技持續(xù)在機(jī)器學(xué)習(xí)(ML)的所有領(lǐng)域中創(chuàng)新,包括基礎(chǔ)設(shè)施、Amazon SageMaker相關(guān)工具和開(kāi)箱即用的AI服務(wù),比如Amazon CodeWhisperer,它嵌入到程序員使用的IDE中,通過(guò)注釋來(lái)生成建議代碼,以提高開(kāi)發(fā)人員的生產(chǎn)力。為加速機(jī)器視覺(jué)與大語(yǔ)言模型的訓(xùn)練和推理,亞馬遜云科技還推出了自研訓(xùn)練芯片Amazon Trainium與推理芯片Amazon Inferentia。
Hugging Face之所以選擇亞馬遜云科技作為首選云供應(yīng)商,是因?yàn)樗峁┝遂`活、可選的全球領(lǐng)先性能工具,例如Amazon SageMaker、Amazon Trainium和Amazon Inferentia,滿足了Hugging Face模型訓(xùn)練、精調(diào)和部署需求。依賴于此,開(kāi)發(fā)人員使用Hugging Face可以輕松優(yōu)化性能并降低成本,從而更快地將生成式AI應(yīng)用投入到生產(chǎn)環(huán)境。
"AI的未來(lái)已經(jīng)到來(lái),但并非每個(gè)人都能平等享用AI。"Hugging Face首席執(zhí)行官Clement Delangue表示,"可訪問(wèn)性和透明性是以明智和負(fù)責(zé)任的方式使用這些新功能,從而共享成果和創(chuàng)造新工具的關(guān)鍵。Amazon SageMaker和亞馬遜云科技定制芯片會(huì)幫助我們的團(tuán)隊(duì)和更大的機(jī)器學(xué)習(xí)社區(qū),將最新研究成果轉(zhuǎn)化為人人都可構(gòu)建的、公開(kāi)的可復(fù)制模型。"
高性能且兼具成本效益的生成式AI
大語(yǔ)言模型和視覺(jué)模型的構(gòu)建、訓(xùn)練和部署是一個(gè)昂貴且耗時(shí)的過(guò)程,需要深厚的機(jī)器學(xué)習(xí)專業(yè)知識(shí)的支持。這兩類模型非常復(fù)雜,可能包含數(shù)千億個(gè)參數(shù),因此在很大程度上,許多開(kāi)發(fā)人員無(wú)法使用生成式AI。
為了彌補(bǔ)這一差距,Hugging Face與亞馬遜云科技建立合作,讓開(kāi)發(fā)人員更易通過(guò)訪問(wèn)亞馬遜云科技的服務(wù),來(lái)應(yīng)用部署Hugging Face模型,尤其是那些生成式AI模型。這樣做的好處是:可以更快地訓(xùn)練與擴(kuò)展低延遲和高通量的推理任務(wù)。例如,由Amazon Trainium支持的Amazon Elastic Compute Cloud(Amazon EC2)Trn1實(shí)例提供了更快的訓(xùn)練時(shí)間,與基于GPU的實(shí)例相比,可節(jié)省高達(dá)50%的訓(xùn)練成本。而由最新一代Amazon Inferentia芯片支持的Amazon EC2 Inf2實(shí)例,旨在部署最新一代大語(yǔ)言模型和視覺(jué)模型。相比Inf1實(shí)例,Inf2實(shí)例吞吐量提升了4倍,延遲降低了10倍。Amazon SageMaker為ML提供工具和工作流,開(kāi)發(fā)人員可以通過(guò)Amazon SageMaker等托管服務(wù)使用Amazon Trainium和Amazon Inferentia,亦或在Amazon EC2上自行管理。
"生成式AI蘊(yùn)藏著改變整個(gè)行業(yè)的巨大潛力,但其成本和所需的專業(yè)知識(shí)使該技術(shù)無(wú)法為除少數(shù)公司之外的所有公司所用。"亞馬遜云科技首席執(zhí)行官Adam Selipsky表示,"Hugging Face和亞馬遜云科技讓用戶更易訪問(wèn)流行的機(jī)器學(xué)習(xí)模型,以最高的性能和最低的成本創(chuàng)建自己的生成式AI應(yīng)用。此次合作充分說(shuō)明,生成式AI公司和亞馬遜云科技的合作可以讓更多客戶對(duì)創(chuàng)新技術(shù)觸手可及。"
訪談
更多做行業(yè)賦能者 HID迎接數(shù)字化浪潮新機(jī)遇 破解新挑戰(zhàn)
今年3月份,全球可信身份解決方案提供商HID發(fā)布了最新的《安防行業(yè)現(xiàn)狀報(bào)告》(以下簡(jiǎn)稱“報(bào)告”),該報(bào)告…
數(shù)字化浪潮下,安防廠商如何滿足行業(yè)客戶的定制化需求?
回顧近兩年,受疫情因素影響,包括安防在內(nèi)的諸多行業(yè)領(lǐng)域都遭受了來(lái)自市場(chǎng) “不確定性”因素的沖擊,市場(chǎng)…
博思高鄧紹昌:乘產(chǎn)品創(chuàng)新及客戶服務(wù)之舟,在市場(chǎng)變革中逆風(fēng)飛揚(yáng)
11月24日,由慧聰物聯(lián)網(wǎng)、慧聰安防網(wǎng)、慧聰電子網(wǎng)主辦的2022(第十九屆)中國(guó)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)暨品牌盛會(huì),在深…