每個(gè)月都有數(shù)百萬(wàn)人在Meta的平臺(tái)上使用人工智能,包括Facebook。該公司正在升級(jí)其數(shù)據(jù)中心設(shè)備,以應(yīng)對(duì)人工智能所需的日益增長(zhǎng)的計(jì)算負(fù)載。
Meta基礎(chǔ)設(shè)施副總裁Alexis Black Bjorlin在美國(guó)加州圣克拉拉舉行的AI硬件峰會(huì)的主題演講中表示,AI是Meta跨平臺(tái)向用戶提供更多相關(guān)內(nèi)容目標(biāo)的關(guān)鍵部分。
“這給了我們更深刻的見(jiàn)解。這讓我們能夠更好地預(yù)測(cè)用戶行為,從而更好地為我們近30億活躍的每日用戶提供有意義和相關(guān)的內(nèi)容。”Black Bjorlin在周三的主題演講中表示。
硬件升級(jí)也將推動(dòng)人工智能應(yīng)用到更多的應(yīng)用和服務(wù)中。它還將幫助Meta實(shí)現(xiàn)其圍繞元宇宙的業(yè)務(wù)戰(zhàn)略的長(zhǎng)期轉(zhuǎn)向,這一戰(zhàn)略正在順利進(jìn)行中。Black Bjorlin表示,每月有近7億人通過(guò)Meta平臺(tái)使用增強(qiáng)現(xiàn)實(shí)技術(shù)。
“特別是,人工智能可以在你看到之前檢測(cè)并刪除95%以上的不良內(nèi)容。僅在第二季度,我們的AI系統(tǒng)就刪除了近2.5億條違反Facebook和Instagram平臺(tái)安全政策的內(nèi)容。”
Alexis Black Bjorlin在加州圣克拉拉AI硬件峰會(huì)上發(fā)表演講
到2025年,Meta計(jì)劃建造包含超過(guò)4000個(gè)加速器的大型集群。核心網(wǎng)絡(luò)將被組織成一個(gè)網(wǎng)狀結(jié)構(gòu),加速器之間的帶寬為每秒1TB。Black Bjorlin沒(méi)有詳細(xì)說(shuō)明該公司計(jì)劃使用的加速器類(lèi)型,但該公司廣泛使用英偉達(dá)的GPU,并計(jì)劃基于英偉達(dá)的GPU開(kāi)發(fā)人工智能超級(jí)計(jì)算機(jī)。
Meta在全球20個(gè)地區(qū)擁有數(shù)據(jù)中心,每個(gè)地區(qū)大約有5座數(shù)據(jù)中心大樓。該公司在全球擁有超過(guò)460萬(wàn)平米的數(shù)據(jù)中心。
一個(gè)典型的小規(guī)模AI培訓(xùn)集群的功率為8兆瓦,但Meta認(rèn)為需要將總功率擴(kuò)展到64兆瓦。電力預(yù)算的很大一部分將用于網(wǎng)絡(luò),因?yàn)槿斯ぶ悄芡ǔP枰咚俚木W(wǎng)絡(luò)帶寬來(lái)在計(jì)算核心、內(nèi)存和機(jī)器學(xué)習(xí)存儲(chǔ)之間移動(dòng)數(shù)據(jù)。
這需要從整體上理解系統(tǒng),了解增加價(jià)值的是什么,并剔除不必要的組件,這個(gè)想法是在系統(tǒng)和芯片層面縮小硬件。Black Bjorlin舉了光互連的例子,這是Meta公司正在研究用于數(shù)據(jù)中心的方法。
“這為我們提供了一種減少光學(xué)器件功耗的重要方法。它不僅僅是在更高層次的網(wǎng)絡(luò)上的交換機(jī)對(duì)交換機(jī)。這實(shí)際上是光互連到加速器本身。”她贊揚(yáng)了CXL聯(lián)盟所做的工作,該聯(lián)盟上個(gè)月發(fā)布了3.0版本的計(jì)算快速鏈接規(guī)范,該規(guī)范在芯片、內(nèi)存和系統(tǒng)存儲(chǔ)之間建立了通信鏈接。Meta目前的數(shù)據(jù)中心基礎(chǔ)設(shè)施每月處理36.5億活躍用戶的服務(wù),以及29.1億Facebook用戶。除了在屏蔽不良內(nèi)容方面有95%的準(zhǔn)確率外,人工智能系統(tǒng)還可以翻譯200種語(yǔ)言。該公司使用OPT-175B自然語(yǔ)言處理模型,該模型有1750億個(gè)參數(shù),對(duì)開(kāi)發(fā)人員是開(kāi)源的。
該公司正在圍繞機(jī)器學(xué)習(xí)工具包PyTorch構(gòu)建其AI基礎(chǔ)設(shè)施,該工具包與TensorFlow一起成為AI的首選語(yǔ)言。GitHub上有超過(guò)15萬(wàn)個(gè)PyTorch項(xiàng)目,來(lái)自2400多位志愿者。
本周Meta將其PyTorch項(xiàng)目剝離給新成立的PyTorch基金會(huì),該基金會(huì)將由Linux基金會(huì)管理。該基金會(huì)的成員還包括頂級(jí)云服務(wù)提供商亞馬遜(AWS)、谷歌cloud和微軟Azure。
Meta公司的AI新運(yùn)營(yíng)模式依賴于將模型投入生產(chǎn)的速度,在某些情況下,這比傳統(tǒng)的系統(tǒng)指標(biāo)(如每瓦性能)更重要。“我們正試圖找到一種方法,以捕捉兩個(gè)世界的最佳——保持開(kāi)發(fā)人員的效率,并利用快速生產(chǎn)和實(shí)現(xiàn)高性能。理想情況下,我們應(yīng)該有支持本地以太網(wǎng)的硬件。”
訪談
更多做行業(yè)賦能者 HID迎接數(shù)字化浪潮新機(jī)遇 破解新挑戰(zhàn)
今年3月份,全球可信身份解決方案提供商HID發(fā)布了最新的《安防行業(yè)現(xiàn)狀報(bào)告》(以下簡(jiǎn)稱(chēng)“報(bào)告”),該報(bào)告…
數(shù)字化浪潮下,安防廠商如何滿足行業(yè)客戶的定制化需求?
回顧近兩年,受疫情因素影響,包括安防在內(nèi)的諸多行業(yè)領(lǐng)域都遭受了來(lái)自市場(chǎng) “不確定性”因素的沖擊,市場(chǎng)…
博思高鄧紹昌:乘產(chǎn)品創(chuàng)新及客戶服務(wù)之舟,在市場(chǎng)變革中逆風(fēng)飛揚(yáng)
11月24日,由慧聰物聯(lián)網(wǎng)、慧聰安防網(wǎng)、慧聰電子網(wǎng)主辦的2022(第十九屆)中國(guó)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)暨品牌盛會(huì),在深…