每個月都有數(shù)百萬人在Meta的平臺上使用人工智能,包括Facebook。該公司正在升級其數(shù)據(jù)中心設(shè)備,以應(yīng)對人工智能所需的日益增長的計算負(fù)載。
Meta基礎(chǔ)設(shè)施副總裁Alexis Black Bjorlin在美國加州圣克拉拉舉行的AI硬件峰會的主題演講中表示,AI是Meta跨平臺向用戶提供更多相關(guān)內(nèi)容目標(biāo)的關(guān)鍵部分。
“這給了我們更深刻的見解。這讓我們能夠更好地預(yù)測用戶行為,從而更好地為我們近30億活躍的每日用戶提供有意義和相關(guān)的內(nèi)容。”Black Bjorlin在周三的主題演講中表示。
硬件升級也將推動人工智能應(yīng)用到更多的應(yīng)用和服務(wù)中。它還將幫助Meta實現(xiàn)其圍繞元宇宙的業(yè)務(wù)戰(zhàn)略的長期轉(zhuǎn)向,這一戰(zhàn)略正在順利進(jìn)行中。Black Bjorlin表示,每月有近7億人通過Meta平臺使用增強現(xiàn)實技術(shù)。
“特別是,人工智能可以在你看到之前檢測并刪除95%以上的不良內(nèi)容。僅在第二季度,我們的AI系統(tǒng)就刪除了近2.5億條違反Facebook和Instagram平臺安全政策的內(nèi)容。”
Alexis Black Bjorlin在加州圣克拉拉AI硬件峰會上發(fā)表演講
到2025年,Meta計劃建造包含超過4000個加速器的大型集群。核心網(wǎng)絡(luò)將被組織成一個網(wǎng)狀結(jié)構(gòu),加速器之間的帶寬為每秒1TB。Black Bjorlin沒有詳細(xì)說明該公司計劃使用的加速器類型,但該公司廣泛使用英偉達(dá)的GPU,并計劃基于英偉達(dá)的GPU開發(fā)人工智能超級計算機。
Meta在全球20個地區(qū)擁有數(shù)據(jù)中心,每個地區(qū)大約有5座數(shù)據(jù)中心大樓。該公司在全球擁有超過460萬平米的數(shù)據(jù)中心。
一個典型的小規(guī)模AI培訓(xùn)集群的功率為8兆瓦,但Meta認(rèn)為需要將總功率擴展到64兆瓦。電力預(yù)算的很大一部分將用于網(wǎng)絡(luò),因為人工智能通常需要超高速的網(wǎng)絡(luò)帶寬來在計算核心、內(nèi)存和機器學(xué)習(xí)存儲之間移動數(shù)據(jù)。
這需要從整體上理解系統(tǒng),了解增加價值的是什么,并剔除不必要的組件,這個想法是在系統(tǒng)和芯片層面縮小硬件。Black Bjorlin舉了光互連的例子,這是Meta公司正在研究用于數(shù)據(jù)中心的方法。
“這為我們提供了一種減少光學(xué)器件功耗的重要方法。它不僅僅是在更高層次的網(wǎng)絡(luò)上的交換機對交換機。這實際上是光互連到加速器本身。”她贊揚了CXL聯(lián)盟所做的工作,該聯(lián)盟上個月發(fā)布了3.0版本的計算快速鏈接規(guī)范,該規(guī)范在芯片、內(nèi)存和系統(tǒng)存儲之間建立了通信鏈接。Meta目前的數(shù)據(jù)中心基礎(chǔ)設(shè)施每月處理36.5億活躍用戶的服務(wù),以及29.1億Facebook用戶。除了在屏蔽不良內(nèi)容方面有95%的準(zhǔn)確率外,人工智能系統(tǒng)還可以翻譯200種語言。該公司使用OPT-175B自然語言處理模型,該模型有1750億個參數(shù),對開發(fā)人員是開源的。
該公司正在圍繞機器學(xué)習(xí)工具包PyTorch構(gòu)建其AI基礎(chǔ)設(shè)施,該工具包與TensorFlow一起成為AI的首選語言。GitHub上有超過15萬個PyTorch項目,來自2400多位志愿者。
本周Meta將其PyTorch項目剝離給新成立的PyTorch基金會,該基金會將由Linux基金會管理。該基金會的成員還包括頂級云服務(wù)提供商亞馬遜(AWS)、谷歌cloud和微軟Azure。
Meta公司的AI新運營模式依賴于將模型投入生產(chǎn)的速度,在某些情況下,這比傳統(tǒng)的系統(tǒng)指標(biāo)(如每瓦性能)更重要。“我們正試圖找到一種方法,以捕捉兩個世界的最佳——保持開發(fā)人員的效率,并利用快速生產(chǎn)和實現(xiàn)高性能。理想情況下,我們應(yīng)該有支持本地以太網(wǎng)的硬件。”
訪談
更多做行業(yè)賦能者 HID迎接數(shù)字化浪潮新機遇 破解新挑戰(zhàn)
今年3月份,全球可信身份解決方案提供商HID發(fā)布了最新的《安防行業(yè)現(xiàn)狀報告》(以下簡稱“報告”),該報告…
數(shù)字化浪潮下,安防廠商如何滿足行業(yè)客戶的定制化需求?
回顧近兩年,受疫情因素影響,包括安防在內(nèi)的諸多行業(yè)領(lǐng)域都遭受了來自市場 “不確定性”因素的沖擊,市場…
博思高鄧紹昌:乘產(chǎn)品創(chuàng)新及客戶服務(wù)之舟,在市場變革中逆風(fēng)飛揚
11月24日,由慧聰物聯(lián)網(wǎng)、慧聰安防網(wǎng)、慧聰電子網(wǎng)主辦的2022(第十九屆)中國物聯(lián)網(wǎng)產(chǎn)業(yè)大會暨品牌盛會,在深…