7月4日,騰訊云正式發(fā)布AI 原生(AI Native)向量數(shù)據(jù)庫Tencent Cloud VectorDB。該數(shù)據(jù)庫能夠被廣泛應(yīng)用于大模型的訓(xùn)練、推理和知識(shí)庫補(bǔ)充等場景,是國內(nèi)首個(gè)從接入層、計(jì)算層、到存儲(chǔ)層提供全生命周期AI化的向量數(shù)據(jù)庫。
向量數(shù)據(jù)庫專門用于存儲(chǔ)和查詢向量數(shù)據(jù),業(yè)界稱之為大模型的“海馬體”。據(jù)介紹,騰訊云向量數(shù)據(jù)庫最高支持10億級(jí)向量檢索規(guī)模,延遲控制在毫秒級(jí),相比傳統(tǒng)單機(jī)插件式數(shù)據(jù)庫檢索規(guī)模提升10倍,同時(shí)具備百萬級(jí)每秒查詢(QPS)的峰值能力。
大模型時(shí)代的到來,擁抱大模型成為企業(yè)的剛需。向量數(shù)據(jù)庫通過把數(shù)據(jù)向量化然后進(jìn)行存儲(chǔ)和查詢,可以極大地提升效率和降低成本。它能解決大模型預(yù)訓(xùn)練成本高、沒有“長期記憶”、知識(shí)更新不足、提示詞工程復(fù)雜等問題,突破大模型在時(shí)間和空間上的限制,加速大模型落地行業(yè)場景。
統(tǒng)計(jì)顯示,將騰訊云向量數(shù)據(jù)庫用于大模型預(yù)訓(xùn)練數(shù)據(jù)的分類、去重和清洗相比傳統(tǒng)方式可以實(shí)現(xiàn)10倍效率的提升,如果將向量數(shù)據(jù)庫作為外部知識(shí)庫用于模型推理,則可以將成本降低2-4個(gè)數(shù)量級(jí)。
值得關(guān)注的是,騰訊云重新定義了AI Native的開發(fā)范式,提供了接入層、計(jì)算層、存儲(chǔ)層的全面AI化解決方案,使用戶在使用向量數(shù)據(jù)庫的全生命周期,都能應(yīng)用到AI能力。企業(yè)原先接入一個(gè)大模型需要花1個(gè)月左右時(shí)間,使用騰訊云向量數(shù)據(jù)庫后,3天時(shí)間即可完成,極大降低了企業(yè)的接入成本。
騰訊云數(shù)據(jù)庫副總經(jīng)理羅云表示,AI Native(AI原生)時(shí)代已經(jīng)到來,“向量數(shù)據(jù)庫+大模型+數(shù)據(jù)”,三者將產(chǎn)生“飛輪效應(yīng)”,共同助力企業(yè)步入AI Native(AI原生)時(shí)代。
騰訊云向量數(shù)據(jù)庫基于騰訊集團(tuán)每日處理千億次檢索的向量引擎(OLAMA),經(jīng)過騰訊內(nèi)部海量場景的實(shí)踐,數(shù)據(jù)接入AI的效率也比傳統(tǒng)方案提升10倍,運(yùn)行穩(wěn)定性高達(dá)99.99%,目前已經(jīng)應(yīng)用在了騰訊視頻、QQ瀏覽器、QQ音樂等30多款國民級(jí)產(chǎn)品中。數(shù)據(jù)顯示,使用騰訊云向量數(shù)據(jù)庫后,QQ音樂人均聽歌時(shí)長提升3.2%、騰訊視頻有效曝光人均時(shí)長提升1.74%、QQ瀏覽器成本降低37.9%。
訪談
更多做行業(yè)賦能者 HID迎接數(shù)字化浪潮新機(jī)遇 破解新挑戰(zhàn)
今年3月份,全球可信身份解決方案提供商HID發(fā)布了最新的《安防行業(yè)現(xiàn)狀報(bào)告》(以下簡稱“報(bào)告”),該報(bào)告…
數(shù)字化浪潮下,安防廠商如何滿足行業(yè)客戶的定制化需求?
回顧近兩年,受疫情因素影響,包括安防在內(nèi)的諸多行業(yè)領(lǐng)域都遭受了來自市場 “不確定性”因素的沖擊,市場…
博思高鄧紹昌:乘產(chǎn)品創(chuàng)新及客戶服務(wù)之舟,在市場變革中逆風(fēng)飛揚(yáng)
11月24日,由慧聰物聯(lián)網(wǎng)、慧聰安防網(wǎng)、慧聰電子網(wǎng)主辦的2022(第十九屆)中國物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)暨品牌盛會(huì),在深…