7月4日,騰訊云正式發(fā)布AI 原生(AI Native)向量數(shù)據(jù)庫(kù)Tencent Cloud VectorDB。該數(shù)據(jù)庫(kù)能夠被廣泛應(yīng)用于大模型的訓(xùn)練、推理和知識(shí)庫(kù)補(bǔ)充等場(chǎng)景,是國(guó)內(nèi)首個(gè)從接入層、計(jì)算層、到存儲(chǔ)層提供全生命周期AI化的向量數(shù)據(jù)庫(kù)。
向量數(shù)據(jù)庫(kù)專(zhuān)門(mén)用于存儲(chǔ)和查詢(xún)向量數(shù)據(jù),業(yè)界稱(chēng)之為大模型的“海馬體”。據(jù)介紹,騰訊云向量數(shù)據(jù)庫(kù)最高支持10億級(jí)向量檢索規(guī)模,延遲控制在毫秒級(jí),相比傳統(tǒng)單機(jī)插件式數(shù)據(jù)庫(kù)檢索規(guī)模提升10倍,同時(shí)具備百萬(wàn)級(jí)每秒查詢(xún)(QPS)的峰值能力。
大模型時(shí)代的到來(lái),擁抱大模型成為企業(yè)的剛需。向量數(shù)據(jù)庫(kù)通過(guò)把數(shù)據(jù)向量化然后進(jìn)行存儲(chǔ)和查詢(xún),可以極大地提升效率和降低成本。它能解決大模型預(yù)訓(xùn)練成本高、沒(méi)有“長(zhǎng)期記憶”、知識(shí)更新不足、提示詞工程復(fù)雜等問(wèn)題,突破大模型在時(shí)間和空間上的限制,加速大模型落地行業(yè)場(chǎng)景。
統(tǒng)計(jì)顯示,將騰訊云向量數(shù)據(jù)庫(kù)用于大模型預(yù)訓(xùn)練數(shù)據(jù)的分類(lèi)、去重和清洗相比傳統(tǒng)方式可以實(shí)現(xiàn)10倍效率的提升,如果將向量數(shù)據(jù)庫(kù)作為外部知識(shí)庫(kù)用于模型推理,則可以將成本降低2-4個(gè)數(shù)量級(jí)。
值得關(guān)注的是,騰訊云重新定義了AI Native的開(kāi)發(fā)范式,提供了接入層、計(jì)算層、存儲(chǔ)層的全面AI化解決方案,使用戶(hù)在使用向量數(shù)據(jù)庫(kù)的全生命周期,都能應(yīng)用到AI能力。企業(yè)原先接入一個(gè)大模型需要花1個(gè)月左右時(shí)間,使用騰訊云向量數(shù)據(jù)庫(kù)后,3天時(shí)間即可完成,極大降低了企業(yè)的接入成本。
騰訊云數(shù)據(jù)庫(kù)副總經(jīng)理羅云表示,AI Native(AI原生)時(shí)代已經(jīng)到來(lái),“向量數(shù)據(jù)庫(kù)+大模型+數(shù)據(jù)”,三者將產(chǎn)生“飛輪效應(yīng)”,共同助力企業(yè)步入AI Native(AI原生)時(shí)代。
騰訊云向量數(shù)據(jù)庫(kù)基于騰訊集團(tuán)每日處理千億次檢索的向量引擎(OLAMA),經(jīng)過(guò)騰訊內(nèi)部海量場(chǎng)景的實(shí)踐,數(shù)據(jù)接入AI的效率也比傳統(tǒng)方案提升10倍,運(yùn)行穩(wěn)定性高達(dá)99.99%,目前已經(jīng)應(yīng)用在了騰訊視頻、QQ瀏覽器、QQ音樂(lè)等30多款國(guó)民級(jí)產(chǎn)品中。數(shù)據(jù)顯示,使用騰訊云向量數(shù)據(jù)庫(kù)后,QQ音樂(lè)人均聽(tīng)歌時(shí)長(zhǎng)提升3.2%、騰訊視頻有效曝光人均時(shí)長(zhǎng)提升1.74%、QQ瀏覽器成本降低37.9%。
訪談
更多做行業(yè)賦能者 HID迎接數(shù)字化浪潮新機(jī)遇 破解新挑戰(zhàn)
今年3月份,全球可信身份解決方案提供商HID發(fā)布了最新的《安防行業(yè)現(xiàn)狀報(bào)告》(以下簡(jiǎn)稱(chēng)“報(bào)告”),該報(bào)告…
數(shù)字化浪潮下,安防廠商如何滿(mǎn)足行業(yè)客戶(hù)的定制化需求?
回顧近兩年,受疫情因素影響,包括安防在內(nèi)的諸多行業(yè)領(lǐng)域都遭受了來(lái)自市場(chǎng) “不確定性”因素的沖擊,市場(chǎng)…
博思高鄧紹昌:乘產(chǎn)品創(chuàng)新及客戶(hù)服務(wù)之舟,在市場(chǎng)變革中逆風(fēng)飛揚(yáng)
11月24日,由慧聰物聯(lián)網(wǎng)、慧聰安防網(wǎng)、慧聰電子網(wǎng)主辦的2022(第十九屆)中國(guó)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)暨品牌盛會(huì),在深…