6月19日,騰訊云正式公布了行業(yè)大模型研發(fā)進(jìn)展,為客戶提供MaaS(Model-as-a-Service)一站式服務(wù),幫助客戶生成專屬大模型和提供相關(guān)應(yīng)用。
通用大模型近期備受關(guān)注,這是騰訊首次公布大模型相關(guān)進(jìn)展。而從發(fā)布會(huì)來看,騰訊選擇將重點(diǎn)放在AI和行業(yè)相結(jié)合上,希望解決各個(gè)行業(yè)存在的具體問題。
對企業(yè)客戶而言,通用大模型有著專業(yè)知識(shí)與行業(yè)數(shù)據(jù)積累不足,針對性與精準(zhǔn)度不夠的痛點(diǎn),且企業(yè)客戶對數(shù)據(jù)的專業(yè)性要求很高,容錯(cuò)率較低,信息失誤會(huì)帶來法律風(fēng)險(xiǎn),企業(yè)需要可控、可追溯、可修正,且能經(jīng)受充分測試的大模型。
騰訊集團(tuán)高級(jí)執(zhí)行副總裁、云與智慧產(chǎn)業(yè)事業(yè)群CEO湯道生認(rèn)為,企業(yè)需要的是具體行業(yè)針對性的垂直模型,企業(yè)可以用自己的數(shù)據(jù)對行業(yè)模型進(jìn)行訓(xùn)練和微調(diào),讓大模型能提供更具有實(shí)用性的服務(wù)。
在發(fā)布會(huì)上,騰訊云直接推出了覆蓋了金融、文旅、政務(wù)、傳媒、教育等10大行業(yè)的模型,提供超過50個(gè)解決方案。騰訊展示了文旅行業(yè)、金融、教育等行業(yè)的垂直模型——這都是騰訊CSIG的重點(diǎn)服務(wù)行業(yè)。
以文旅行業(yè)為例,基于垂直行業(yè)大模型的智能客服,能夠提供更詳細(xì)的每日日程規(guī)劃,如交通、景點(diǎn)安排,及定制化的推薦方案。
騰訊云也同樣推出了MaaS(模型即服務(wù))服務(wù)。騰訊云會(huì)為客戶提供模型預(yù)訓(xùn)練、模型精調(diào)、智能應(yīng)用開發(fā)等行業(yè)大模型解決方案,其次,企業(yè)可以根據(jù)TI平臺(tái)內(nèi)置的大模型,加入企業(yè)自己的數(shù)據(jù),生成專屬模型。企業(yè)也可以根據(jù)自己的業(yè)務(wù)規(guī)模,選擇不同參數(shù)、不同規(guī)格的模型服務(wù)。
為了讓企業(yè)用起來,騰訊云在TI平臺(tái)上提供了一系列模型工具鏈,如數(shù)據(jù)標(biāo)注、訓(xùn)練、評估、測試和部署等。
在安全角度,騰訊云可以提供模型的私有化部署、權(quán)限管控和數(shù)據(jù)加密等方式,保證數(shù)據(jù)安全和使用安全,保證敏感數(shù)據(jù)的保護(hù)與安全合規(guī)。
算力是直接影響大模型訓(xùn)練和使用效果的因素。訓(xùn)練和推理需要耗費(fèi)大量的算力,算力能力的穩(wěn)定性、性能直接影響大模型訓(xùn)練速率和效果。騰訊云會(huì)為客戶提供算力能力。
騰訊云在今年4月推出了面向模型訓(xùn)練的新一代HCC(High-Performance Computing Cluster)高性能計(jì)算集群,提供穩(wěn)定計(jì)算、高速網(wǎng)絡(luò)與專業(yè)運(yùn)維的服務(wù),讓客戶可以將精力放在模型構(gòu)建和算法優(yōu)化上。該集群采用了騰訊云星星海自研服務(wù)器,互聯(lián)帶寬達(dá)3.2Tbps,算力性能可以提升3倍。據(jù)湯道生介紹,目前,幾家AI獨(dú)角獸和騰訊云展開了合作。
此外,騰訊即將推出更適合AI計(jì)算的向量數(shù)據(jù)庫。向量數(shù)據(jù)庫可以更高效處理圖像、音頻和文本等非結(jié)構(gòu)化數(shù)據(jù),可以實(shí)現(xiàn)檢索規(guī)模10倍提升,數(shù)據(jù)接入AI效率提升。
目前,騰訊的行業(yè)垂直模型已在賦能騰訊內(nèi)部的行業(yè)應(yīng)用。如騰訊會(huì)議將推出覆蓋會(huì)議全流程場景的小助手,可以幫助用戶進(jìn)行日程安排、管理,且可以自動(dòng)生成總結(jié)摘要,可以讓用戶回顧會(huì)議重點(diǎn)。
騰訊的企點(diǎn)智能客服,也會(huì)基于行業(yè)大模型和客戶的具體業(yè)務(wù),讓客服機(jī)器人能提供更精準(zhǔn)、詳細(xì)的回答。
在企點(diǎn)分析平臺(tái)上,垂直模型可以為銷售人員提供精準(zhǔn)的商業(yè)分析,如當(dāng)銷售人員問最近7天購買業(yè)瀏覽人數(shù)變化趨勢時(shí),企點(diǎn)分析平臺(tái)可以直接回答詳細(xì)的變化趨勢,銷售人員不需要再學(xué)習(xí)各種復(fù)雜軟件、制作看板。
發(fā)布會(huì)后,騰訊云也安排了和騰訊云副總裁、騰訊云智能負(fù)責(zé)人、優(yōu)圖實(shí)驗(yàn)室負(fù)責(zé)人吳運(yùn)生,及騰訊云副總裁、騰訊云智能研發(fā)負(fù)責(zé)人、優(yōu)圖實(shí)驗(yàn)室研發(fā)負(fù)責(zé)人、騰訊企點(diǎn)研發(fā)負(fù)責(zé)人吳永堅(jiān)的交流對話,以下為經(jīng)編輯對話:
問:為什么選擇在這個(gè)時(shí)候發(fā)行業(yè)大模型?
答:我們希望大模型跟行業(yè)相對能夠做深入的結(jié)合,能夠?qū)嵸|(zhì)的具體的解決我們行業(yè)當(dāng)中存在的對各個(gè)行業(yè)各個(gè)客戶存在的具體的問題。
在過去幾個(gè)月時(shí)間里,大模型技術(shù)飛速發(fā)展,在過去的時(shí)間里,我們掌握了相關(guān)的行業(yè)大數(shù)據(jù)積累,覺得現(xiàn)在合適把我們過去的一些實(shí)踐層面的思考和我們所積累的工具鏈給大家分享。
問:騰訊現(xiàn)在的解決方案和之前相比,會(huì)有何不同?
答:我們認(rèn)為,本質(zhì)上是要在特定的行業(yè)里去滿足客戶的需求,我們會(huì)發(fā)現(xiàn)有一些可能以前技術(shù)上不好解決的問題,用了大模型技術(shù)之后,有更好的、更容易的解決手段。
問:大模型能很好地幫助客戶降低成本嗎?
答:我們的主要精力不會(huì)說考慮怎么推廣,更多還是希望扎實(shí)地把這些工具、這些能力運(yùn)用到客戶那里,提升他們的生產(chǎn)力。我們會(huì)選擇一些行業(yè)里面有代表性的客戶去進(jìn)行合作建設(shè),去產(chǎn)生一些標(biāo)桿的意義,所以這個(gè)過程我覺得是一個(gè)很自然而然的過程。
問:客戶對大模型的態(tài)度反應(yīng)如何?
答:非常歡迎和擁抱,他們確實(shí)看到了以前一些很難解決的問題,得到解決了。如印章檢查,印章蓋在簽名上,此前很難提取出章的樣子,再識(shí)別出簽名內(nèi)容和簽名日期?,F(xiàn)在可以做到了。
問:智能客服已經(jīng)是行業(yè)行業(yè)大戶型落地的核心場景之一,騰訊云有哪些優(yōu)勢?
答:首先,我們堅(jiān)持的是垂直行業(yè)模型的思路,能解決很多具體行業(yè)的問題。二是,我們背后有著過去多年的行業(yè)積累,這是很重要的基礎(chǔ)。三是,底層的基建部分,算力、網(wǎng)絡(luò)、工具鏈等,還是比較有門檻的。四是安全能力,騰訊在過去20多年里面,在安全里面有很深的積累。保證輸出的答案是合法合規(guī)的。
問:現(xiàn)在行業(yè)大模型跟產(chǎn)業(yè)結(jié)合處于什么樣的一個(gè)階段?
答:現(xiàn)在還是處于比較早期的階段,一方面我們現(xiàn)在大部分的技術(shù)還在發(fā)展過程中,非常多的技術(shù)的門類都在發(fā)展;二是產(chǎn)業(yè)對于模型的理解還有待加強(qiáng)。我們在面對行業(yè)特定問題的時(shí)候,都要去特定解決。
問:對于開源模型你們怎么看?
答:開源模型,我們對不同模型也會(huì)做嘗試。比如去年評測時(shí),我們發(fā)布的萬億模型,一直是在榜首的,同時(shí),我們也會(huì)密切關(guān)注開源的發(fā)展,如開源模型,和開源模型之上的技術(shù)發(fā)展和應(yīng)用發(fā)展。
問:騰訊現(xiàn)在使用的模型參數(shù)如何?
答:我們有不同規(guī)模的模型,但是我們更關(guān)注怎么解決客戶的問題,用最有效最低成本的手段去解決客戶的問題。不同的參數(shù)量,對于數(shù)據(jù)的要求和算力的要求是完全不一樣的,包括后續(xù)的訓(xùn)練、推理成本都是不一樣的。
問:騰訊云如何保證內(nèi)部的算力資源調(diào)度的?
答:我們目前沒有遇到非常大的瓶頸和沖突。我們會(huì)提供算力,在一些行業(yè)里,客戶本身也會(huì)有自己的計(jì)算資源,我們提供一整套的工具鏈和大模型服務(wù)流程,方法論,以及評測專家服務(wù)就可以了。
問:金融領(lǐng)域,很多銀行等企業(yè)也會(huì)部署私有化小模型,我們現(xiàn)在的行業(yè)預(yù)訓(xùn)練大模型和上一代小模型相比有什么區(qū)別?
答:大模型,在不同參數(shù)量上會(huì)有很多的區(qū)別,邏輯推理確實(shí)需要很大的參數(shù)量,但是智能問答等,有十幾B的需求,就可以滿足客戶的需求??蛻舻念A(yù)算,是結(jié)合客戶需要解決多大問題的難度,和需要解決的資源,來設(shè)計(jì)這套方案。有的場景,預(yù)算甚至不會(huì)增加,反而會(huì)降低,不再需要過去那樣部署非常多的方案。
問:MAAS平臺(tái)和之前的AI平臺(tái)相比有什么升級(jí)和不同?
答:以前的AI平臺(tái),更強(qiáng)調(diào)的是平臺(tái)的工具屬性,做數(shù)據(jù)標(biāo)準(zhǔn)、訓(xùn)練,模型評測等?,F(xiàn)在升級(jí)到MaaS后,工具屬性仍然有,且客戶可以直接在我們平臺(tái)之上直接使用我們的模型,去做下一步的任務(wù)。
訪談
更多做行業(yè)賦能者 HID迎接數(shù)字化浪潮新機(jī)遇 破解新挑戰(zhàn)
今年3月份,全球可信身份解決方案提供商HID發(fā)布了最新的《安防行業(yè)現(xiàn)狀報(bào)告》(以下簡稱“報(bào)告”),該報(bào)告…
數(shù)字化浪潮下,安防廠商如何滿足行業(yè)客戶的定制化需求?
回顧近兩年,受疫情因素影響,包括安防在內(nèi)的諸多行業(yè)領(lǐng)域都遭受了來自市場 “不確定性”因素的沖擊,市場…
博思高鄧紹昌:乘產(chǎn)品創(chuàng)新及客戶服務(wù)之舟,在市場變革中逆風(fēng)飛揚(yáng)
11月24日,由慧聰物聯(lián)網(wǎng)、慧聰安防網(wǎng)、慧聰電子網(wǎng)主辦的2022(第十九屆)中國物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)暨品牌盛會(huì),在深…