近年來，人工智能（AI）在企業(yè)和行業(yè)中越來越受到關(guān)注。企業(yè)使用人工智能的方式也從專注于特定、重復(fù)性任務(wù)的傳統(tǒng)算法（狹義人工智能）發(fā)展到新時(shí)代的生成式人工智能模型，這些模型經(jīng)過預(yù)先訓(xùn)練，可以執(zhí)行廣泛的預(yù)定義任務(wù)和來生成新的內(nèi)容。向通用人工智能（AGI）的進(jìn)化仍然很遙遠(yuǎn)，其中智能體將有能力定義任務(wù)并與人類認(rèn)知相媲美。然而，當(dāng)前生成式人工智能的創(chuàng)新及其所代表的能力，標(biāo)志著通用人工智能發(fā)展的一個(gè)關(guān)鍵里程碑。

生成式人工智能無處不在

在一份報(bào)告發(fā)現(xiàn)，生成式人工智能領(lǐng)域的資金在2022年同比增長高達(dá)12倍，使其成為該領(lǐng)域資金最多的一年。與傳統(tǒng)人工智能不同，生成式人工智能算法提升了知識工作并產(chǎn)生更大的影響，特別是在內(nèi)容創(chuàng)建、內(nèi)容發(fā)現(xiàn)、增強(qiáng)對話式人工智能和人工智能模擬方面。因此，生成式人工智能為增強(qiáng)客戶或員工體驗(yàn)并快速加速任何企業(yè)的創(chuàng)新周期提供了多種機(jī)會。例如，一個(gè)流行的用例是部署在呼叫中心的聯(lián)絡(luò)中心技術(shù)。

到目前為止，聊天機(jī)器人等對話式人工智能界面已用于基本的客戶互動(dòng)。現(xiàn)在，有了生成式人工智能，虛擬服務(wù)助理可以從客戶電話中帶來更復(fù)雜的見解和更廣泛的互動(dòng)，這可以幫助進(jìn)行總結(jié)、翻譯、情感提取、呼叫反饋以提高座席的自我完善，以及在互動(dòng)過程中提供客戶特定的見解。

潛力中的陷阱

任何革命性趨勢一樣，生成式人工智能不僅為企業(yè)在擴(kuò)大服務(wù)領(lǐng)域方面帶來了巨大潛力，但也帶來了某些陷阱。企業(yè)必須認(rèn)識到某些特定的挑戰(zhàn)，例如道德問題、幻覺、數(shù)據(jù)泄露威脅和監(jiān)管不足等。雖然傳統(tǒng)人工智能也存在這些挑戰(zhàn)，但對于生成式人工智能用例來說，這些挑戰(zhàn)更加微妙。

負(fù)責(zé)任地使用人工智能

為了最佳地利用該技術(shù)的優(yōu)勢，必須考慮某些因素。以下是確保生成式人工智能技術(shù)得到最優(yōu)和最負(fù)責(zé)任地使用的重要因素：

建立正確的數(shù)據(jù)基礎(chǔ)

由于人工智能技術(shù)的強(qiáng)大程度取決于其所提供的數(shù)據(jù)，因此擁有強(qiáng)大的數(shù)據(jù)至關(guān)重要。

建立在數(shù)據(jù)質(zhì)量、準(zhǔn)確性、可訪問性和互操作性之上的強(qiáng)大數(shù)據(jù)基礎(chǔ)至關(guān)重要。為了避免生成式人工智能的陷阱，企業(yè)需要確保無縫集成各種來源的數(shù)據(jù)，以形成為業(yè)務(wù)決策提供信息的基本要素和結(jié)構(gòu)。

在使用生成式人工智能時(shí)，企業(yè)必然會發(fā)現(xiàn)更細(xì)致的交互或超個(gè)性化的承諾和好處。然而，在此過程中，他們還必須確?？蛻魯?shù)據(jù)和個(gè)人身份信息(PII)不被泄露。

廣泛的輸入和輸出驗(yàn)證

從生成式人工智能中獲得最佳結(jié)果的一個(gè)關(guān)鍵方面是提示工程，這本質(zhì)上意味著擁有正確的提示序列和設(shè)計(jì)、提示模板，可以幫助簡化和優(yōu)化技術(shù)的使用方式。但這里的一個(gè)固有風(fēng)險(xiǎn)是確保提示不會因提示注入、提示泄露或越獄而被黑客攻擊。即時(shí)注入意味著注入有害文本來操縱輸出、泄露關(guān)鍵信息的摘錄以及繞過內(nèi)置安全措施進(jìn)行越獄。

由于一些流行的大語言模型（LLM）要么是無監(jiān)督的，要么是半監(jiān)督的，因此存在幻覺和不適當(dāng)輸出的風(fēng)險(xiǎn)。隨著企業(yè)從新一代人工智能探索轉(zhuǎn)向大規(guī)模部署，他們必須制定指導(dǎo)方針，包括提示過濾、反饋和輸出驗(yàn)證的人機(jī)交互流程以及幻覺監(jiān)控。