本文首次發(fā)布于《企業(yè)家》雜志2024年3月刊
作者：用友iuap數(shù)據(jù)中臺(tái)專家 姚春雷
今年兩會(huì)期間，“人工智能+”首次被寫入政府工作報(bào)告。隨著人工智能在企業(yè)的深化應(yīng)用，無(wú)論是ChatGPT的誕生，還是Sora的橫空出世，大模型在豐富人工智能的應(yīng)用場(chǎng)景中起到重要作用。當(dāng)前，企業(yè)對(duì)大模型的討論也不再局限于技術(shù)本身，而是更加關(guān)注大模型可以在哪些場(chǎng)景真正落地？如何通過(guò)大模型賦能千行百業(yè)，從而為人類、企業(yè)以及社會(huì)的高質(zhì)量發(fā)展創(chuàng)造價(jià)值。
企業(yè)應(yīng)用大模型的難題：
私有化部署
從大模型的能力來(lái)看，其具備記憶、推理、邏輯理解、內(nèi)容生成、代碼生成等多項(xiàng)能力，包括現(xiàn)在多模態(tài)的發(fā)展，所以大模型在很大程度上能完成很多復(fù)雜的任務(wù)。企業(yè)對(duì)于數(shù)據(jù)的安全性要求較高，對(duì)于企業(yè)而言私有化部署是企業(yè)在大模型應(yīng)用時(shí)的優(yōu)先選擇。但是私有部署，對(duì)于軟硬件設(shè)備、技術(shù)開(kāi)發(fā)能力等有很高的要求。
其一，計(jì)算資源需求大。大模型的訓(xùn)推需要大量的計(jì)算資源，如高性能計(jì)算機(jī)、大規(guī)模集群和云計(jì)算平臺(tái)等。
其二，存儲(chǔ)空間大。大模型參數(shù)越大所需要的數(shù)據(jù)量就越大，這也意味著需要具備先進(jìn)的數(shù)據(jù)處理和存儲(chǔ)技術(shù)。
其三，持續(xù)學(xué)習(xí)問(wèn)題。大模型是基于資料自我學(xué)習(xí)后再把信息進(jìn)行整合、加工，傳遞給用戶。大模型只有不斷的學(xué)習(xí)，才能滿足企業(yè)即時(shí)搜索的需要。這樣大模型中的數(shù)據(jù)量會(huì)越來(lái)越大，計(jì)算過(guò)程越來(lái)越復(fù)雜，所以對(duì)大模型的運(yùn)算能力和運(yùn)算時(shí)間提出更高要求。
其四，復(fù)雜場(chǎng)景的落地成本高。企業(yè)復(fù)雜的業(yè)務(wù)場(chǎng)景對(duì)模型的參數(shù)要求越高，隨之成本越高。
用友企業(yè)服務(wù)大模型YonGPT，考慮落地過(guò)程中成本高、落地難等問(wèn)題，對(duì)大模型進(jìn)行了裁剪，也就是模型壓縮。壓縮以后，硬件和軟件方面的成本都可以降到企業(yè)可接受的范圍。這一步完成后，軟硬件的成本解決了，但想讓大模型真正落地，最重要的就是場(chǎng)景。
大模型落地企業(yè)
場(chǎng)景的便捷入口：
智能大搜
用友在服務(wù)企業(yè)客戶時(shí)發(fā)現(xiàn)，大部分企業(yè)尤其是龐大的組織中的非結(jié)構(gòu)化數(shù)據(jù)量是非常大的，尋找文檔、人、圖片、視頻等內(nèi)容的過(guò)程非常復(fù)雜。
其一，很難鑒定“搜”和“答”的邊界。比如，我們平時(shí)用百度或谷歌搜索，通常是搜索具體的關(guān)鍵詞，搜索和問(wèn)答很難鑒定是因?yàn)樗阉饔袝r(shí)候無(wú)形地伴隨著問(wèn)答。比如“智能大搜是一款什么樣的產(chǎn)品？”這是一個(gè)問(wèn)題，但它也可能是搜索“智能大搜”的關(guān)鍵詞，所以我們?cè)谒阉髦泻茈y鑒定到底是問(wèn)還是搜。這就要求我們要對(duì)整個(gè)關(guān)鍵詞進(jìn)行很好的語(yǔ)義理解，把關(guān)鍵詞提取出來(lái)進(jìn)行相關(guān)的搜索。
其二，海量數(shù)據(jù)需要持續(xù)運(yùn)營(yíng)。上面提到大模型需要不斷學(xué)習(xí)，那就需要把企業(yè)海量的數(shù)據(jù)進(jìn)行處理，其次是標(biāo)注、標(biāo)簽，更重要，還需要知識(shí)的運(yùn)營(yíng)。比如企業(yè)如何構(gòu)建知識(shí)庫(kù)，如何讓知識(shí)庫(kù)里的知識(shí)快速滿足不同角色不同場(chǎng)景下的搜索需要。
用友作為一個(gè)大型企業(yè)同樣遇到這些問(wèn)題。因此用友從2014年開(kāi)始在解決自身企業(yè)搜索問(wèn)題的同時(shí)，于2023年結(jié)合大模型底座YonGPT正式推出了智能大搜，為企業(yè)提供AI大模型驅(qū)動(dòng)的新一代搜索引擎，讓知識(shí)賦能業(yè)務(wù)和組織。
智能大搜的出現(xiàn)，一方面讓企業(yè)大模型的落地有了便捷的入口；另外企業(yè)對(duì)資料的持續(xù)迭代，在大模型的作用下，解決了即時(shí)搜索的難題；同時(shí)，智能大搜也是企業(yè)大模型在搜索能力上的增強(qiáng)應(yīng)用，為企業(yè)搜索提升了人性化的體驗(yàn)，也降低了大模型的落地成本難題。
智能大搜應(yīng)用場(chǎng)景：
智搜、智問(wèn)、智推
智能大搜的主要目的是解決企業(yè)構(gòu)建知識(shí)庫(kù)的問(wèn)題。通過(guò)搜文檔、搜視頻等功能，用友智能大搜能夠迅速定位所需內(nèi)容，幫助企業(yè)提升知識(shí)獲取效率、降低學(xué)習(xí)成本。
目前國(guó)內(nèi)市場(chǎng)上，智能搜索相關(guān)產(chǎn)品非常多，但大多數(shù)產(chǎn)品的核心能力是語(yǔ)言型的搜索能力，YonGPT智能大搜具備多模態(tài)的搜索能力，可以支持文檔搜索、圖片搜索、視頻搜索、圖譜搜索等，同時(shí)也可以綁定工作流來(lái)根據(jù)需要進(jìn)行配置；智能大搜是多級(jí)門戶的設(shè)計(jì)，企業(yè)可以通過(guò)不同組織、不同角色來(lái)定義不同的搜索門戶；智能大搜支持門戶的運(yùn)營(yíng)分析。包括有多少文件數(shù)量、文件類型、文件空間、圖片數(shù)量等，包括一級(jí)節(jié)點(diǎn)數(shù)、二級(jí)節(jié)點(diǎn)數(shù)、搜索關(guān)鍵詞排名、用戶排名、命中率排名、失敗率排名等。企業(yè)在大模型管理方面，可以默認(rèn)使用用友YonGPT，也可以配置文心一言、通義千問(wèn)、智譜等模型，甚至匹配自己的模型；支持資源庫(kù)的創(chuàng)建、修改、編輯等。包括文件批量上傳、單文件的上傳、自動(dòng)分詞，包括按照分詞處理，按照分詞以外的處理。也包括把分詞部分內(nèi)容退給GPT，作為GPT的學(xué)習(xí)入口、數(shù)據(jù)入口，同時(shí)也支持PDF、DOC等多種文檔類型。并且用友的智能大搜完全支持私有化部署。
用友智能大搜可以為企業(yè)帶來(lái)智搜、智答、智推三方面價(jià)值，基于用戶畫像猜用戶所想，推用戶所需，助力企業(yè)內(nèi)部資源高效應(yīng)用。
一、智搜：智能大搜基于用友企業(yè)服務(wù)大模型YonGPT，提供“沉浸式”搜索新體驗(yàn)，低成本接入，聚焦企業(yè)各類搜索場(chǎng)景，幫助員工快速、準(zhǔn)確獲取所需知識(shí)。
具體到某些特定的場(chǎng)景，比如搜索時(shí)具備修正詞的能力。諸如法律、金融醫(yī)療行業(yè)通常有大量專業(yè)名詞，信息名稱在輸錯(cuò)的情況下，能否精準(zhǔn)命中，考驗(yàn)的就是修正詞的能力，所以用友智能大搜構(gòu)建了修正詞的能力，用戶也可以根據(jù)自己的需求構(gòu)建自有的修正詞庫(kù)，同時(shí)還支持一些知識(shí)圖譜、資源標(biāo)注、資源權(quán)限的控制能力。
以醫(yī)療行業(yè)為例，比如輸入“復(fù)方甘草片”，其中方是方塊的“方”，不是芳草的“芳”。但是如果我們輸入錯(cuò)了，大模型是不能精準(zhǔn)判斷的。但是在大模型底層命中的時(shí)候，它會(huì)直接替換成正確的詞去查詢，也就是說(shuō)即使你輸入的詞是錯(cuò)誤，但依然能查到正確的結(jié)果。
經(jīng)調(diào)查發(fā)現(xiàn)，醫(yī)療行業(yè)每人每天上百次查詢的錯(cuò)誤率高達(dá)60%，用了修正詞庫(kù)功能后正確率確實(shí)提高了很多。
再如權(quán)限功能，即支持多級(jí)的搜索門戶和權(quán)限搭配。大部分搜索引擎中是不會(huì)劃分權(quán)限的，但一般企業(yè)是非常嚴(yán)肅的企業(yè)。比如政府，文件分為公開(kāi)、機(jī)密、保密文件，不同文件需要匹配不同的角色。所以用友智能大搜在搭建搜索門戶時(shí)，綁定了有權(quán)限的資源庫(kù)，進(jìn)行角色分配，即不同的角色可以訪問(wèn)相對(duì)權(quán)限的搜索門戶，不是所有角色都能訪問(wèn)統(tǒng)一的門戶。
在這種情況下，如果我們給每個(gè)門戶分配多個(gè)權(quán)限非常繁瑣，所以我們把資源和門戶綁定過(guò)以后，用戶在搜索時(shí)會(huì)攜帶用戶信息進(jìn)入到搜索層，根據(jù)用戶信息來(lái)決定你能訪問(wèn)哪個(gè)資源庫(kù)的權(quán)限，從而解決典型的權(quán)限問(wèn)題，也大大降低了配置的工作量。
以政府搜索門戶為例，普通科員搜索的一般是公開(kāi)文件，市委書記或者更高層領(lǐng)導(dǎo)一般是能看到保密或機(jī)密文件的，在這種情況下智能大搜會(huì)自然無(wú)感的給你做權(quán)限劃分。也就是說(shuō)你在搜索的時(shí)候，普通科員根本搜索不到機(jī)密文件，模型也不會(huì)把機(jī)密文件輸出來(lái)。
二、智答：強(qiáng)大的語(yǔ)義理解和分析能力，挖掘企業(yè)沉淀的領(lǐng)域/行業(yè)知識(shí)寶藏，提供高質(zhì)量的多模態(tài)知識(shí)問(wèn)答，降低學(xué)習(xí)成本，提升工作效率。
智能大搜的一大挑戰(zhàn)是很難解決“搜”和“問(wèn)”的邊界，所以智能大搜把“搜”和“問(wèn)”做了模糊處理，可以為用戶提供匹配真實(shí)需求的答案
比如我們問(wèn)“張三是誰(shuí)？”在正常搜索中一般會(huì)搜“張三”兩個(gè)字，但這個(gè)提問(wèn)后面多了一個(gè)“是誰(shuí)”，如果我們把這四個(gè)字整體作為一個(gè)語(yǔ)義理解的時(shí)候會(huì)比較麻煩，到底是在問(wèn)張三，還是問(wèn)后面是誰(shuí)？如果僅僅問(wèn)張三，搜索張三的關(guān)鍵詞，和張三相關(guān)的內(nèi)容都會(huì)出來(lái)。但是你要問(wèn)是誰(shuí)？更多是要找他的簡(jiǎn)歷及關(guān)的介紹。所以智能大搜把“搜”和“問(wèn)”進(jìn)行了模糊處理，也就是說(shuō)不管輸入“張三”還是“張三是誰(shuí)？”，他都能精準(zhǔn)的理解用戶的意圖，整個(gè)過(guò)程不需要用戶自己做特別的界定。
三、智推：基于用戶畫像，猜用戶所想，推用戶所需，助力企業(yè)內(nèi)部資源高效應(yīng)用。
智推功能，可以理解為推薦的功能。在整個(gè)搜索過(guò)程中，智能大搜推薦的是用知識(shí)圖譜感知用戶的理解后輸出的內(nèi)容。比如搜索“微服務(wù)宕機(jī)了怎么辦？”除了給你推薦解決微服務(wù)宕機(jī)的解法，還會(huì)推薦和微服務(wù)宕機(jī)相關(guān)的其他內(nèi)容，這就是它的推理能力。
用友智能大搜已經(jīng)在企業(yè)得到成功應(yīng)用，比如致力于采購(gòu)與招標(biāo)領(lǐng)域深圳市遠(yuǎn)東數(shù)智采技術(shù)服務(wù)有限公司。遠(yuǎn)東數(shù)智采基于YonGPT，實(shí)現(xiàn)對(duì)海量標(biāo)書進(jìn)行智能化搜索和快速智能撰寫標(biāo)書。其中通過(guò)用友智能大搜，遠(yuǎn)東數(shù)智采構(gòu)建了新的大模型搜索門戶，為每個(gè)用戶提供快速的文檔檢索能力，并且提供問(wèn)答式的檢索，在日常生活中我們很難定義什么是搜索，什么是問(wèn)答，新的大模型搜索有效的將這兩塊的界限消除，使得平臺(tái)使用者能有效的獲得需要的內(nèi)容，我們?cè)趩?wèn)答式檢索中同時(shí)為用戶提供知識(shí)圖譜的能力，問(wèn)答內(nèi)容的相關(guān)性以及與之有關(guān)系的內(nèi)容也會(huì)以圖譜的方式進(jìn)行呈現(xiàn)。
從實(shí)踐來(lái)看，單一大模型很難在企業(yè)落地。智能大搜是適合全行業(yè)，企業(yè)全角色的一套工具，讓大模型在企業(yè)的應(yīng)用中找到了落地點(diǎn)。而且針對(duì)不同行業(yè)不同用戶需求，智能大搜還可以支持定制化應(yīng)用。因此未來(lái)智能大搜一定會(huì)成為企業(yè)級(jí)大模型的前端能力，為大模型在企業(yè)的落地提供了統(tǒng)一的且便捷的入口，通過(guò)人工智能+提升企業(yè)新質(zhì)生產(chǎn)力，實(shí)現(xiàn)高質(zhì)量發(fā)展！
產(chǎn)品大型企業(yè)
4006-600-577
