本文首次發(fā)布于《企業(yè)家》雜志2024年3月刊

作者：用友iuap數據中臺專(zhuān)家 姚春雷

今年兩會(huì )期間，“人工智能+”首次被寫(xiě)入政府工作報告。隨著(zhù)人工智能在企業(yè)的深化應用，無(wú)論是ChatGPT的誕生，還是Sora的橫空出世，大模型在豐富人工智能的應用場(chǎng)景中起到重要作用。當前，企業(yè)對大模型的討論也不再局限于技術(shù)本身，而是更加關(guān)注大模型可以在哪些場(chǎng)景真正落地？如何通過(guò)大模型賦能千行百業(yè)，從而為人類(lèi)、企業(yè)以及社會(huì )的高質(zhì)量發(fā)展創(chuàng )造價(jià)值。

從大模型的能力來(lái)看，其具備記憶、推理、邏輯理解、內容生成、代碼生成等多項能力，包括現在多模態(tài)的發(fā)展，所以大模型在很大程度上能完成很多復雜的任務(wù)。企業(yè)對于數據的安全性要求較高，對于企業(yè)而言私有化部署是企業(yè)在大模型應用時(shí)的優(yōu)先選擇。但是私有部署，對于軟硬件設備、技術(shù)開(kāi)發(fā)能力等有很高的要求。

其一，計算資源需求大。大模型的訓推需要大量的計算資源，如高性能計算機、大規模集群和云計算平臺等。

其二，存儲空間大。大模型參數越大所需要的數據量就越大，這也意味著(zhù)需要具備先進(jìn)的數據處理和存儲技術(shù)。

其三，持續學(xué)習問(wèn)題。大模型是基于資料自我學(xué)習后再把信息進(jìn)行整合、加工，傳遞給用戶(hù)。大模型只有不斷的學(xué)習，才能滿(mǎn)足企業(yè)即時(shí)搜索的需要。這樣大模型中的數據量會(huì )越來(lái)越大，計算過(guò)程越來(lái)越復雜，所以對大模型的運算能力和運算時(shí)間提出更高要求。

其四，復雜場(chǎng)景的落地成本高。企業(yè)復雜的業(yè)務(wù)場(chǎng)景對模型的參數要求越高，隨之成本越高。

用友企業(yè)服務(wù)大模型YonGPT，考慮落地過(guò)程中成本高、落地難等問(wèn)題，對大模型進(jìn)行了裁剪，也就是模型壓縮。壓縮以后，硬件和軟件方面的成本都可以降到企業(yè)可接受的范圍。這一步完成后，軟硬件的成本解決了，但想讓大模型真正落地，最重要的就是場(chǎng)景。

用友在服務(wù)企業(yè)客戶(hù)時(shí)發(fā)現，大部分企業(yè)尤其是龐大的組織中的非結構化數據量是非常大的，尋找文檔、人、圖片、視頻等內容的過(guò)程非常復雜。

其一，很難鑒定“搜”和“答”的邊界。比如，我們平時(shí)用百度或谷歌搜索，通常是搜索具體的關(guān)鍵詞，搜索和問(wèn)答很難鑒定是因為搜索有時(shí)候無(wú)形地伴隨著(zhù)問(wèn)答。比如“智能大搜是一款什么樣的產(chǎn)品？”這是一個(gè)問(wèn)題，但它也可能是搜索“智能大搜”的關(guān)鍵詞，所以我們在搜索中很難鑒定到底是問(wèn)還是搜。這就要求我們要對整個(gè)關(guān)鍵詞進(jìn)行很好的語(yǔ)義理解，把關(guān)鍵詞提取出來(lái)進(jìn)行相關(guān)的搜索。

其二，海量數據需要持續運營(yíng)。上面提到大模型需要不斷學(xué)習，那就需要把企業(yè)海量的數據進(jìn)行處理，其次是標注、標簽，更重要，還需要知識的運營(yíng)。比如企業(yè)如何構建知識庫，如何讓知識庫里的知識快速滿(mǎn)足不同角色不同場(chǎng)景下的搜索需要。

用友作為一個(gè)大型企業(yè)同樣遇到這些問(wèn)題。因此用友從2014年開(kāi)始在解決自身企業(yè)搜索問(wèn)題的同時(shí)，于2023年結合大模型底座YonGPT正式推出了智能大搜，為企業(yè)提供AI大模型驅動(dòng)的新一代搜索引擎，讓知識賦能業(yè)務(wù)和組織。

智能大搜的出現，一方面讓企業(yè)大模型的落地有了便捷的入口；另外企業(yè)對資料的持續迭代，在大模型的作用下，解決了即時(shí)搜索的難題；同時(shí)，智能大搜也是企業(yè)大模型在搜索能力上的增強應用，為企業(yè)搜索提升了人性化的體驗，也降低了大模型的落地成本難題。

智能大搜的主要目的是解決企業(yè)構建知識庫的問(wèn)題。通過(guò)搜文檔、搜視頻等功能，用友智能大搜能夠迅速定位所需內容，幫助企業(yè)提升知識獲取效率、降低學(xué)習成本。

目前國內市場(chǎng)上，智能搜索相關(guān)產(chǎn)品非常多，但大多數產(chǎn)品的核心能力是語(yǔ)言型的搜索能力，YonGPT智能大搜具備多模態(tài)的搜索能力，可以支持文檔搜索、圖片搜索、視頻搜索、圖譜搜索等，同時(shí)也可以綁定工作流來(lái)根據需要進(jìn)行配置；智能大搜是多級門(mén)戶(hù)的設計，企業(yè)可以通過(guò)不同組織、不同角色來(lái)定義不同的搜索門(mén)戶(hù)；智能大搜支持門(mén)戶(hù)的運營(yíng)分析。包括有多少文件數量、文件類(lèi)型、文件空間、圖片數量等，包括一級節點(diǎn)數、二級節點(diǎn)數、搜索關(guān)鍵詞排名、用戶(hù)排名、命中率排名、失敗率排名等。企業(yè)在大模型管理方面，可以默認使用用友YonGPT，也可以配置文心一言、通義千問(wèn)、智譜等模型，甚至匹配自己的模型；支持資源庫的創(chuàng )建、修改、編輯等。包括文件批量上傳、單文件的上傳、自動(dòng)分詞，包括按照分詞處理，按照分詞以外的處理。也包括把分詞部分內容退給GPT，作為GPT的學(xué)習入口、數據入口，同時(shí)也支持PDF、DOC等多種文檔類(lèi)型。并且用友的智能大搜完全支持私有化部署。

用友智能大搜可以為企業(yè)帶來(lái)智搜、智答、智推三方面價(jià)值，基于用戶(hù)畫(huà)像猜用戶(hù)所想，推用戶(hù)所需，助力企業(yè)內部資源高效應用。

一、智搜：智能大搜基于用友企業(yè)服務(wù)大模型YonGPT，提供“沉浸式”搜索新體驗，低成本接入，聚焦企業(yè)各類(lèi)搜索場(chǎng)景，幫助員工快速、準確獲取所需知識。

具體到某些特定的場(chǎng)景，比如搜索時(shí)具備修正詞的能力。諸如法律、金融醫療行業(yè)通常有大量專(zhuān)業(yè)名詞，信息名稱(chēng)在輸錯的情況下，能否精準命中，考驗的就是修正詞的能力，所以用友智能大搜構建了修正詞的能力，用戶(hù)也可以根據自己的需求構建自有的修正詞庫，同時(shí)還支持一些知識圖譜、資源標注、資源權限的控制能力。

以醫療行業(yè)為例，比如輸入“復方甘草片”，其中方是方塊的“方”，不是芳草的“芳”。但是如果我們輸入錯了，大模型是不能精準判斷的。但是在大模型底層命中的時(shí)候，它會(huì )直接替換成正確的詞去查詢(xún)，也就是說(shuō)即使你輸入的詞是錯誤，但依然能查到正確的結果。

經(jīng)調查發(fā)現，醫療行業(yè)每人每天上百次查詢(xún)的錯誤率高達60%，用了修正詞庫功能后正確率確實(shí)提高了很多。

再如權限功能，即支持多級的搜索門(mén)戶(hù)和權限搭配。大部分搜索引擎中是不會(huì )劃分權限的，但一般企業(yè)是非常嚴肅的企業(yè)。比如政府，文件分為公開(kāi)、機密、保密文件，不同文件需要匹配不同的角色。所以用友智能大搜在搭建搜索門(mén)戶(hù)時(shí)，綁定了有權限的資源庫，進(jìn)行角色分配，即不同的角色可以訪(fǎng)問(wèn)相對權限的搜索門(mén)戶(hù)，不是所有角色都能訪(fǎng)問(wèn)統一的門(mén)戶(hù)。

在這種情況下，如果我們給每個(gè)門(mén)戶(hù)分配多個(gè)權限非常繁瑣，所以我們把資源和門(mén)戶(hù)綁定過(guò)以后，用戶(hù)在搜索時(shí)會(huì )攜帶用戶(hù)信息進(jìn)入到搜索層，根據用戶(hù)信息來(lái)決定你能訪(fǎng)問(wèn)哪個(gè)資源庫的權限，從而解決典型的權限問(wèn)題，也大大降低了配置的工作量。

以政府搜索門(mén)戶(hù)為例，普通科員搜索的一般是公開(kāi)文件，市委書(shū)記或者更高層領(lǐng)導一般是能看到保密或機密文件的，在這種情況下智能大搜會(huì )自然無(wú)感的給你做權限劃分。也就是說(shuō)你在搜索的時(shí)候，普通科員根本搜索不到機密文件，模型也不會(huì )把機密文件輸出來(lái)。

二、智答：強大的語(yǔ)義理解和分析能力，挖掘企業(yè)沉淀的領(lǐng)域/行業(yè)知識寶藏，提供高質(zhì)量的多模態(tài)知識問(wèn)答，降低學(xué)習成本，提升工作效率。

智能大搜的一大挑戰是很難解決“搜”和“問(wèn)”的邊界，所以智能大搜把“搜”和“問(wèn)”做了模糊處理，可以為用戶(hù)提供匹配真實(shí)需求的答案

比如我們問(wèn)“張三是誰(shuí)？”在正常搜索中一般會(huì )搜“張三”兩個(gè)字，但這個(gè)提問(wèn)后面多了一個(gè)“是誰(shuí)”，如果我們把這四個(gè)字整體作為一個(gè)語(yǔ)義理解的時(shí)候會(huì )比較麻煩，到底是在問(wèn)張三，還是問(wèn)后面是誰(shuí)？如果僅僅問(wèn)張三，搜索張三的關(guān)鍵詞，和張三相關(guān)的內容都會(huì )出來(lái)。但是你要問(wèn)是誰(shuí)？更多是要找他的簡(jiǎn)歷及關(guān)的介紹。所以智能大搜把“搜”和“問(wèn)”進(jìn)行了模糊處理，也就是說(shuō)不管輸入“張三”還是“張三是誰(shuí)？”，他都能精準的理解用戶(hù)的意圖，整個(gè)過(guò)程不需要用戶(hù)自己做特別的界定。

三、智推：基于用戶(hù)畫(huà)像，猜用戶(hù)所想，推用戶(hù)所需，助力企業(yè)內部資源高效應用。

智推功能，可以理解為推薦的功能。在整個(gè)搜索過(guò)程中，智能大搜推薦的是用知識圖譜感知用戶(hù)的理解后輸出的內容。比如搜索“微服務(wù)宕機了怎么辦？”除了給你推薦解決微服務(wù)宕機的解法，還會(huì )推薦和微服務(wù)宕機相關(guān)的其他內容，這就是它的推理能力。

用友智能大搜已經(jīng)在企業(yè)得到成功應用，比如致力于采購與招標領(lǐng)域深圳市遠東數智采技術(shù)服務(wù)有限公司。遠東數智采基于YonGPT，實(shí)現對海量標書(shū)進(jìn)行智能化搜索和快速智能撰寫(xiě)標書(shū)。其中通過(guò)用友智能大搜，遠東數智采構建了新的大模型搜索門(mén)戶(hù)，為每個(gè)用戶(hù)提供快速的文檔檢索能力，并且提供問(wèn)答式的檢索，在日常生活中我們很難定義什么是搜索，什么是問(wèn)答，新的大模型搜索有效的將這兩塊的界限消除，使得平臺使用者能有效的獲得需要的內容，我們在問(wèn)答式檢索中同時(shí)為用戶(hù)提供知識圖譜的能力，問(wèn)答內容的相關(guān)性以及與之有關(guān)系的內容也會(huì )以圖譜的方式進(jìn)行呈現。

從實(shí)踐來(lái)看，單一大模型很難在企業(yè)落地。智能大搜是適合全行業(yè)，企業(yè)全角色的一套工具，讓大模型在企業(yè)的應用中找到了落地點(diǎn)。而且針對不同行業(yè)不同用戶(hù)需求，智能大搜還可以支持定制化應用。因此未來(lái)智能大搜一定會(huì )成為企業(yè)級大模型的前端能力，為大模型在企業(yè)的落地提供了統一的且便捷的入口，通過(guò)人工智能+提升企業(yè)新質(zhì)生產(chǎn)力，實(shí)現高質(zhì)量發(fā)展！