釘釘x昇騰：用AI一體機撬動企業數字資產智能化
“走紅”近兩年后，大模型正在加速走進千行萬業。
由于大模型的主要模態是文字和圖片，恰好是數字化辦公最基礎的內容要素，辦公于是成了離AI最近的場景。
公文寫作、表格生成、提煉大綱、文本翻譯、代碼潤色、數據統計、智能問答……越來越多的應用正在辦公場景落地，曾經需要幾個小時才能處理的工作，現在被壓縮到了分鐘級乃至秒級。
特別是進入2024年后，大模型tokens窗口擴張使得百萬字的無損上下文輸入成為現實，衍生出了閱讀論文、搜索網頁，在海量資料中進行信息整理和分析的新應用場景。AI智能不斷涌現，要么加入AI，要么被AI淘汰，成了“打工人”茶余飯后的談資。
不過，要把AI接入辦公場景，也存在一定問題：面對效率和安全，企業該何選擇的問題？
不少企業多年經營，留存下了大量的數字資產，涉及內部知識、技術文檔、經驗分享、財務數據、業務訂單等等，可以說是一家企業“核心競爭力”的源泉。AI存在一定安全風險，一旦泄密，對于企業來說，無疑是“自毀長城”。
既要保障數字資產的安全，也想用AI激發出新動能。比較主流的做法是本地化部署，即將大模型部署到本地服務器上，在數據不外漏的前提下，用大模型盤活數字資產，向智能技術要效益，向私有部署要安全。
理想很豐滿，現實卻很骨感。大模型走進企業，需要一系列軟硬件支持。擺在企業面前的就是安全、性能和成本的“不可能三角”：在算力成本高企的背景下，數據安全常常對應著海量的成本投入；不想在硬件上投入太大，性能不可避免大打折扣。
面對辦公AI的“攔路虎”，釘釘和昇騰給出了新的解法：日前舉辦的HC2024昇騰產業峰會上，聯合發布了“釘釘專屬AI一體機解決方案，通過軟硬件的深度協同，加速企業智能助理落地。
01 本地化部署的“三重門”
之所以會出現“不可能三角”，根源在于AI在辦公場景落地時普遍出現的三類痛點：
一是數據安全疑慮。
隨著越來越多的業務走向數字化，企業數據在終端、應用云端、數據中心間流轉，鏈路非常復雜，導致數據要素的流通風險激增。再加上大模型的“黑箱”問題，數據一旦投喂給大模型就無法“撤回”。
早在2023年4月，三星就曝出了數據泄露事件。半導體部門的工程師使用ChatGPT修復源代碼問題，導致內部會議記錄等數據以提問的方式上傳到了ChatGPT的訓練數據庫。美國數據安全公司Cyberhaven曾統計160萬員工使用AI的情況，發現3.1%的“打工人”曾直接將公司內部數據喂給ChatGPT分析。
所以很多企業對數字資產智能化的策略是：內網部署、進行物理層隔離，從模型、數據、應用等全方位保障企業數據內容安全。
二是成本和不確定性。
本地化部署的代價也很明顯，涉及算力、運維、模型微調等一系列流程，并且存在極大的不確定性。
以算力基礎設施為例，需要解決CPU、GPU、內存、網絡等一連串挑戰，單單是基本的硬件投入，就需要數十萬以上的預算。如果要實現長文本閱讀等高算力場景，意味著百萬級、千萬級的算力成本。
大模型的微調和部署，同樣是成本開支的大頭。2023年大模型剛走紅時，模型定制開發的價碼一度達到上千萬，即使是行業回歸了理性，也需要上百萬的費用。另一個不應該被忽略的是，市面上的主流大模型往往保持著按月更新的節奏，不斷有新的能力被挖掘，每一次版本更新后都需要重新適配。
三是缺乏落地經驗。
擁抱AI是戰略層面上的，落地應用則是戰術層的。在戰略上做出正確選擇很重要，但戰術上的挑戰一點都不少。因為大模型的落地應用是一個不斷試錯的過程，存在時間周期長、落地成本高的特征。
目前的技術距離通用人工智能還有不小的距離，大模型的能力可以應用到哪些業務場景中，需要一個個去嘗試，再根據業務場景的實際表現進行調整測試。何況還存在“懂不懂行”的爭論，開發者不懂一線員工的需求，一線員工不懂AI，無形中產生了種種內耗，制約著AI的落地進程。
辦公AI的落地不單單是一個技術問題，也是一個工程問題，智能化的能力和行業應用經驗一個都不能少。
以上種種問題，既是行業內普遍存在的現象，也是釘釘和昇騰合作的出發點。雙方聯合給出的解題思路正是“釘釘專屬AI一體機”，在昇騰Atlas 800I A2推理服務器的使能下，能提供從算力、模型、數據庫到Agent應用開發和場景部署的一站式一體化落地解決方案，讓AI的落地企業，不再是復雜的系統工程，而是開箱即用的服務。
02 “1+1＞2”的協同效應
面對希望快速落地大模型應用、數據安全敏感度高、擔心成本大的企業訴求，釘釘和昇騰能否給出最優解？
在回答這個問題前，不妨先了解下釘釘的AI探索。
截至2023年，已經有2500萬組織、7億用戶使用釘釘。隱藏在數字背后的，恰恰是釘釘在辦公領域的全場景布局，涵蓋協作、溝通、知識等高頻場景，不僅意味著釘釘對企業辦公場景需求和痛點的深刻洞察，也讓釘釘拿到了AI時代的“入場券”，探索大模型在辦公領域的應用前景。
可以找到的動作有很多。譬如2024年初的新品發布會上，釘釘把焦點留給了AI Agent，用戶只需要簡單配置，即可實現智能問答、圖像生成、內容創作、數據統計等能力。
過去的大半年時間里，以釘釘為底座的AI產品和方案不斷涌現，從底層的大模型，到RAG、混合云部署在內的學習調優，再到簡單高效的Agent創建和深入知識、人事、市場、銷售、產研等不同場景的Agent應用，其中就包括針對企業數字資產的專屬AI解決方案和智能應用。
比如面向數據資產的ChatBI，可以用自然語言隨時隨地查詢經營數據，實現了“所想即所見”的高效率；比如面向知識資產的ChatMemo，先讓大模型學習專業文檔、融合圖譜與向量，即可提供專家級回答；再比如面向應用資產的ChatForm，配合宜搭的無代碼搭建能力，拖拉拽就能打通數據，創造智能應用……
不難得出這樣的結論：釘釘的方案和能力可以滿足企業數字資產向智能要效益的絕大部分需求。有了這種被千萬組織、數億用戶驗證過的，辦公AI本地化部署方案，企業AI轉型就不再需要從0到1“重復造輪子”。
而深耕AI框架、算子、計算架構、網絡等根技術的昇騰，接棒了高性能算力、高能效硬件、智能運維等基礎設施。
在硬件方面，釘釘專屬AI一體機搭載的昇騰Atlas 800I A2推理服務器，支持百億級LLM大模型推理，并可以面向中心規模部署，實現保障業務SLA要求下的最大有效輸出。
在軟件方面， MindIE推理引擎提供針對大模型的推理、訓練，可以提供通信加速、解碼優化、量化壓縮、調度優化等能力，全方位保障釘釘專屬AI一體機的模型推理性能。
其中在14B-70B大模型的推理場景下，釘釘專屬AI一體機的W8A8量化壓縮比W8A16提升了40%，通過HCCS多級通信優化，絕大部分模型的吞吐平均性能達到了友商的1.5倍。
同樣的，還有白屏化部署功能，在大模型的部署過程匯總，用戶無需關注背后的技術復雜性和操作細節，而是在圖形化的界面上一步步點擊、配置、安裝，大幅降低了模型部署的門檻，讓企業更方便地接入。
釘釘的大模型和場景優勢，遇到昇騰的底層軟硬件能力，碰撞出了1+1＞2的“協同效應”：從硬件到軟件的深度協同優化，幫助企業快速、高效、穩定地落地大模型應用，加速生產、銷售、研發、管理等環節邁向數智化， “一鍵”挖掘企業數字資產的價值。
03 聯手打破“不可能三角”
最后必須回答的問題是：釘釘專屬AI一體機都有哪些落地場景，能夠給企業帶來什么樣的價值？
我們找到了一些真實的落地案例。
第一個是知識助理。
釘釘專屬AI一體機對企業的產品資料、技術文檔等進行學習后，扮演起了“銷售助理”的角色，幫助銷售人員快速整理產品資料，以對話的方式對比不同型號產品的差別、解答產品的應用場景，進一步提高銷售人員的工作效率。
衍生出的場景還有很多。比如面向售前的智能導購，根據消費者的描述和需求，篩選推薦最適合的產品；再比如銷售陪練，以陪練的方式對新入職的銷售人員進行水平測驗，迅速成為“老司機”。
第二個是管理助理。
過去有出差需求時，需要先提交出差申請，通過后人事預訂機票和酒店，整個過程至少需要三四個小時。現在可以將相關權限下放給AI助理，只需要語音描述出差的時間、地點，即可自動完成機票和酒店的預訂。
以及困擾無數職場人的會議室預訂，需要和每一個參會人員溝通時間，然后在OA平臺上逐個查看哪個會議室是空著的。有了AI助理后，只需要確認參會人員名單，就能根據大家的日程安排自動預定會議室和會議時間。
第三個是生產助理。
在生產制造環節，一個普遍問題是操作人員的不規范，常常需要人工指導監督，其實可以在AI的指導下，幫助生產人員明確生產流程的具體操作，嚴格遵循質量控制標準，保障生產過程的合規和高效。
相似的還有智能檢修場景，在AI的輔助下按照正確的步驟進行故障排查，結合歷史維修記錄快速判斷故障點，甚至是獲得故障預測和解決方案，通過經驗和知識的快速復用，提高設備的檢修效率。
可以看到，釘釘專屬AI一體機的落地場景并未局限在公文寫作、表格生成等簡單場景，深入到了銷售、管理、研發、生產、維修等企業生產運作的每一個環節，而且在每一個環節都釋放出了新的價值。
也就是說，曾經阻礙AI本地化部署的“不可能三角”，以“降維打擊”的方式被消除了，并且迸發出了源源不斷的新質生產力。
把視角再放大一些的話，諸如此類的合作遠不止辦公。
僅僅是在不久前舉辦的華為全聯接大會2024上，華為就與科大訊飛、交通銀行、釘釘、360在內的21家伙伴和客戶，基于昇騰AI基礎軟硬件平臺聯合發布大模型推理行業解決方案，覆蓋了互聯網、金融、政府、政務、制造、媒資、交通等行業。
另一個不應該被忽略的信息點在于，在“開放、利他”的理念下，昇騰AI已累計培養3萬多名原生開發貢獻者，2000多家應用伙伴孵化了4000多個行業解決方案……言外之意，釘釘專屬AI一體機等產品的想象空間遠未觸頂，將不斷被賦予更多的能力和價值。
04 寫在最后
年初的時候就有不少人預言：2024年將是大模型推理元年。
回頭來看，預言不僅得到了充分驗證，還出現了此前未曾料到的“奇跡”。在釘釘專屬AI一體機等產品的幫助下，AI打破了數據安全、成本、落地門檻高等重重阻力，讓AI Agent在越來越多行業生了根、發了芽。
轉載請在文章開頭和結尾顯眼處標注：作者、出處和鏈接。不按規范轉載侵權必究。
未經授權嚴禁轉載，授權事宜請聯系作者本人，侵權必究。
本文禁止轉載，侵權必究。
授權事宜請至數英微信公眾號(ID: digitaling) 后臺授權，侵權必究。
評論
評論
推薦評論
暫無評論哦，快來評論一下吧！
全部評論（0條）