新京報貝殼財經(jīng)訊（記者白金蕾）6月28日，在火山引擎主辦、英偉達(dá)合作舉辦的“V-Tech體驗創(chuàng)新科技峰會”上，火山引擎發(fā)布大模型服務(wù)平臺“火山方舟”，面向企業(yè)提供模型精調(diào)、評測、推理等全方位的平臺服務(wù)（MaaS，即Model-as-a-Service）。
“火山方舟”目前集成了百川智能、出門問問、復(fù)旦大學(xué)MOSS（復(fù)旦大學(xué)發(fā)布的大型對話式語言模型）、IDEA研究院（粵港澳大灣區(qū)數(shù)字經(jīng)濟(jì)研究院）、瀾舟科技、MiniMax（一家國內(nèi)人工智能創(chuàng)業(yè)公司）、智譜AI等多家人工智能科技公司及科研院所的大模型，并已啟動邀測。
(相關(guān)資料圖)
“企業(yè)使用大模型，首先要解決安全與信任問題”，火山引擎總裁譚待稱，“火山方舟”實現(xiàn)了大模型安全互信計算，為企業(yè)客戶確保數(shù)據(jù)資產(chǎn)安全?；凇盎鹕椒街邸豹毺氐亩嗄Ｐ图軜?gòu)，企業(yè)可同步試用多個大模型，選用更適合自身業(yè)務(wù)需要的模型組合。
什么是安全互信計算？
與小模型“自產(chǎn)自用”不同的是，大模型的生產(chǎn)門檻很高，數(shù)據(jù)安全成為大模型時代的新命題。據(jù)網(wǎng)絡(luò)安全公司Cyberhaven的調(diào)查，至少有 4%的員工將企業(yè)敏感數(shù)據(jù)輸入 ChatGPT（OPEN AI公司發(fā)布的大型對話式語言模型），敏感數(shù)據(jù)占輸入內(nèi)容的比例高達(dá) 11%。2023 年初，三星公司在使用 ChatGPT不到20天時，就發(fā)現(xiàn)其半導(dǎo)體設(shè)備相關(guān)機(jī)密數(shù)據(jù)被泄露，并連續(xù)發(fā)生3起類似事故。
火山引擎總裁譚待公布“火山方舟”首批大模型合作伙伴。圖|受訪者供圖
譚待認(rèn)為，企業(yè)使用大模型，最擔(dān)心的是數(shù)據(jù)泄露；如果將大模型私有化部署，企業(yè)將承擔(dān)更高的成本，模型生產(chǎn)方也會擔(dān)心知識資產(chǎn)安全。“火山方舟”的首要任務(wù)，就是做好大模型使用者、提供者和云平臺可以互相信任的安全保障。
據(jù)火山引擎智能算法負(fù)責(zé)人吳迪介紹，“火山方舟”已上線了基于安全沙箱的大模型安全互信計算方案，利用計算隔離、存儲隔離、網(wǎng)絡(luò)隔離、流量審計等方式，實現(xiàn)了模型的機(jī)密性、完整性和可用性保證，適用于對訓(xùn)練和推理延時要求較低的客戶。
吳迪表示，“火山方舟”還在探索基于英偉達(dá)新一代硬件支持的可信計算環(huán)境、基于聯(lián)邦學(xué)習(xí)的數(shù)據(jù)資產(chǎn)分離等多種方式的安全互信計算方案，更全面地滿足大模型在不同業(yè)務(wù)場景的數(shù)據(jù)安全要求。
會上，英偉達(dá)開發(fā)與技術(shù)部亞太區(qū)總經(jīng)理李曦鵬表示，英偉達(dá)與火山引擎共同合作的 GPU （圖形處理器）推理庫 ByteTransformer （字節(jié)變形金剛）在 IEEE國際并行和分布式處理大會（IPDPS2023）上獲得最佳論文獎，雙方還聯(lián)合開源了高性能圖像處理加速庫 CV-CUDA（一種視覺預(yù)處理庫），并在大規(guī)模穩(wěn)定訓(xùn)練、多模型混合部署等方面的技術(shù)合作上取得成效。
未來英偉達(dá)和火山引擎團(tuán)隊將繼續(xù)深化合作，包含在英偉達(dá)Hopper 架構(gòu)進(jìn)行適配與優(yōu)化、機(jī)密計算、重點模型合作優(yōu)化、共同為重點客戶提供支持，以及 NeMo Framework（一個端到端的容器化框架）適配等，攜手助力大模型產(chǎn)業(yè)繁榮。
可降低大模型使用成本
中國科學(xué)技術(shù)信息研究所等機(jī)構(gòu)發(fā)布的《中國人工智能大模型地圖研究報告》顯示，截至今年5月，國內(nèi)已公開披露的大模型數(shù)量達(dá)到79個。
大模型密集涌現(xiàn)，企業(yè)面臨“選擇困難”。在吳迪看來，技術(shù)發(fā)展日新月異，國內(nèi)大模型正在快速迭代，不同大模型在特定任務(wù)上各有千秋，企業(yè)不必急于綁定一家大模型，而是應(yīng)該結(jié)合自身業(yè)務(wù)場景，綜合評估使用效果和成本，在不同場景選用更具性價比的模型。
吳迪稱，訓(xùn)練大模型很昂貴，但是從長期來看，模型的推理開銷會超過訓(xùn)練開銷。效果和成本的矛盾永遠(yuǎn)存在，降低推理成本會是大模型應(yīng)用落地的重要因素，“一個經(jīng)過良好精調(diào)的中小規(guī)格模型，在特定工作上的表現(xiàn)可能不亞于通用的、巨大的基座模型，而推理成本可以降低到原來的十分之一。”
“火山方舟”提供了豐富的模型精調(diào)和評測支持。吳迪介紹，企業(yè)可以用統(tǒng)一的工作流對接多家大模型，對于復(fù)雜需求可設(shè)置高級參數(shù)、驗證集、測試集等功能，再通過自動化和人工評估直觀對比模型精調(diào)效果，在不同業(yè)務(wù)場景里還可靈活切換不同的模型，實現(xiàn)最具性價比的模型組合。這些自定義指標(biāo)和評估數(shù)據(jù)的積累，將成為企業(yè)在大模型時代寶貴的數(shù)據(jù)資產(chǎn)。
據(jù)吳迪透露，抖音集團(tuán)內(nèi)部已有十多個業(yè)務(wù)團(tuán)隊試用“火山方舟”，在代碼糾錯等研發(fā)提效場景，文本分類、總結(jié)摘要等知識管理場景，以及數(shù)據(jù)標(biāo)注、歸因分析等方面探索，利用大模型能力促進(jìn)降本增效。這些內(nèi)部實踐在快速打磨“火山方舟”，推動平臺能力的進(jìn)一步完善?！盎鹕椒街邸钡氖着麥y企業(yè)，還包括金融、汽車、消費等眾多行業(yè)的客戶。
助力大模型“跑完最后一公里”
集成多個大模型，供客戶直接對比，“火山方舟”的多模型架構(gòu)不僅為企業(yè)提供了豐富選擇，也得到眾多大模型生產(chǎn)方的積極響應(yīng)。
ChatGLM是智譜AI推出的千億基座認(rèn)知模型，其開源版本在大模型開源領(lǐng)域極具影響力，近期智譜AI還對ChatGLM做了新升級，大幅提升了模型能力。在“火山方舟”上，智譜AI提供具有競爭力的大模型，火山引擎提供高性價比資源、針對不同行業(yè)的精調(diào)能力及綜合解決方案，共建安全可靠的第三方MaaS服務(wù)，合力推動各行業(yè)的智能化發(fā)展。據(jù)智譜AI 首席執(zhí)行官鵬介紹，智譜AI在火山引擎平臺上解決了千億模型訓(xùn)練的穩(wěn)定性、性能優(yōu)化等挑戰(zhàn)。
baichuan-7B發(fā)布后在MMLU、C-Eval等中英文權(quán)威榜單中均表現(xiàn)優(yōu)異。百川智能聯(lián)合創(chuàng)始人焦可表示，作為一款授權(quán)后可免費商用的開源大模型，開發(fā)者們可以通過baichuan-7B低成本部署模型，并根據(jù)自身需求靈活拓展模型能力，而本次與“火山方舟”的合作也將有效降低企業(yè)用戶的大模型接入門檻和使用成本，幫助更多企業(yè)輕松獲取專業(yè)服務(wù)。
科研機(jī)構(gòu)同樣是推動大模型技術(shù)發(fā)展的重要力量，復(fù)旦大學(xué)自然語言處理實驗室開發(fā)的MOSS大模型、IDEA研究院開發(fā)的姜子牙系列大模型，均是該領(lǐng)域的代表作。IDEA研究院認(rèn)知計算與自然語言研究中心講席科學(xué)家張家興表示，大模型生產(chǎn)方會不斷提升基礎(chǔ)模型能力，為大模型應(yīng)用完成90%-99%的工作，“火山方舟”為代表的云平臺要幫助客戶為不同場景精調(diào)模型，“跑完最后一公里”。張家興認(rèn)為，“在技術(shù)驅(qū)動和需求拉動的作用下，大模型的世界必然百花齊放”。
譚待判斷，企業(yè)使用大模型，未來可能會呈現(xiàn)“1+N”的模式：“1”是通過自研或深度合作，形成1個主力模型；由于成本和場景復(fù)雜多元等原因，在這個主力模型之外，還會有N個模型同時應(yīng)用。
“每一次技術(shù)的大變革，都會帶來體驗創(chuàng)新的機(jī)會”，譚待坦言，“火山方舟”還在起步階段，工具鏈和下游應(yīng)用插件需要持續(xù)完善。平臺還將接入更多大模型，并逐步擴(kuò)大邀測范圍，加速大模型在各行各業(yè)的應(yīng)用落地。
編輯 徐超
校對 楊許麗
標(biāo)簽：
