大模型時(shí)代，企業(yè)使用云上模型的痛點(diǎn)有哪些？

你可能會(huì)說(shuō)模型不夠精準(zhǔn)，又或者成本太高，但這些隨著AI技術(shù)的快速發(fā)展，在不遠(yuǎn)的將來(lái)或許都不再是問(wèn)題。

比如成本，自豆包大模型首次將價(jià)格帶進(jìn)“厘”時(shí)代以來(lái)，行業(yè)紛紛跟進(jìn)，企業(yè)客戶從此不再為使用模型的成本過(guò)度高昂而煩擾。在未來(lái)，隨著行業(yè)技術(shù)進(jìn)步，成本或許將越來(lái)越不再是問(wèn)題。

與前述問(wèn)題比起來(lái)，安全是一個(gè)容易被大多數(shù)人忽視但又極為重要的事項(xiàng)。伴隨模型能力的快速發(fā)展，企業(yè)在使用大模型過(guò)程中面臨的安全挑戰(zhàn)越來(lái)越多：從安全漏洞導(dǎo)致的用戶數(shù)據(jù)泄露，到部分公司違規(guī)抓取數(shù)據(jù)，都已經(jīng)出現(xiàn)相關(guān)案例。

企業(yè)在使用新技術(shù)的同時(shí)，必須時(shí)刻擰緊安全的閥門，這是關(guān)乎企業(yè)生存的根基，一點(diǎn)馬虎不得。因?yàn)橐坏┌l(fā)生意外，損失便有可能是致命的。

1、大模型時(shí)代的安全挑戰(zhàn)

AI正在重塑行業(yè)。

自O(shè)pen AI發(fā)布的ChatGPT引領(lǐng)互聯(lián)網(wǎng)行業(yè)進(jìn)入AI 2.0時(shí)代以來(lái)，無(wú)數(shù)企業(yè)和AI創(chuàng)業(yè)者投身行業(yè)。在國(guó)內(nèi)，除了

百度、字節(jié)、阿里等傳統(tǒng)互聯(lián)網(wǎng)大公司斥資投入，更是有智譜AI、月之暗面、Minimax等明星創(chuàng)業(yè)公司散落其間。

短短兩年間，市場(chǎng)似乎已經(jīng)從早期的莽荒開(kāi)拓期進(jìn)入到淘汰期。前段時(shí)間，有媒體報(bào)道稱，國(guó)內(nèi)AI“六小虎”至少有兩家已放棄預(yù)訓(xùn)練模型。在美國(guó)，不少大模型公司都在賣身，僅剩OpenAI、Anthropic、Meta、谷歌，以及馬斯克旗下的xAI等公司還在大手筆投入基礎(chǔ)大模型的研發(fā)。

市場(chǎng)趨于冷靜之時(shí)，大模型時(shí)代的安全問(wèn)題也在日益凸顯，成為行業(yè)關(guān)注焦點(diǎn)。相關(guān)安全事件包括但不限于，企業(yè)違規(guī)操作過(guò)度抓取數(shù)據(jù)、外部攻擊竊取用戶數(shù)據(jù)、使用者通過(guò)AI竊取個(gè)人隱私信息等。

以某知名生成式對(duì)話大模型產(chǎn)品X為例，自發(fā)布以來(lái)，曾多次被爆出存在安全漏洞。

早在2023年，就有用戶爆料X存在明顯漏洞，致使少數(shù)用戶能夠看到其它用戶與AI對(duì)話歷史記錄的標(biāo)題。今年5月份，有研究員再次發(fā)現(xiàn)上述產(chǎn)品存在的安全漏洞，該漏洞允許黑客在用戶的長(zhǎng)期記憶設(shè)置中存儲(chǔ)虛假信息和惡意指令。但當(dāng)時(shí)，相關(guān)公司對(duì)其報(bào)告并沒(méi)有給予重視，草草結(jié)束調(diào)查。

同樣在2023年，某提供導(dǎo)航服務(wù)的公司向當(dāng)?shù)貓?bào)案稱，發(fā)現(xiàn)有人利用技術(shù)手段盜取公司服務(wù)器內(nèi)全國(guó)的導(dǎo)航地圖信息數(shù)據(jù)，并在論壇售賣，導(dǎo)致公司直接經(jīng)濟(jì)損失約21萬(wàn)元。

今年7月，美國(guó)某電信巨頭披露，客戶數(shù)據(jù)在第三方AI數(shù)據(jù)云平臺(tái)發(fā)生大規(guī)模泄露，超過(guò)1億條用戶數(shù)據(jù)被黑客獲得，涉及幾乎所有移動(dòng)客戶的通話和短信記錄。涉事平臺(tái)因大量客戶遭黑客攻擊飽受質(zhì)疑，該電信巨頭只是眾多受影響的企業(yè)之一。

越來(lái)越多的安全事故顯示出， 隨著AI多模態(tài)大模型等新技術(shù)普及，用戶數(shù)據(jù)正面臨越來(lái)越嚴(yán)峻的安全挑戰(zhàn)。企業(yè)在使用大模型時(shí)，不得不更加警示可能存在的潛在安全風(fēng)險(xiǎn)。畢竟，安全無(wú)小事。

正因如此，以火山方舟為代表的不少M(fèi)aas（模型即服務(wù)）平臺(tái)，始終對(duì)安全相當(dāng)重視。火山方舟是火山引擎旗下一站式大模型服務(wù)平臺(tái)，一年多前，剛剛對(duì)外發(fā)布時(shí)，方舟平臺(tái)就同步上線了基于安全沙箱的大模型安全互信計(jì)算方案，利用計(jì)算隔離、存儲(chǔ)隔離、網(wǎng)絡(luò)隔離、流量審計(jì)等方式，實(shí)現(xiàn)模型的機(jī)密性、完整性和可用性保證。這也是大模型行業(yè)內(nèi)首創(chuàng)的安全互信機(jī)制。

2、把安全「刻」進(jìn)基因

安全從來(lái)都不是一朝一夕的事情。

在同行幾乎都卯足勁發(fā)展大模型能力時(shí)，火山方舟從開(kāi)始就把安全作為一項(xiàng)基本功能，用最嚴(yán)格的標(biāo)準(zhǔn)要求自己。用火山方舟自己的話說(shuō)，要保證你的數(shù)據(jù)，唯你可見(jiàn)，唯你所用，唯你所有。

近期，雷峰網(wǎng)與火山引擎智能算法負(fù)責(zé)人、火山方舟負(fù)責(zé)人吳迪進(jìn)行了近一個(gè)小時(shí)交流，了解到更多火山方舟為保證客戶數(shù)據(jù)安全做出的不懈努力。

火山方舟平臺(tái)還沒(méi)有成型的時(shí)候，方舟的團(tuán)隊(duì)就在談安全、隔離、沙箱?？梢哉f(shuō)，火山方舟從開(kāi)始就把安全「刻」進(jìn)了它的基因。正因此，那時(shí)就有很多同行來(lái)問(wèn)吳迪為什么如此重視安全。

在火山方舟看來(lái)，生成式AI的機(jī)會(huì)還遠(yuǎn)沒(méi)有完全顯現(xiàn)，未來(lái)的市場(chǎng)容量可能是今天的1000倍，它會(huì)滲透到千行萬(wàn)業(yè)的核心業(yè)務(wù)當(dāng)中，是很多企業(yè)核心業(yè)務(wù)的重要依賴。在這種情況下，一家公司核心業(yè)務(wù)將離不開(kāi)大模型，除了追求效果、性價(jià)比，數(shù)據(jù)安全將愈加重要。

另一方面，生成式 AI 的發(fā)展將對(duì)安全產(chǎn)生更多新的挑戰(zhàn)。換句話說(shuō)，AI 1.0時(shí)代的安全方案在生成式AI時(shí)代未必可行。過(guò)去，為了確保數(shù)據(jù)的安全，企業(yè)的選擇經(jīng)常是數(shù)據(jù)不動(dòng)模型動(dòng)，也就是說(shuō)很多企業(yè)客戶會(huì)把數(shù)據(jù)留在自己的私域空間里，請(qǐng)模型服務(wù)商把模型部署到自己的私有化空間，但是這一套實(shí)踐可能在生成式 AI 的時(shí)代就行不通了。

其一，私有化大模型很難追隨著公有云上最先進(jìn)的大模型同時(shí)升級(jí)迭代；其二，私有化大模型所消耗的基礎(chǔ)算力的單位價(jià)格是遠(yuǎn)遠(yuǎn)高于公有云上大模型服務(wù)，從性價(jià)比角度來(lái)講，公有云上的集中調(diào)度更加便宜、更加方便。

在公有云條件下，用戶對(duì)云上操作不可見(jiàn)，如何讓用戶充分信任云上數(shù)據(jù)的安全性始終是一個(gè)難題，這也是火山方舟過(guò)去一年始終致力于探索解決的問(wèn)題。

吳迪告訴雷峰網(wǎng)(公眾號(hào)：雷峰網(wǎng))，火山方舟對(duì)安全的代碼實(shí)踐是直接滲透到系統(tǒng)的核心設(shè)計(jì)中的，包括所有的執(zhí)行環(huán)境、日志審計(jì)環(huán)境，它是隨著系統(tǒng)本身的搭建一起進(jìn)行的。打個(gè)比方，這就好像大廈水泥基柱中的鋼筋一樣，保證了數(shù)據(jù)非常高的安全性。相比較而言，部分不那么重視安全的平臺(tái)，可能會(huì)先把大廈建立起來(lái)，然后再在外面貼保溫層、防護(hù)層加固。長(zhǎng)期來(lái)看，這種模式的大廈是抵御不了臺(tái)風(fēng)等惡劣環(huán)境的。

不僅如此，火山方舟的安全團(tuán)隊(duì)獨(dú)立于其它團(tuán)隊(duì)之外，擁有一批優(yōu)秀的工程師，隨時(shí)準(zhǔn)備應(yīng)對(duì)內(nèi)外部的安全測(cè)試。字節(jié)跳動(dòng)內(nèi)部有專門的藍(lán)軍攻防系統(tǒng)，隨時(shí)可能進(jìn)行各個(gè)角度滲透攻擊，獨(dú)立驗(yàn)證火山方舟的安全方案。從日、周、月、到季度，火山方舟幾乎都有不同級(jí)別的安全演練。

吳迪曾多次表示，站在第一天，我們就著眼于未來(lái)的 5 年或者 10 年時(shí)間，從第一天就知道取得客戶的信任是一件非常重要的事情。

3、如何幫客戶實(shí)現(xiàn)「會(huì)話無(wú)痕」

正是基于從開(kāi)始就把安全當(dāng)作一項(xiàng)基本功能的理念，以及對(duì)生成式AI前景的堅(jiān)信，火山方舟對(duì)安全的投入毫不吝惜，方向也越走越明，研發(fā)出一套全周期的安全可信方案。

具體而言，這套方案主要包括四大能力：鏈路全加密、數(shù)據(jù)高保密、環(huán)境強(qiáng)隔離，以及操作可審計(jì)。

如此說(shuō)來(lái)，不少用戶大概會(huì)感到晦澀難懂，我們不妨稍加展開(kāi)。

所謂“鏈路全加密” ，包括網(wǎng)絡(luò)層傳輸加密和應(yīng)用層會(huì)話加密方案，簡(jiǎn)單來(lái)講，它主要用來(lái)防止用戶數(shù)據(jù)在傳輸鏈路階段被截獲；“數(shù)據(jù)高保密”保證用戶數(shù)據(jù)僅本人可見(jiàn)；環(huán)境強(qiáng)隔離，用于杜絕外部風(fēng)險(xiǎn)入侵、內(nèi)部數(shù)據(jù)泄密，就好像一座安全堡壘；“操作可審計(jì)”仿佛一座瞭望塔，能夠幫助用戶查看幾乎一切影響其數(shù)據(jù)資產(chǎn)的操作記錄。

整個(gè)方案四大能力圍繞數(shù)據(jù)傳輸、數(shù)據(jù)使用、數(shù)據(jù)靜態(tài)存儲(chǔ)等階段相互協(xié)作，共同致力于提升用戶在使用模型時(shí)的安全性， 為平臺(tái)提供了全周期的安全能力，最終實(shí)現(xiàn)會(huì)話無(wú)痕（你的數(shù)據(jù)，唯你可見(jiàn)，唯你所用，唯你所有）的安全目標(biāo)。

隨著大模型普及，企業(yè)效率得到提升的同時(shí)，對(duì)數(shù)據(jù)安全的需求也在不斷迭代更新。

曉多科技是一家智能客服的SaaS企業(yè)，圍繞大模型做了兩款獨(dú)立產(chǎn)品，其一是通過(guò)豆包大模型模擬買家訓(xùn)練新人客服，上崗時(shí)間縮短了一半以上。其二是，結(jié)合曉多原有的知識(shí)庫(kù)，豆包大模型加成后，在客服接線時(shí)針對(duì)商品知識(shí)問(wèn)答、商品對(duì)比、商品推薦等復(fù)雜場(chǎng)景，給人工客服提供副駕駛能力。

曉多科技首席技術(shù)官向海直言，他們?cè)跒榭蛻籼峁┚€服務(wù)能力過(guò)程中，也要保證訪問(wèn)鏈路的加密和租戶數(shù)據(jù)的隔離?！斑@個(gè)過(guò)程跟方舟思路差不多的，當(dāng)然，投入肯定沒(méi)（方舟）那么大?！毕蚝Ｐχf(shuō)道。

向海坦言，在沒(méi)有大模型時(shí)，前述產(chǎn)品是很難做出來(lái)的。只有有了生成能力，才能大量模擬買家，去與新的客服人員對(duì)話。豆包大模型出現(xiàn)以后，特別是，經(jīng)過(guò)半年圍繞客戶真正需求精調(diào)后，客戶滿意了，產(chǎn)品才能做出來(lái)。

從安全角度講，客戶把自己的知識(shí)、培訓(xùn)內(nèi)容、技巧，甚至于流程都固化到產(chǎn)品中，其中一部分變成參數(shù)，直接被集成到提示詞中。無(wú)論是曉多科技，還是他們服務(wù)的商家，都非常關(guān)心方舟是如何保證這些承載用戶知識(shí)數(shù)據(jù)安全性的。

回到方舟的安全方案，其自始至終的目標(biāo)同樣都是保證用戶數(shù)據(jù)實(shí)現(xiàn)「會(huì)話無(wú)痕」。相關(guān)審計(jì)日志充分開(kāi)放向用戶開(kāi)放，也在很大程度上給客戶吃下了一顆定心丸。

從誕生至今一年多時(shí)間，火山方舟一直致力于提高用戶數(shù)據(jù)資產(chǎn)(模型、會(huì)話數(shù)據(jù)、訓(xùn)練數(shù)據(jù)等)的安全水位?；鹕椒街圬?fù)責(zé)人吳迪在直播中表示，目前火山方舟已經(jīng)達(dá)到Don't be evil（不作惡）。這意味著，方舟平臺(tái)能保證除了用戶外的任何方一旦做惡（違反方舟的數(shù)據(jù)安全策略），都能夠第一時(shí)間被用戶或者方舟的安全團(tuán)隊(duì)發(fā)現(xiàn)并追責(zé)。

不過(guò)，Don't be evil 只能算是一個(gè)基礎(chǔ)安全水位。長(zhǎng)遠(yuǎn)而看，Can't be evil 才是火山方舟始終追求的安全目標(biāo)。吳迪也坦言，信息安全有個(gè)特點(diǎn)，只能接近滿分，但永遠(yuǎn)無(wú)法達(dá)到。

在被問(wèn)道，與客戶接觸過(guò)程中有沒(méi)有印象深刻的故事，吳迪開(kāi)玩笑般說(shuō)到：“我覺(jué)得安全方面沒(méi)有故事，只有事故。”

但我們反過(guò)來(lái)想，一直以來(lái)，火山方舟都沒(méi)有發(fā)生事故，或許就是最好的故事，也是最樸素的真實(shí)。

雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見(jiàn)轉(zhuǎn)載須知。