作者 | 維克多
編輯 | 琰琰
7月9日，在2021年世界人工智能大會的可信AI論壇上，艾耕科技CEO韋嘯進行了題為《可信AI助力內容創(chuàng)作實現(xiàn)智能化》的報告。他在報告中指出了AI內容生產在“可信”方面遇到的挑戰(zhàn)，并給出了三條提高AI內容生產可信性的技術建議： 2.專家系統(tǒng)與局部模型提升可解釋性和可調性；此外，在報告結束，AI科技評論和韋嘯進行了一場關于“AI發(fā)展路徑”的交流，他認為當前人工智能想要取得突破性進展，必須等待其他領域，例如生物學領域，有突破性的發(fā)現(xiàn)。今天的演講題目是《可信AI助力內容創(chuàng)作實現(xiàn)智能化》，分享一下AI在內容生產方面遇到的可信挑戰(zhàn)?；仡櫥ヂ?lián)網的前世今生，從門戶網站到搜索引擎、到社交網絡、再到超級APP，互聯(lián)網發(fā)揮的核心作用是：分發(fā)內容。而內容生產屬于互聯(lián)網的上游，每年制作物聯(lián)網流通的內容成本超過千億。人工智能（AI）作為技術發(fā)展的橋頭堡，未來十年的技術熱點，其一定會在行業(yè)里發(fā)揮巨大的作用。
目前，AI已經能夠生產各種各樣的內容，例如強大的GPT-3模型，其內容生成能力一度讓人類驚呼。但實際上，GPT-3生成的大量內容都是胡說八道的，沒有辦法直接使用。這對應的是AI穩(wěn)定性問題，即生成算法不可控。可解釋性，可調性，是AI生產內容過程中碰到的另一個問題。舉個例子，當我們用AI進行視頻生產時，無論是半自動還是全自動的方式，采用同一模板生成的視頻，在社交平臺上獲得的點贊數(shù)和流量卻不一樣。至于為什么？用戶希望能夠有一個解釋，即是算法出了問題還是其他方面的問題？這就是內容生產遇到的AI可解釋性挑戰(zhàn)。公平性和商業(yè)道德是AI內容生產遇到的另一個問題，當我們用AI給客戶提供數(shù)千篇圖文內容的時候，雖然也能獲得和人類稿件相同的點贊率和完讀率，但有些客戶并不滿足，他們期望通過工具生產大量的不可信的數(shù)據，從而獲得利益。
其實，內容生產和內容生成不同，今天AI技術大多僅支持內容生成，內容生產意味著要為產業(yè)賦能。內容生成里的專家主要有主編、編輯和運營。而內容生產需要將AI技術有機整合成一個專家系統(tǒng)，包含上述一系列的角色，對于不同角色進行不同程度的賦能，從而提高內容生產的能力。這也是我們一直打造的品牌“AIZAO, AI造”。
它的邏輯是先依靠電商或者品牌的營銷專家，然后基于他們對行業(yè)的理解，用知識圖譜支撐智能素材庫，生產出合適的圖、文內容，最后加上運營數(shù)據的回流，就可以構成生產力的大幅度提升。為了讓這一AI系統(tǒng)生成的內容更為可信，我們做了如下的嘗試：1.知識圖譜承載專家經驗提升可控性；2.專家系統(tǒng)與局部模型提升可解釋性和可調性；3.強調人+機器協(xié)同的工作模式。AI一定會犯錯，人機協(xié)同是提高AI可信性的舉措之一。總結一下，如果想搭建一個更為可信的內容生產平臺，需要遵守三條原則，第一，堅守向善價值觀，不做惡；第二，建立評估體系，保證系統(tǒng)生產的內容可信；第三，明確算法系統(tǒng)的責任。我們可以感受到，互聯(lián)網充滿了不可信的內容，已經對社會產生極大負面的價值，我們希望算法設計出之后，其所承擔的責任能有清晰的界定和邊界。
對話韋嘯：學習型人工智能在等待生物學（腦科學）上的突破
AI科技評論：請問您如何看待可信AI？
韋嘯：可信AI 包括幾個方面：穩(wěn)定性、可解釋性、可調性、公平性等等。這意味著可信AI不是一個概念，更多的衡量如何把一個技術更好的賦能各個場景。1.技術和學術上的突破。機器學習模型中的黑盒性是AI可信問題的源頭之一，很多AI技術如自動駕駛，AI醫(yī)療影像的應用，背后其實有可解釋性，可控制性的缺陷，邢波老師的Petuum，就考慮了如何提升黑盒模型的debuggability。楊強老師主推的聯(lián)邦學習，又在一定程度上能解決數(shù)據隱私問題，所以技術的發(fā)展，肯定能夠帶來更多可信的解決方案。 2.政策、法律衡量責任。一個算法存在開發(fā)者和使用者，但算法出錯，如何衡量雙方的責任，是需要政策制定者考慮的事情。3.遵守商業(yè)道德準則。算法即技術，技術中立，向善的人使用，會產生好的結果，心懷不軌的人使用，會產生惡果。4.明確可信的目標。所有的算法都針對一個目標進行優(yōu)化，我們在設立這個目標的時候，能否將可信作為一個目標衡量？
AI科技評論：相比深度學習，傳統(tǒng)AI模型的可解釋性比較好，您如何看待兩者的關系？
韋嘯：我舉個例子，美國人工特別昂貴，很多車主自己動手修車。衡量一個修車匠是否能“打”的一個標準是：修車工具箱里工具種類是否豐富。這個工具箱可能有一些17世紀就有的改錐，也可能有新開發(fā)的智能電鉆。其實，老改錐還是新電鉆都存在于工具箱里，使用哪種鋸子修車取決于具體的場景。類比到AI內容生產領域，GPT-3這一模型確定能夠提高基底模型表現(xiàn)，在從語料庫提取特征方面，非常高效。但是，有些場景要求生成的內容絲毫不能出錯，例如寶馬X5的排量是2.4，如果AI生成的是2.5，顯然就不符合要求。因此，這時候如果采用經典的PCFG，效果反而會更好。因此，深度學習也好，傳統(tǒng)模型也好，它們都在工具箱里，如何使用，關鍵要看具體的場景。所以，我們創(chuàng)業(yè)者也要摒棄一個觀點：新工具不一定比傳統(tǒng)工具產生更大的商業(yè)價值，畢竟一些比較老的模型研發(fā)成本比較低，新模型（深度學習）研發(fā)成本比較高。AI科技評論：AI內容生成領域，遇到哪些可信方面的挑戰(zhàn)？韋嘯：正如我演講中提到的，第一是穩(wěn)定性，我們在用工具創(chuàng)造標題的時候，有些生成的內容質量高，有些卻不通順；第二是可解釋性，同一組算法生成的視頻，卻獲得了不同的流量反饋，人工干預也無法總結優(yōu)化的路徑；第三是AI系統(tǒng)一定會犯錯，不管什么模型，只要場景足夠復雜系統(tǒng)就一定會犯錯。這時候需要人機配合，往往可以大幅提高工具使用的可信度。AI科技評論：在實際操作過程中，AI還無法取代人類？韋嘯：在某些特定領域，AI可以取代人工，但也不能取代人。工具取代人工一直在發(fā)生，例如超市售貨，很多時候顧客選品掃碼支付不需要和售貨員互動，即便如此，無人超市也沒有普及，這就側面說明了售貨員還有他存在的價值。但也不得不承認，超市管理中，現(xiàn)在所用到的人力成本比原來要少很多。AI內容生產也是如此，某些情況下，AI剪輯視頻的質量和操作精度已經超過人類了，但是仍然需要人類進行審核、把關。AI科技評論：目前人工智能的發(fā)展，呈現(xiàn)出“大”的特點，例如大數(shù)據集、大模型，您如何看待？韋嘯：技術發(fā)展的路徑非常復雜，存在很多不同的道路，大模型只是一條探索路徑，但肯定不是唯一的路徑。之前在和學者進行交流的時候，他們表達的一個觀點是：其實人工智能領域也在期待其他學科，例如腦科學的突破，例如直到今天，我們清楚的知道人腦對于一些觀察和決策的工作機理，例如顏色是如何被探測和判斷的，但是高級的認知例如紅色這個概念，大腦如何存儲和計算，卻沒有很好解釋。而這些解釋上的突破，很有可能為算法的設計提供全新的思路，在大模型之外，為AI的應用打開新的場景。
雷鋒網雷鋒網雷鋒網
雷峰網特約稿件，未經授權禁止轉載。詳情見轉載須知。
