由中國(guó)人工智能學(xué)會(huì)、杭州市人民政府主辦的“2021全球人工智能技術(shù)大會(huì)”日前在杭州舉辦。螞蟻集團(tuán)首席AI科學(xué)家漆遠(yuǎn)在會(huì)上首次提出了“可信AI”的技術(shù)架構(gòu)體系，并分享了螞蟻集團(tuán)基于該技術(shù)架構(gòu)體系研發(fā)落地的多項(xiàng)應(yīng)用成果。

據(jù)悉，本次“2021全球人工智能技術(shù)大會(huì)”共邀請(qǐng)了31位中外院士、以及來(lái)自世界各地的人工智能領(lǐng)域?qū)＜遥餐瑸槿斯ぶ悄艿陌l(fā)展建言獻(xiàn)策。會(huì)上，螞蟻集團(tuán)首席AI科學(xué)家漆遠(yuǎn)教授以《人工智能與風(fēng)險(xiǎn)-從創(chuàng)新到落地和治理》為主題進(jìn)行了分享。

漆遠(yuǎn)表示，AI是數(shù)字經(jīng)濟(jì)的源動(dòng)力，確保AI的安全性和公平性是行業(yè)共性課題。圍繞“可信AI”這一技術(shù)命題，他提出了包含“數(shù)據(jù)隱私保護(hù)”、“魯棒性”、“可解釋性與因果分析”和“公平性”四個(gè)方面的技術(shù)架構(gòu)體系。

在“數(shù)據(jù)隱私保護(hù)”方面，傳統(tǒng)的數(shù)據(jù)保護(hù)方法客觀上形成了“數(shù)據(jù)孤島”，影響了如醫(yī)療、金融等領(lǐng)域的協(xié)同作戰(zhàn)，也制約AI技術(shù)以及行業(yè)發(fā)展。因此，拓展數(shù)據(jù)價(jià)值的隱私計(jì)算技術(shù)，對(duì)實(shí)現(xiàn)“數(shù)據(jù)不動(dòng)價(jià)值動(dòng)”顯得尤為重要。

漆遠(yuǎn)透露，截至今年3月，螞蟻集團(tuán)隱私技術(shù)專利申請(qǐng)數(shù)量以740個(gè)位居全球第一，落地實(shí)踐成果豐富。比如營(yíng)銷反作弊場(chǎng)景下，幫助超過(guò)1萬(wàn)家合作伙伴識(shí)別薅羊毛風(fēng)險(xiǎn)，節(jié)省營(yíng)銷資金超300億。

在提高模型“魯棒性”（Robustness）方面，為了應(yīng)對(duì)黑產(chǎn)攻擊、并使得模型能適應(yīng)復(fù)雜多變的數(shù)據(jù)環(huán)境，還需要引入博弈論思想生成攻擊手段，并進(jìn)行智能防御，通過(guò)左右手互搏，加強(qiáng)抗打擊能力。據(jù)悉，螞蟻集團(tuán)正在風(fēng)險(xiǎn)交易識(shí)別、黑灰賬戶身份識(shí)別等風(fēng)控場(chǎng)景持續(xù)打磨這項(xiàng)能力。

關(guān)于“可解釋性與因果分析”，漆遠(yuǎn)解釋，AI模型不能是黑盒?！叭祟愊Ｍ滥Ｐ捅澈蟮倪壿?、收獲新的知識(shí)，并在它出現(xiàn)問(wèn)題時(shí)踩好剎車，確保AI合規(guī)合法。”他認(rèn)為，這背后需要數(shù)據(jù)驅(qū)動(dòng)與模型推理能力結(jié)合起來(lái)，產(chǎn)生可解釋的結(jié)果。目前，螞蟻集團(tuán)已經(jīng)將這項(xiàng)能力在智能風(fēng)控、投訴審理，反洗錢等領(lǐng)域廣泛應(yīng)用。

“可信AI”的技術(shù)架構(gòu)體系還需要解決模型公平性問(wèn)題，保持技術(shù)的敬畏心，在重視社會(huì)倫理原則下進(jìn)行AI調(diào)優(yōu)。通過(guò)AI技術(shù)，讓老年人、殘障人士、欠發(fā)達(dá)地區(qū)用戶，享受到數(shù)字經(jīng)濟(jì)時(shí)代的價(jià)值，這也是AI公平性的體現(xiàn)。漆遠(yuǎn)透露，螞蟻集團(tuán)已完成了“空中手勢(shì)”驗(yàn)證碼識(shí)別方案的研發(fā)，幫助視障人群通過(guò)“滑動(dòng)驗(yàn)證碼”關(guān)卡，該方案將免費(fèi)開(kāi)放給更多企業(yè)。

雷鋒網(wǎng)雷鋒網(wǎng)