“2021世界人工智能大會-可信AI論壇”今日在上海召開，來自美、英、澳等多國院士、學者，共同探討可信AI從認知演進，到理論研究，再到產業探索等多個的議題。螞蟻集團副總裁、首席AI科學家漆遠教授在會上透露，繼“隱私計算”和“圖學習”技術取得實踐成果后，螞蟻集團在可信AI技術體系中的又一項重要技術——“智能對抗”技術現已正式上線部署，支持反欺詐等多個風控場景。
漆遠在會上分享了螞蟻集團在可信AI技術領域的多項技術和應用成果。他表示，融入經濟學“博弈理論”的“智能對抗”技術，能夠借助“雙手互博”的演習機制，讓AI模擬黑產發起對自身的攻擊演練，從而幫助AI在風險識別能力、抗打擊能力上持續、自動進化升級。據悉，該技術應用于金融風控領域，在業內尚屬首次。
做好未來5年的技術儲備 “智能對抗”技術已上線
“未來的風控將不再是人和人的斗爭，而是AI與AI的博弈，”漆遠在演講中表示，“在支付寶上，每天上億筆交易背后，發起攻擊的早已不是散戶，而是專業的黑產團伙。”
為了應對復雜多變的黑產攻擊，如何持續加強風控模型的抗打擊能力，做到“魔高一尺，道高一丈”成為擺在螞蟻集團技術團隊面前的難題。
2018年，漆遠帶領著螞蟻集團AI技術骨干，在人工智能模型算法中融入經濟學“博弈理論”，開發了一項業界全新的技術——“智能對抗”，即通過結合AI和博弈對抗，讓機器自動且實時、動態地對自身系統進行安全性攻擊，從而提升模型能力，使模型更加魯棒（robust），處理結果更加準確。
就像金庸小說里的“雙手互博”，借助“智能對抗”技術，用更智能的 “攻”，實現更安全的“防”。 “智能對抗”技術在權威機構Gartner發表的白皮書中被列為2021年十大金融科技趨勢之一。因該技術具有對風險知識形成感知、分析和預測的能力，未來將成為可信AI領域的核心安全技術。
記者了解到，自2018年起，螞蟻集團“智能對抗”技術的相關研究成果已陸續在包括ICML、ICLR在內的全球技術頂會上發表，擁有全球專利8項。2020年，“智能對抗”技術正式應用于支付寶反欺詐，目前已覆蓋支付寶風控的賬戶、欺詐、交易安全等多個場景，對AI模型的魯棒性（robustness）有明顯提升。
可信AI是數字時代“抵御風險”的關鍵能力
隨著數字化進程的不斷加速，AI在推進傳統產業數字化升級的過程中作用顯著。在借助AI防御數字經濟風險的同時，如何確保AI的安全、可信和公平成為全行業關注的重要課題。
今年6月，螞蟻集團首次向外界發布了螞蟻可信AI技術架構體系，具體來看：拓展數據價值的隱私計算技術，實現「數據不動價值動」的重要命題；“博弈與魯棒性”是保障AI可信及穩定運營的關鍵，“可解釋性與因果分析”和“公平性”的研究能夠幫助人類更好地信任及依賴AI做出正確決策。
全球專利權威機構IPR Daily在6月發布報告顯示，螞蟻集團目前擁有全球范圍內數量最多的“AI安全可信關鍵技術”專利。
可信AI不再是理論和暢想，已全面應用實踐
作為數字經濟中“抵御風險”的關鍵，可信AI技術目前已在螞蟻集團包括反欺詐、反洗錢、反賭博、企業聯合風控、數據隱私保護在內的多個風控場景下落地，支撐著支付寶全風險域的防御需求，也是“螞蟻反欺詐智能風險感知與響應系統”的核心技術。
除金融風控場景外，可信AI技術還被廣泛應用于數據隱私保護、金融科技服務等多個領域。前不久，采用可信AI技術的網商銀行“大山雀” 衛星遙感風控系統項目獲評農業部農村部農村金融十佳創新實踐。
同時，圍繞AI公平性的建設和發展，螞蟻先后啟動了針對不發達地區的“AI豆計劃”、針對視障礙人群的“空中手勢”驗證碼方案等項目。通過可信AI技術的研究和投入，促進相對落后地區的經濟發展，幫扶弱勢群體，彌合數字鴻溝。
【免責聲明】本文僅代表合作供稿方觀點，不代表和訊網立場。投資者據此操作，風險請自擔。
最新評論