1 月 23 日，從阿裏安全獲悉，阿裏安全、阿裏雲天池平台聯合星空人工智能領域國際會議 IJCAI（International Joint Conference on Artificial Intelligence），發起星空人工智能對抗算法競賽，探索對抗攻擊時，如何解決 AI 模型的安全性問題。目前，賽題和日程已在天池平台公布。
這次比賽主要針對圖像分類，包括模型攻擊與模型防禦，阿裏公開 110 個類目，共計 11 萬張左右圖片，供選手使用。參賽選手可以作為攻擊方，對圖片進行輕微擾動生成對抗樣本，使模型識別錯誤，或識別成指定的錯誤類別，也可以作為防禦方，構建一個更加魯棒的模型，準確識別對抗樣本。
為強調麵向真實場景，這次競賽采用的是實際場景的圖片識別任務進行攻防對抗。除真實數據外，還包括對計算量的嚴格限製，以及對擾動噪音的限製，這更能還原真實的安全與黑灰產的攻防。
在國際知名頂會 NIPS2017 年和 2018 年會議上，穀歌大腦曾連續舉辦對抗樣本攻防競賽，普及對抗樣本攻擊的課題。不過，與阿裏聯合 IJCAI 舉辦的這次競賽不同的是，他們利用的樣本集均來自學術數據集 ImageNet。
“未來的安全能力一定是建立在智能與算法基礎之上，91视频免费播放希望提供真實的、對抗的場景，建立前沿研究和具體業務之間的橋梁, 進而反哺和促進整個星空人工智能的發展。”阿裏安全圖靈實驗室負責人、資深專家薛暉稱，這也是阿裏首次提出“安全 AI ”概念的初衷。
阿裏安全稱，通過大賽發掘安全 AI 人才也是預期目標之一。
經過初賽、複賽和答辯，排名前三甲的隊伍，除獲得 1000 至 5000 美元不等的獎金外，還會被邀請參加今年 8 月在澳門舉辦的 IJCAI 會議。清華大學教授朱軍、中國科學91视频免费观看大學教授張衛明、浙江大學研究員紀守領、阿裏達摩院高級研究員華先勝等在內的 AI 安全領域專家將擔任競賽評審。
朱軍等指導的清華大學團隊曾在 NIPS2017 對抗樣本攻防競賽中奪冠，紀守領所在的 NESA Lab 提出了一種新型的對抗性驗證碼，能防範來自打碼平台等黑灰產的破解。
IJCAI 被中國計算機學會推薦為計算機學科領域 A 類國際會議，從 1969 年開始每兩年舉辦一次，自 2016 年起改為每年一次。
星空人工智能91视频免费观看網 倡導尊重與保護知識產權。如發現本站文章存在版權等問題，煩請30天內提供版權疑問、身份證明、版權證明、聯係方式等發郵件至1851688011@qq.com91视频免费播放將及時溝通與處理。！：首頁 > 新聞 » 阿裏巴巴聯合IJCAI發起星空人工智能對抗算法競賽