CIIS2018高峰論壇“論AI”：智能安全的機遇與安全智能的挑戰(zhàn)
發(fā)布時間：2018/11/22
11月18日，由360主辦的“人工智能與安全專題論壇”在四川成都龍之夢大酒店召開。此論壇是中國人工智能學會主辦的2018第八屆中國智能產(chǎn)業(yè)高峰論壇組成部分，360邀請多位知名專家、學者以及產(chǎn)業(yè)界人士從產(chǎn)學研各方面進行深入交流。
在人工智能與安全專題論壇上，360智能安全研究院院長李康，北京頂象技術有限公司合伙人、首席科學家施亮，微眾銀行人工智能部副總經(jīng)理陳天健，清華大學副教授張超，中國科學院信息工程研究所研究員、“國家優(yōu)秀青年科學基金”獲得者操曉春等專家學者悉數(shù)出席，并分別從AI技術在安全領域的應用實例、AI安全對抗未來等多個方面，進行了深入的交流。
360智能安全研究院院長李康，在題為《人工智能系統(tǒng)實現(xiàn)中的安全風險》演講中指出，作為一個智能生態(tài)系統(tǒng)，AI的先發(fā)優(yōu)勢帶來了更迅速的應急反應，但人工智能系統(tǒng)的實現(xiàn)細節(jié)又引入了新的攻擊風險 ，復雜的軟件和供應鏈會導致很高的軟件漏洞機率，甚至惡意構造的攻擊可以造成分類逃逸，數(shù)據(jù)投毒等攻擊結果。
可以說人工智能是把雙刃劍，為科技帶來發(fā)展的同時也引發(fā)了許多安全問題。如何解決人工智能在技術、應用上可能存在的漏洞與威脅，就成了目前最需要討論的問題。對此，頂象技術合伙人兼首席科學家施亮、微眾銀行人工智能部副總經(jīng)理陳天健分別在金融反欺詐、聯(lián)邦遷移學習應用兩方面談到人工智能應用的實踐。而來自清華大學副教授張超表示，當前的攻防主要是機器輔助，嚴重依賴個人能力，智能化技術正在被逐步應用到攻防中去。對此，中國科學院信息工程研究所研究員操曉春則通過實際案例，指出人工智能可驅動網(wǎng)絡空間內容安全發(fā)展。
2018年年初，國外安全研究機構公布兩組可影響到包括個人電腦、服務器、云計算機服務器以及移動端的智能手機的CPU漏洞，引發(fā)全球關注；9月美國征信巨頭 Equifax 曝出數(shù)據(jù)泄漏事件，波及 1.43 億美國居民個人信息安全。
正如360集團技術總裁、首席安全官譚曉生在主論壇提到的那樣，由于網(wǎng)絡是個整體，攻擊可以從任何一個薄弱點發(fā)起，且網(wǎng)絡攻擊已實現(xiàn)自動化和智能化，并且對物理世界可以造成直接的影響，攻防對抗中傳統(tǒng)防護模式已失效。
在這種情況下，就需要大數(shù)據(jù)與AI來解決這些問題，相當于在網(wǎng)絡世界中安裝“攝像頭”。他認為，沒有攻不破的網(wǎng)絡，所以防護重點就應該從“隔離和筑墻”過渡到“加強檢測和響應”。而網(wǎng)絡滲透和攻擊都會留下痕跡，在無法判斷哪些行為是攻擊的情況下，要盡量多地對行為和數(shù)據(jù)進行記錄：通過對海量多維數(shù)據(jù)的存儲、分析、挖掘和關聯(lián)，來實現(xiàn)快速檢測發(fā)現(xiàn)高級威脅。
譚曉生指出，在大數(shù)據(jù)與AI的應用方面， 360的安全大腦具有完善的AI學習與分析功能，可以將海量大數(shù)據(jù)充分利用起來，將海量數(shù)據(jù)與人的智慧相結合，這對于監(jiān)測預防、應急響應等都有著劃時代的意義。
未來的網(wǎng)絡空間安全將會是多線作戰(zhàn)，網(wǎng)絡安全從業(yè)者將會面對的是與網(wǎng)絡犯罪、網(wǎng)絡恐怖主義、網(wǎng)絡戰(zhàn)爭、網(wǎng)絡意識形態(tài)競爭的持久抗爭。而如何建造更安全的網(wǎng)絡空間安全，就需要更多像360這樣深耕網(wǎng)絡安全，布局未來網(wǎng)絡生態(tài)的安全公司，參與其中。