人工智能在未來玩的過黑客嗎?GeekPwn2017上演巔峰對決

人工智能在未來玩的過黑客嗎?GeekPwn2017上演巔峰對決
 
您的位置:首頁 > 網絡資訊 > 人工智能在未來玩的過黑客嗎?GeekPwn2017上演巔峰對決
首頁 > 網絡資訊 ? 正文

人工智能在未來玩的過黑客嗎?GeekPwn2017上演巔峰對決

2017-10-25 18:00:49 發布者:admin 閱讀 488

 在中國上海舉辦的AI時代,人工智能和黑客之間誰更勝一籌? GeekPwn2017 給你答案。10 月 24 日,GeekPwn2017 國際安全極客大賽的現場,上演了一場白帽黑客與人工智能的巔峰對決,展示了令人驚嘆的人工智能項目破解秀,揭露了目前人工智能發展過程所存在的安全問題。

  KEEN公司CEO、GeekPwn大賽發起和創辦人王琦表示,人工智能對抗或將成為黑客的終極目標。GeekPwn作為全球首個探索人工智能與專業安全的前沿平臺,始終保持敏銳的科技洞察力,在創建之初就開始關注AI安全問題。 2017 年GeekPwn更是將人工智能作為全年的重點項目,聯合NEXT IDEA(騰訊創新大賽)發起“人工智能安全挑戰賽”,同時特別增設“AI仿聲驗聲攻防賽”,去探索人工智能時代下的安全問題。

  作為國內首創的人工智能對抗新玩法,黑客與人工智能之間的博弈無疑成為本屆GeekPwn大賽最大的亮點。

  機械臂顛覆“立字為據” 模仿人類筆跡難辨真假

  將人工智能作為攻擊手段僅僅只是人類的設想嗎?GeekPwn2017 就用 AI 顛覆了大眾傳統認知中的“立字為據”。由于個人書寫習慣等因素影響,筆跡具有特殊性,因此被模仿的難度相對較高。但中國金融認證中心(CFCA)團隊卻利用一個AI機械臂,就可以模仿中國著名科幻作家陳楸帆的字跡,達到了肉眼難以辨別的逼真程度。

  在現場,選手通過構建一個深度學習“DeepWriting“,使機械臂可以在紙張上隨意書寫,輕松“模仿”人的筆跡,甚至可以達到筆觸、線條的寬度和字母的傾斜度都難辨真假的程度。試想一下,假設別有用心者利用這樣的機器臂假冒他人筆跡,就可能會造成受害者的財產損失,甚至是更為嚴重的后果。

  你的聲音竟并非“唯一”?合成語音可“欺騙”聲紋識別

  除了筆跡可以被模仿,獨一無二的聲音也可以被復制。在GeekPwn2017 特別開設的場景賽——“AI仿聲驗聲攻防賽”上就上演了合成語音與聲紋驗證系統的對抗。語音識別系統看似成熟,但在白帽黑客的挑戰下,竟也出現了漏洞,變得不堪一擊。

  在通過激烈的初賽選拔后,“Maxmon”、SmartParrot、“有點意思”、“神牛gogo”及“清晨李唐王”共計五組隊伍入圍本次“AI仿聲驗聲攻防賽”決賽,向四個具有聲紋識別功能的設備發起挑。令人驚喜的是,本次的比賽的聲音樣本由當下最火熱的游戲《王者榮耀》里的英雄人物——妲己的配音者提供。

  根據比賽規則,各位選手提前學習了妲己聲音樣本的聲紋特征,合成語音音頻,并在現場對若干語音驗證系統發起攻擊。在GeekPwn2017 現場,五組選手成功實現了對語音驗證系統的突破,“欺騙”了目標系統,使其無法做出正確的判斷。

  最終,“清晨李唐王”成功破解三個聲紋驗證設備獲得第一名,“神牛gogo”團隊獲得第二名,“SmartParrot”團隊獲得第三名,“有點意思“、“maxmon”團隊分列四、五名。

  這一破解展示也讓大眾意識到,聲紋識別技術仍存在安全隱患,并非絕對安全。“AI 仿聲驗聲攻防賽”主評委鄭方教授表示,就目前生物特征識別技術的發展來看,聲紋本身因語音信號所含信息量的豐富性而是最安全的。但目前市面上所見的一些帶聲紋識別功能的智能語音產品,普遍對安全性考慮不夠,沒有防攻擊技術支撐。這是被黑客攻陷的主要原因。

  為幫助人工智能安全成長,GeekPwn2017 還將邀請包括加州大學伯克利分校宋曉東教授、谷歌大腦團隊頂尖工程師、計算機視覺與圖像處理博士Alex Kurakin 、谷歌機器學習研究員Ian Fischer、加州大學伯克利分校博士后研究員 Bo Li、加州大學河濱分校教授錢志云等在內的人工智能領域頂級專家學者參加 11 月 13 日于美國硅谷舉辦的GeekPwn2017 硅谷站,繼續解鎖人工智能安全領域的前瞻觀點及技術分享。

  人工智能視覺識別能否被“欺騙”?AI學習算法存在哪些安全問題?這些頂級安全專家又將帶來怎樣的全新AI安全觀點?答案盡在GeekPwn2017 硅谷站。

轉載請注明出處!

 
 

COPYRIGHT ? 2015-2017 逍遙分類目錄版權所有 | 桂ICP備05009434號-2

客服QQ

客服QQ

1094028072

QQ

返回頂部
一定牛甘肃十一选五推荐