神奇貼紙”可愚弄計算機視覺軟件，人工智能系統(tǒng)還得邁過這道坎
2018-01-04 12:00:46 來源：cnBeta.COM 熱度:
長久以來，計算機科學家們都在努力開發(fā)一些能夠“愚弄”人工智能的圖像類型。而這種特殊的圖片和模式，就被稱作“敵對圖像”（adversarial images）。實際上，這么做是利用了計算機看待世界的不同方式，讓人工智能的“眼睛”看到了并不存在的東西（可以理解為 AI 版本的“視覺幻象”）。比如將物理對象打印在紙張上，做出一幅“眼鏡”來考驗面部識別系統(tǒng)?，F(xiàn)在，Google 的研究人員們又想出了新的法子，它就是“神奇貼紙”。
上個月的時候，研究人員已經(jīng)發(fā)表了一篇描述“敵對圖像”（Adversarial Patch）的論文。雖然算不上是突破性的進展，但至少向前又邁進了一步。
這些測試圖像可以在家里輕松打印出來，與其它“敵對圖像”攻擊不同的是，它們顯得相對“柔性”一點，無需根據(jù)想要覆蓋的圖像、或者 AI 的視角而進行調(diào)整。
文中寫到，即便不知道先前的光線條件、相機視角、分類、甚至場景里的其它物品，都可以用貼紙來創(chuàng)建“物理世界的攻擊”。生成了這樣的圖像之后，還可以發(fā)布到網(wǎng)絡上供其它攻擊者打印和使用。
許多人工智能研究人員都擔心，這類方法會對自動駕駛汽車等系統(tǒng)產(chǎn)生危害，比如讓車載系統(tǒng)誤以為高速公路邊有個“停車”的牌子、或者一張防止個人被 AI 監(jiān)視系統(tǒng)識別的標簽。
即便普通人可以注意到這些貼紙的異樣，也不一定會理解它的真實意圖，甚至認為這僅僅是某種藝術的展現(xiàn)形式。
當然，目前暫時也不用擔心出現(xiàn)類似的攻擊，畢竟隨著技術的發(fā)展（打補?。?，同樣的套路不一定會在每一套 AI 系統(tǒng)上都奏效。
下一篇：2017年中國經(jīng)濟關鍵詞：中國領跑5G正式商用近在咫尺上一篇：新通信行業(yè)周報:“網(wǎng)絡強國”建設推動信息通信產(chǎn)業(yè)發(fā)展,NB-IoT作為主流蜂窩物聯(lián)標準加快物聯(lián)網(wǎng)產(chǎn)業(yè)發(fā)展
責任編輯：佟美麗
相關推薦
為什么人工智能和共享經(jīng)濟會成為TMT的風口？
尋求“智慧升級” 傳統(tǒng)家電行業(yè)加速探索人工智能
如果這個世界的工種都被機器人取代了，人類可以做什么人工智能一路狂飆現(xiàn)隱憂
如果要在2017年的科技領域選出一個最熱門的話題，那么一定非人工智能(AI)莫屬。2017年，人工智能跳出AlphaGo的棋盤，在獲得輿論極大關注和資本熱情擁抱的同時，在各行業(yè)得以廣泛應用：在出行領域，由人工智能驅(qū)動的無人駕駛汽車駛?cè)敫鞣N展會，甚至駛?cè)胄郯残聟^(qū);在醫(yī)療領域，具有深度學習和圖像識別能力的人工智能已經(jīng)可以幫助醫(yī)生識別肺部結節(jié)，甚至通過國