国产精品久久精品牛牛影视-国产精品久久精品视-国产精品久久九九-国产精品久久久-国产精品久久久99

來源：nature

芯片采購網專注于整合國內外授權IC代理商現貨資源，芯片庫存實時查詢，行業價格合理，采購方便IC芯片，國內專業芯片采購平臺。

編譯:張大筆茹、小七

假設一輛自動駕駛汽車在看到停車標志時沒有減速，而是加速到繁忙的十字路口，導致交通事故。事故報告顯示，停車標志的表面粘有四個小矩形標志。這表明一些小的干擾可以愚弄車載人工智能（AI），誤讀停止一詞為限速45。

此類事件尚未發生，但人為干擾可能會影響AI這是非常現實的。研究人員已經展示了如何通過粘貼紙作弊AI系統誤讀停車標志，或通過在眼鏡或帽子上粘貼印刷圖案來欺騙人臉識別系統，或通過在音頻中插入白噪聲來產生錯誤的判斷。

這只是一些攻擊AI領先的模式識別技術-深度神經網絡（DNN）的小示例。事實證明，這些方法在正確分類各種輸入(包括圖像、語音和相關消費者偏好的數據)方面非常成功。從自動電話系統到流媒體服務Netflix這些都是日常生活的一部分。人類難以察覺的輸入微小變化會混淆周圍最好的神經網絡。

加利福尼亞大學伯克利計算機科學博士生Dan Hendrycks說在這種不完美的技術中，這些問題比特殊的怪癖更麻煩。和許多科學家一樣，他一開始也認為這是DNN內在缺陷:任務可以在訓練領域出色完成，但一旦進入陌生領域，由于各種原因會失敗。

這可能會導致嚴重的問題。從實驗室到現實世界，從自動駕駛汽車到犯罪測量和疾病診斷，越來越多的深度學習系統。然而，今年的一份研究報告稱，惡意添加到醫學掃描中的圖像可能會使DNN誤診癌癥。另一方面，黑客可以利用這些弱點在網上黑掉一個AI運行自己的代碼。

在尋找問題根源的過程中，研究人員發現了許多問題DNN失敗的原因。位于加州山景城的加州Google的AI工程師Franois Chollet認為，“DNN沒有解決內在缺陷的辦法。為了克服這些缺陷，研究人員需要開發額外的功能來增強模式匹配DNN，例如，使AI能夠自己探索世界，自己寫代碼，保留記憶。一些專家認為，這將是未來十年AI研究方向。

現實檢驗

谷歌于2011年開發Torex代理一個可以識別YouTube視頻中的貓系統很快就出現了一波基于它的系統DNN分類系統。加州舊金山Uber AI Labs懷俄明大學拉拉米分校的高級研究經理杰夫·克勞恩（Jeff Clune）說，不知就里的人都在說，哇，這太神奇了，電腦終于能理解世界了。

但只有AI研究人員知道DNN事實上，我不了解這個世界。它們只是由許多數字神經元組成的松散模型，分布在許多上下相互連接的各層網絡中。

其思想是，原始輸入到底部的特征（如圖像中的像素）會觸發一些神經元，然后根據簡單的數學規則將信號傳輸到上一層的神經元，每次調整神經元的連接模式并進行訓練DNN該網絡涉及將其暴露在大量的例子中，以便最終提供所需的答案。例如，即使是DNN我以前從未見過這張照片，我總能把獅子的照片輸出給獅子。

2013年，Google研究員Christian Szegedy與同事一起發布了一份名為神經網絡的有趣特征的預印本，這是對神經網絡實際應用的第一次檢驗。以獅子的圖像為例，即使改變了一些像素，比如在圖像中添加圖書館背景，DNN它可以確認它看到了不同的內容，但然可以識別圖中的獅子。小組稱篡改圖像為對抗樣本。