fbpx

IBM 的人工智能工具箱讓你簡單測試深度學習網絡 (DNN)

IBM今天宣布推出Adversarial Robustness Toolbox予AI的開發人員。這個開源工具包齊集了機器學習程序員攻擊深度學習神經網絡(DNN)所需的材料,以確保它們能夠承受真實世界的條件和內容。



該工具箱採用代碼庫的形式,其中包括攻擊,防禦的實用程序和基準測試工具,這些工具允許開發人員將舊有的韌性轉化成對抗攻擊。這就像AI的混合武術訓練師用來評估DNN的韌性一樣,教導它制定防禦技術,並提供一種內部的防病毒層。這或許不是一個標準練習的地方,但對DNN來說絕對是至關重要的。

對抗攻擊是由敵人對DNN進行攻擊,並以多種方式希望可以破壞,重新導向或欺騙AI,從在物理方面混淆到對付DNN的機器學習來達到反AI的目標。在中國,面部識別軟件是他們執法技術的其中一個組成部分,其中包括配備人工智能的閉路電鏡頭,能夠在6萬多人中挑出一張臉。隨著人工智能變得更有能力,西方世界可能也會仿效。

外國資訊網站TheNextWeb(TNW)早前報導了以下圖片中語音系統的漏洞,欺騙語音到文本的系統。這對語音助理來說固然是壞消息,代表著黑客們現在可以簡單地坐在公共交通工具或辦公室裡,並假裝自己聽一首歌曲來嵌入信號。

這些威脅還包括欺騙GPS來誤導船隻,攻擊船載系統,偽裝船隻ID以欺騙AI驅動的衛星等等。隨著更多的全球人工智能系統上線,國家支持針對軍艦行動的可能性也逐漸成為事實。去年,美國海軍領導人在回答有關海上一系列問題時,對抗系統攻擊的想法已經不止一次出現。

其實特別容易受攻擊的AI系統還包括無人駕駛汽車和軍用無人機,如果AI系統的安全受到威脅,兩者都可能會被黑客控制。實際上,所有的DNN都需要具備抵禦攻擊的能力,不是的話就與沒有病毒防護的計算機一樣有用。

有關IBM新Adversarial Robustness Toolbox的更多信息,您可以查看該公司的博客文章

資料來源: TheNextWeb

TechApple.com 編輯部

堅持製作專業科技內容,全員擁有多種不同技術知識的特異科技媒體團隊

發表迴響

你的電子郵件位址並不會被公開。 必要欄位標記為 *

限制時效已用盡。請重新載入驗證碼。