財新傳媒
財新網 > 科技 > 正文

AI·研究院|中科院曾毅:很多企業對AI安全風險視而不見

2019年11月01日 14:12 來源于 財新網
可以聽文章啦!
曾毅強調禁用技術并不能解決風險問題,建議國家建立人工智能監管平臺,呼吁人工智能從業者要有紅線意識
10月31日,中國科學院自動化研究所研究員曾毅表示,實際上很多企業對存在的風險視而不見,人工智能的健康發展,一定是治理和發展雙輪驅動,要保證它向著正確的方向發展。圖為在中關村國際前沿科技成果展上,參觀者與服務型機器人互動。圖/視覺中國

  【財新網】(記者 葉展旗)在人工智能(AI)發展過程中,真正的風險并不是人們想象的超級智能,而是現已涌現的安全、倫理問題。10月31日,在2019北京智源大會上,中國科學院自動化研究所研究員曾毅接受財新等采訪時表示,實際上很多企業對存在的風險視而不見,人工智能的健康發展,一定是治理和發展雙輪驅動,要保證它向著正確的方向發展。

  曾毅舉例稱,當用對抗神經網絡生成一個烏龜的3D模型,谷歌的分類系統就有80%的幾率,把這個烏龜的模型識別成來福槍,另外20%的幾率識別為其它的東西,但也絕對不會是烏龜。這也就是說,系統沒有一次能把3D烏龜模型成功識別出來。因為對抗神經網絡改變了3D烏龜模型的局部紋理,使得基于統計意義的分類系統,沒有辦法把它識別出來。

責任編輯:屈運栩 | 版面編輯:張柘
財新私房課
好課推薦
財新微信


熱詞推薦
中央軍事委員會 冀中星 醫學生 孟晚舟 第一集團軍 全國人大常委會 存貸比 股災 中遠集團 人工心臟 敲詐勒索罪 五大戰區 僭越 一致行動人 昆明火車站暴恐案
大乐透截止到几点停售