人工智能：“花?！敝氯杂小扒G棘”

　　圖為工人在河北滄州中捷高新區(qū)一間汽車部件生產項目廠房內調試焊接機器人。 新華社記者 楊世堯攝

　　由于無人駕駛汽車的無人操作與各國現(xiàn)有道路交通法規(guī)抵觸，相應立法和規(guī)范一直是其發(fā)展的重要前提條件。圖為無人駕駛汽車的探測方式模擬圖。

　　中國科技大學研制的智能機器人與小朋友互動。 （資料圖片）

　　人工智能可以同聲傳譯、寫新聞稿、協(xié)助醫(yī)生看病、讓機器人臉識別的精度高于人類、甚至寫詩和戰(zhàn)勝圍棋世界冠軍，其應用可謂“百花齊放”。

　　數(shù)據(jù)顯示，截至2017年6月，全球人工智能企業(yè)總數(shù)達到2542家，預計到2030年，人工智能將為世界經濟貢獻15.7萬億美元。

　　在今年7月國務院印發(fā)的《新一代人工智能發(fā)展規(guī)劃》（以下簡稱《規(guī)劃》）中提出，到2020年，我國人工智能核心產業(yè)規(guī)模超過1500億元，帶動相關產業(yè)規(guī)模超過1萬億元。頂層設計相繼出臺，巨頭發(fā)力布局生態(tài)，資本市場熱情洋溢，細分行業(yè)獨角獸不斷涌現(xiàn)，人工智能這片“花海”已不止“看上去很美”。

　　但“花海”之下仍有“荊棘”。市場研究機構埃森哲大中華區(qū)信息技術服務總裁陳笑冰坦言：“人工智能也將會引發(fā)新的安全和倫理問題，鑒于未來人工智能將深入生活，政府也需要切實為人工智能制定監(jiān)管規(guī)則，保證人工智能應用合理合規(guī)發(fā)展。”《規(guī)劃》也同時提出：“人工智能發(fā)展的不確定性帶來新挑戰(zhàn)。人工智能是影響面廣的顛覆性技術，可能帶來改變就業(yè)結構、沖擊法律與社會倫理、侵犯個人隱私、挑戰(zhàn)國際關系準則等問題，將對政府管理、經濟安全和社會穩(wěn)定乃至全球治理產生深遠影響。”

　　人工智能發(fā)展將面對怎樣的挑戰(zhàn)與風險？又應該設立怎樣的“游戲規(guī)則”，讓新技術能夠與人類社會良性互動？

　　監(jiān)管剛剛起步

　　人工智能不斷融入人類生活的同時，也引發(fā)公眾對人工智能的憂慮。對此，專家表示，應該建立監(jiān)管機構來引導、促進和保障人工智能的健康發(fā)展

　　此前有報道稱，“臉書”人工智能研究所中的兩個聊天機器人“失控”，發(fā)展出了人類無法理解的語言，“被迫關閉”引發(fā)了廣泛關注。盡管隨后被證明是一場“烏龍”，只是因為工程師忘記加入“使用英語語法”這一條件。

　　但對事實的夸大報道，也顯示出媒體和公眾對人工智能的憂慮。在北京市中盾律師事務所律師陳濤看來，隨著人工智能深入融入生產和生活，必須以立法來對其安全性進行監(jiān)管，給公眾吃下“定心丸”?；ヂ?lián)網汽車的特斯拉埃隆·馬斯克也表示，我們應該警惕人工智能崛起的潛在風險，并建立監(jiān)管機構來引導這項強大技術的發(fā)展。

　　對人工智能進行立法監(jiān)管，首先要解決人工智能使用中基本的安全問題，以及使用者與服務提供者的責任界定問題。以無人駕駛汽車為例，上路前，對其安全性如何全面評判？一旦無人駕駛汽車出現(xiàn)事故，如何判斷使用者、軟件提供商以及車輛制造商等多方主體的責任，如何在后續(xù)賠償和保險理賠中進行規(guī)定？實際上，立法監(jiān)管不僅降低風險，也讓服務企業(yè)能夠“有據(jù)可依”，從而促進和保障人工智能的健康發(fā)展。

　　從目前來看，各個國家的人工智能監(jiān)管都剛剛被提上日程。在美國，2016年10月，總統(tǒng)行政辦公室和國家科技委員會發(fā)布了兩份重量級報告：《美國國家人工智能研究發(fā)展戰(zhàn)略規(guī)劃》與《為未來的人工智能做好準備》，后者提出了發(fā)展人工智能的7項關鍵戰(zhàn)略，在第三條“社會影響戰(zhàn)略”中，提出“理解和確定人工智能在法律、倫理和社會領域中的影響”；在第四條“安全戰(zhàn)略”中，則提出“確保人工智能系統(tǒng)的安全和對公眾的隱私保護”。

　　在歐盟，2016年歐盟法律事務委員會向歐盟提交了《歐盟機器人民事法律規(guī)則》，針對基于人工智能控制的機器人，提出了使用的責任規(guī)則、倫理原則、對人類自身和財產的傷害賠償?shù)缺O(jiān)管原則。英國下議院科學技術委員會在今年4月表示，也將開展關于人工智能監(jiān)管的研究。

　　在我國，《規(guī)劃》中同樣提出，到2020年，“部分領域的人工智能倫理規(guī)范和政策法規(guī)初步建立”。其中特別提出，要“開展與人工智能應用相關的民事與刑事責任確認、隱私和產權保護、信息安全利用等法律問題研究，建立追溯和問責制度，明確人工智能法律主體以及相關權利、義務和責任等”，“重點圍繞自動駕駛、服務機器人等應用基礎較好的細分領域，加快研究制定相關安全管理法規(guī)，為新技術的快速應用奠定法律基礎”。

　　不過，對人工智能的監(jiān)管也不能“閉門造車”。“立法的前提是了解人工智能的科學規(guī)律，需要充分準備、摸索和積累，對技術進步充分了解，同時考慮公眾的實際需求。”陳濤表示。

　　安全仍有漏洞

　　安全是人工智能面臨的巨大挑戰(zhàn)。這其中既包括在應用層面的傳統(tǒng)黑客攻擊方式，也存在著對基礎設施方面進行的數(shù)據(jù)庫、云服務等攻擊。但更關鍵的安全問題是從最核心的算法層面發(fā)起攻擊

　　兩張人眼看起來一模一樣的熊貓圖片，一張被神經網絡正確識別為“熊貓”，另外一張卻因為被加上了人眼難以察覺的微小擾動，就被神經網絡以99.3%的置信度識別為“長臂猿”——這就是可以“愚弄”人工智能的對抗樣本，直接折射出人工智能所面對的安全問題縮影。

　　專注于互聯(lián)網安全的極棒實驗室總監(jiān)王海兵告訴《經濟日報》記者：“安全是人工智能面臨的巨大挑戰(zhàn)。”他表示，一方面，人工智能要面對傳統(tǒng)的黑客攻擊方式，比如在應用層面，可以攻擊它的操作系統(tǒng)或者邏輯漏洞。“比如說，通過對智能門鎖的攻擊，就能實現(xiàn)任意人臉都可以通過門禁。”在人工智能的基礎設施方面，則可以對人工智能使用的數(shù)據(jù)庫、云服務等進行攻擊，“比如說，機器視覺經常調用的OpenCv庫，機器學習用到的TensorFlow框架，人工智能的從業(yè)者可以直接調用這些服務，但不幸的是，這些基礎設施同樣有漏洞。”王海兵說。

　　然而，人工智能所面對的更關鍵安全問題，正是諸如熊貓圖片這樣的對抗樣本。王海兵表示：“用對抗樣本攻擊人工智能，其實就是從最核心的算法層面來攻擊它。”

　　美國加州大學伯克利分校教授宋曉冬這樣介紹對抗樣本攻擊的危害：“比如，無人駕駛汽車根據(jù)交通標示進行決策。如果交通標示是一個對抗樣本，那么人類可以完全不受干擾，但無人駕駛汽車卻可能將它完全識別成錯誤信息，這將帶來嚴重后果。”實際上，美國伊利諾伊大學的一項測試已經證明，自動駕駛系統(tǒng)有可能被對抗樣本“蒙騙”。

　　“但公眾不用過于擔心，至少現(xiàn)在來看，針對自動駕駛的對抗樣本對抗性很差。比如，它只能在0.5米的距離內讓自動駕駛系統(tǒng)錯判，但自動駕駛場景畢竟是逐漸接近交通標識的。”王海兵也表示，“未來會不會有更完美的對抗樣本，仍是未知數(shù)”。

　　人工智能面對眾多安全問題，對此，開發(fā)者也在努力總結與之對抗的手段。智能家居生產廠商BroadLink高級副總裁康海洋表示：“我們會將多方數(shù)據(jù)融合和統(tǒng)一分析，以提升數(shù)據(jù)的可信程度，同時也在盡量讓整個系統(tǒng)變得更加透明。此外，我們還會及時銷毀所有能銷毀的數(shù)據(jù)，減少用戶被攻擊的可能性。”

　　倫理尚待明確

　　告訴人工智能何為“正確”，正在成為當務之急。如果不對其進化方向和目標形成共識，人工智能的倫理規(guī)則將無法“落地”

　　如果保持前行，會撞上沿途的5位行人；如果避開他們，就會撞上路邊的墻，車中的兩名乘客則可能有生命危險。在這種情況下，指揮自動駕駛的人工智能應該如何選擇？英國倫敦瑪麗女王大學高級講師雅思密·艾登表示：“如果是人類駕駛員，大可以直接撞上行人，并表示‘是他們自己突然跳出來的’，但人工智能在道德上很難獲得這么奢侈的原諒。”

　　這只是人工智能所處倫理困境的冰山一角。今年以來，麻省理工和哈佛大學聯(lián)合推出了人工智能倫理研究計劃，微軟和谷歌等巨頭也成立了人工智能倫理委員會，告訴人工智能何為“正確”，正在成為當務之急?！痘ヂ?lián)網進化論》一書的作者、計算機博士劉鋒坦言：“盡管大方向上說，人工智能應當以造福人類為前提，但如果不對進化方向和目標形成共識，人工智能的倫理規(guī)則將無法‘落地’。”

　　對于人工智能來說，“倫理正確”的核心是正確的“算法”。美國一些法院使用的一個人工智能犯罪風險評估算法COMPAS，被第三方機構認為對黑人造成了系統(tǒng)性歧視。業(yè)界因此懷疑，小眾人群有可能因為個體差異而承受“算法的歧視”。騰訊研究院研究員曹建峰表示，如果算法本身有問題，一旦將算法應用在犯罪評估、信用貸款、雇傭評估等關乎人身利益的場合，“因為它是規(guī)?；\作的，并不是僅僅針對某一個人，可能影響具有類似情況的一群人或者種族的利益。規(guī)模性是很大的”。

　　此外，還有來自數(shù)據(jù)的風險。以色列歷史學家尤瓦爾·赫拉利表示，“人工智能技術的一個潛在結果是：促成數(shù)據(jù)集中到某一個地方，也進而導致權力的集中”。比如，大量互聯(lián)網數(shù)據(jù)集中在少數(shù)幾家巨頭的手中，人工智能技術是否會因此遭到壟斷？“AlphaGo之父”哈薩比斯就曾表示：“我提醒諸位，必須正確地使用人工智能。”他告訴記者，“人工智能技術不能僅為少數(shù)公司和少數(shù)人所使用，必須共享”。

　　AlphaGo超越了人類幾千年來對圍棋的理解，但人類并非能完全理解AlphaGo為何會如此決策。從這一點來看，人工智能像個“魔盒”，這也讓透明性成為人工智能倫理中的重要組成部分。英國阿蘭圖靈研究所科研主管安德魯·布萊克表示，算法可問責性的存在至關重要。“透明性規(guī)則應被作為倫理道德準則，編入算法之中，這樣人們才能更為清晰地認知人工智能的社會影響，并在問題發(fā)生之時能夠及時找出原因，調整策略。”（記者 陳 靜）

　　版權及免責聲明：凡本網所屬版權作品，轉載時須獲得授權并注明來源“中國產業(yè)經濟信息網”，違者本網將保留追究其相關法律責任的權力。凡轉載文章，不代表本網觀點和立場。版權事宜請聯(lián)系：010-65363056。

延伸閱讀