時間：2018-09-24 來源：互聯網 瀏覽量：
“當基於人工智能的機器人能夠真正感受到自我意識時，人工智能的安全和道德挑戰會更加複雜。屆時，他們應該像人一樣對待嗎？”
9月18日，2018世界人工智能大會安全高端對話在上海舉行，峰橋集團公司總裁陳實在發表對人工智能安全倫理規範的幾點思考時問道。
2018世界人工智能大會安全高端對話現場
陳實曾任通用汽車（中國）有限公司副總裁及通用汽車（中國）北京分部總經理、微軟公司副總裁及大中華區法律及公司事務部總經理，今年年初卸任了在微軟的職務, 從事谘詢工作。會後，他接受了澎湃新聞（www.thepaper.cn）的專訪。
人工智能距離人的智慧還有很遠
在演講中，陳實談到，現下流行的人工智能技術主要基於數據驅動的優化方法來解決特定的具體問題，而不是一般問題。
“我們都對AI在國際象棋和圍棋等遊戲中擊敗人類印象深刻。然而，遊戲隻代表一類智力活動，其中遊戲的規則是確定的，獲勝目標也是明確定義的。但在現實世界中，規則並不總是很明確確定，目標也可以不斷變化。”
他告訴澎湃新聞，人工智能在遊戲領域可以做到很“聰明”，但這是一種狹隘的“聰明”，“如果把這種智慧想象成為能做任何事情的話，我覺得誇大了。”
“機器可以玩遊戲，可以玩得比人好，但是目前沒有哪一款受人歡迎的遊戲是機器設計的。機器可以參加高考，並且考得很好，因為不管是數學題還是化學題，都有嚴格的規則和正確答案，但是有沒有高考題目是機器出的？”
他認為，人之所以聰明，是因為不僅見多識廣，而且能夠融會貫通，不僅能學習知識，還能夠進行抽象、總結，應用到其他的領域。這種常人具有的智慧在機器上談何容易？
圖靈獎獲得者Raj Reddy在17日在世界人工智能大會主論壇的發言中表達了對人工智能的積極看法。麵對AI，他看到的是積極和繁榮景象，縱觀過去幾百年的曆史，戰爭來源於每個人都想獲取別人的資源，而當人工智能賦予全人類富足的資源，戰爭自然消弭於無形。
陳實對此表示讚同，“有很多人對AI的發展都有點擔憂，但我認為AI就是一個十分有用的工具，用的好的話可以造福於人類的。”
他指出，人工智能不是萬能的，但它確實讓每個行業發生了改變，每個行業都要數字轉型，都要利用人工智能來提高效率、擴大服務功能，人工智能已經帶來了一場革命。
對人工智能可能產生的安全道德問題還沒有好的答案
由於人工智能存在的局限性，隨之產生的安全和道德問題需要人們關注。
陳實在演講中談到，機器學習的結果會受到訓練數據質量和算法假設的影響，許多機器學習方法沒有成熟的自我糾錯機製。
譬如，誰應對以下錯誤負責：基於人工智能的投資損失；基於人工智能的信用評估中出現貸款拒絕；基於AI的醫療診斷係統發生了醫療事故？
此外，算法建模的偏見和數據收集中的差錯可能導致決策偏見，不穩定和易受操縱。這一點在數字營銷、政治選舉等事例中已經時有發生。
在道德層麵，人工智能開發團隊麵臨的考驗更大。
可能產生的問題例如，人工智能可以大規模提高效率和生產力，但可能隻會使少數人受益；人工智能可以操縱人類行為，例如遊戲成癮、投票偏見、媒體炒作：人可能無法閱讀/查看想要讀到的客觀內容，而閱讀到別人希望他閱讀的內容。
人工智能開發人員可能會將他/她的意識形態、道德信仰、道德規範注入到算法中，這些算法在社會上可能無法被接受或認定是道德合理的。
接下來的問題是，如果一個機器人有像人類一樣的感覺和意識，它是否具有像人類一樣的機器人權利？
“我們對這些問題沒有答案，至少是好的答案。這就是我們今天在這裏討論人工智能安全和道德的原因。”他說道。
傳統車企和軟件互聯網企業應合作研製自動駕駛汽車
對於時下熱點，陳實也與澎湃新聞分享了他的看法。
兼有在通用汽車和微軟公司的工作經曆，陳實認為，傳統車企和軟件互聯網企業在研發製造自動駕駛汽車上，各有各的優勢，最好兩方麵合作。“完全搞互聯網的，不一定能夠做出一輛汽車，完全搞汽車的，也未必能做出自動駕駛的車。”
他認為，人工智能不會像AR、VR或者區塊鏈一樣隻是一個風口，AR、VR、區塊鏈隻是技術的某些應用，但人工智能的實用範圍更加廣大，應用無處不在。
“現在人工智能的智能化程度越來越高，機器人裝了傳感器，能夠感知環境，從而表現得更加智慧，應用更加廣泛；在語音識別方麵，它能夠聽懂人的話，然後進行翻譯。從感知到語言，機器人就可以獲得知識，有了知識以後未來或許就能產生創造力。”他對此表示樂觀。
對於人工智能進一步的發展，陳實提出應該加強跨學科合作。
“其實人工智能涉及的學科很多，如果是計算機科學、物理學、生物學、哲學、心理學、大腦科學等學科能夠在一起的話，我覺得可以研究出一些更具有一般智慧的廣泛應用。”他說。
