沈向洋:AI是個黑盒子 需構建更加負責任的系統
2021年04月28日19:33

  新浪科技訊 4月28日晚間消息,微軟原全球執行副總裁、美國國家工程院外籍院士、英國皇家工程院外籍院士沈向洋今日表示,AI是個黑盒子,人們在使用時需要更加地謹慎,也需要構建更加負責任的系統。

  近年來,人工智能取得的成就和進步已經超越了五到十年前人類的想像。按照基準日期的設定,人工智能在演講、視覺和自然語言等方面的功能,已經逐漸接近人類水平,在語音翻譯,智能交互等領域,人們已經看到了越來越多AI賦能生活場景的真實案例。

  AI,確實已經在做一些獨立的決定了,但是,這些決定卻並不是我們都完全能夠知道的。在沈向洋看來,雖然得益於深度學習算法的突破,最近一次人工智能技術及其產業化確實取得了重大的突破性發展,但由於深度學習系統的複雜性與黑盒化,這導致了人工智能系統內部的發展,存在著越來越多並不公開透明的地方。

  據沈向洋介紹,在美國的部分州級區域,當地政府雖然已實現了利用AI系統去審判罪犯罪行的業務,但由於AI系統黑盒化的原因,官員們對於自己正在使用的AI系統理解並不深刻,在該系統的公正性受到外界質疑並引來微軟技術團隊的反向推理驗證之後,該系統最終被證實確實存在種族歧視、性別偏見等缺陷,但此前使用該系統的人員對此並不知曉。

  “人們在使用AI的時候,需要更加地謹慎。”沈向洋建議人們在使用AI系統的時候,需要更加審慎。由於許多構建人工智能技術和應用的AI產品人員並沒有充分考慮公平和透明等社會性問題,而目前的AI系統更多是基於歷史數據的學習分析,於是自然也會存在一些特定的認知偏差與理解誤區。

  “在從弱人工智能走向強人工智能的過程中,或許我們更需要一個負責的人工智能。”沈向洋表示。而針對於如何構建一個負責任的人工智能系統,其介紹了微軟研究院提出的人工智能系統發展“六大原則”:公平、可靠和安全、隱私和保障、包容、透明、負責。

  在沈向洋看來,人工智能發展的時候需要像其他工程技術領域一樣,需要有一個預設的標準和規約,除此之外,還需要產業界、學術界和政府等層面的人共同參與遵守,這樣AI才能更好地服務社會。(文猛)

關注我們Facebook專頁
    相關新聞
      更多瀏覽