“深度學習”獲圖靈獎 它能避免波音空難嗎
2019年04月09日01:11

原標題:“深度學習”獲圖靈獎 它能避免波音空難嗎

“深度學習”獲圖靈獎 它能避免波音空難嗎

科普之家

假如波音737MAX8的自動預防失速系統稍微有一點深度學習的要素在,也許就可能避免飛機墜毀。

近日,美國計算機學會(ACM)宣佈將2018年圖靈獎頒發給深度學習領域的三位先驅——約書亞·本吉奧、傑弗里·辛頓和雅恩·勒昆,以褒獎他們推動深度神經網絡成為計算機技術的重要組成部分。

如果波音飛機能深度學習,空難或可避免

這一獲獎成果不禁讓人想到最近波音公司的兩起空難——一起是去年10月29日發生的印尼獅航波音737MAX客機墜機事件,另一起是今年3月10日發生的埃航波音737MAX8客機墜機事件。這兩起事件都是因與自動控製系統有關的機頭向下俯衝而墜毀。

為何會做此聯想呢?因為導致空難的自動預防失速系統(MCAS)是一個簡單的自動系統,也即初級的人工智能(AI)或機器學習。它只是按照人給它設計的參數,並通過迎角傳感器接收數據後做出判斷,並產生指令,啟動MCAS,讓機頭擺平和向下。這其實算不上深度學習,而只是一種簡單學習和執行指令。

問題在於,如果MCAS有深度學習的能力和程序,是否會避免墜毀?答案是,很有可能。

本吉奧、辛頓和勒昆三人的主要貢獻是提出了深度學習的理論,並在實踐中取得了顯著進展。他們對於機器人或人工智能的理解是,如果要讓機器像人一樣工作,就需要擁有像人一樣的神經系統,因此要為機器建造人工神經網絡。

人工神經網絡是模仿人的大腦和神經系統機製,在計算機中模擬出一層或多層被稱為“神經元”的計算單元,使它們之間通過加權連接而互相影響。通過改變這些節點的加權值,可以改變人工神經網絡的計算性能和學習能力,從而指揮機器像人一樣工作。

深度學習的獲獎其實就是在檢驗當初人們提出的人工智能的四個模型:像人一樣思考、像人一樣行動、理性地思考和理性地行動。實際上,現在的人工智能只能很簡單地像人一樣思考、像人一樣行動。但只要簡單做到了這一步,就有可能避免波音737MAX8的自動預防失速系統導致的災難。

所有自動系統都必須服從於人工操作

傳統的或更初級的自動化模式,是通過事先定義好的規則模板,和人工設計的算法等來指導機器執行和行動,波音737MAX8的自動預防失速系統就是如此。只要飛機的迎角傳感器感受到飛機機頭上升超過一定數值,就會自動啟動MCAS,以拉平機頭和讓機頭向下飛行。

然而,三位獲獎者之一的辛頓多年來一直堅持,未來的AI應當更進一步,機器應當學會深度學習。他們不會得到如何解決某個任務的具體說明,但可以像人類一樣思考,依靠直覺而不是規則行事。也就是說,要讓裝有AI的機器像人一樣思考、像人一樣行動。

現在看來,波音737MAX8的自動預防失速系統在初級階段就不聽從人的指揮了。調查表明,埃航的飛機墜毀前,當值飛行員曾遵循波音公司的緊急應對程序進行操作,但仍未能重新控製飛機。

這說明,要麼是737MAX8的自動預防失速系統難以操控,要麼是這種初級的自動化模式有時會出錯,有時會不服從人工操作。

首先是,737MAX8飛機的迎角傳感器可能出錯,讓機器獲得錯誤數據。MCAS一旦感知錯誤的迎角數據,以為飛機正在異常抬升,便會按設計的邏輯和程序自動啟動這一系統。而且,這個系統還會頑固地執行人工設計的算法指令,每隔5秒就會壓低機頭,糾正駕駛員的人工操作,以致讓人工操作和自動系統處於反複糾纏的博弈中,最終自動系統戰勝了飛行員的人工操作,飛機墜毀。

假如737MAX8的自動預防失速系統稍微有一點深度學習的要素在,也許就能避免飛機墜毀。因為,即便它錯誤地感知了機頭仰角數據而壓低機頭,但飛機機頭一旦向下俯衝,墜機將不可避免地到來時,自動預防失速系統也會像人一樣思考和行動,用不著駕駛員抬拉機頭,飛機的總操控系統也會自動切斷該系統,同時拉升抬高機頭,避免飛機墜毀。

這也提醒我們,即便未來飛機使用上了全AI系統,有一個原則也是必須執行的——所有的自動系統都必須服從於人工操作,一旦人工接手,就自動切斷所有的自動操作。因為只有人的感覺和認知才是正確的,機器和AI只是在幫助人,而不能反過來指揮人和駕馭人。

□張田勘(學者)

關注我們Facebook專頁
    相關新聞
      更多瀏覽