立場新聞 Stand News

【書評】騎呢頂住:誰能駕馭科技?

2016/8/8 — 10:25

今年五月初,一輛 Tesla 電動車在佛羅里達州公路上全速撞向大貨車,40 歲司機 Joshua Brown 當場喪生, 成為首位汽車自動駕駛系統失靈的受害者。生產商向參議院調查委員會指證,元兇是自動剎車系統,和導航軟件無關。老板 Elon Musk 則在推特解釋,自動駕駛軟件未竣完美,目前不能取代司機。

可是,從來沒有完美的科技。電腦生物學家 Samuel Arbesman 在新書 “Overcomplicated: Technology At The Limits of Comprehension” 中指出,科技只會越來越複雜,終會超出人的認知範圍,但不要期望有一些簡潔的物理規律能操控及預知其效果及風險。

2009 至 2011 年間,美國豐田車廠因旗下汽車無故加速導至多宗致命車禍,被勒令大規模回收多個型號。包括太空總署專家在內的調查團隊始終找不到肯定的原因,只能歸咎軟件過份複雜,妨礙徹底測試及排錯 (debug),因此出現無人能料的錯誤。既然不能保證意外不再重演,有專家建議,失控時將變速器推入空檔,就如手機或電腦「當機」,希望關機重開就沒事。

廣告

可想而知,互聯網、金融市場、跨境電網等大型系統「當機」造成影響全球的混亂之後,更難捉出錯蟲,往往只能見招拆招,左修右補。像膠布繃帶纒滿一身的系統很快就變成電腦人稱為 kludge 或 kluge 的怪物,筆者音譯「騎呢頂住」最貼切不過。作者說,「人類一手創造的科技世界已變得太複雜,超越了人腦的理解能力。我們的惡夢並不是進化生成自我意識後向人類宣戰的 Skynet 天網,而是一團糟的系統,錯綜複雜得任何想得出或想不出的錯失都必然發生,而複雜性 (complexity) 的後果總是意料之外,出錯後才能察覺。」

人類累積的智識還能讓少數通才全盤掌握的日子早已遠去,John Wozniak 最後一次一人包辦軟硬件設計的蘋果電腦亦已是卅多年前的事物。現在,微軟 Office 軟件程式長達數千萬行,美國聯邦稅法有七萬多條⋯⋯專家只能認識併圖的一角,沒有人能對全局瞭如指掌。作者擔心,只重鑽牛角尖的學院不能培養現代科技社會所需的通才。甚麼都懂的「文藝復興人」只能在文藝復興時期出現,能駕馭科技複雜性的新式通才將會是一種既在專業範籌有深入認識,又對不同領域有廣闊涉獵的「 T 型人」。他們必須「揭開引擎罩」,直面科技內裡的煩瑣紛亂,不再企圖在那複雜的世界歸納出能準確地描述一切現象的規律。T 型人的思維更接近田野生物學家,他們透過觀察、紀錄和分類,以及使用統計、模擬等工具去認識及預測複雜系統的特性,在無可避免的出錯中評估及更新風險。在未來的科技世界,我們需要新一代的使者傳遞和詮譯訊息,以及提供有有效的捷徑 (heuristic) ,以穿越或繞過各層面之間的系統大纒繞 (entanglement)。

廣告

作者無意危言聳聽,但認為必須持謙卑的科學態度,既不甘於無知地盲目崇拜,亦不對局部認識過份自信。唯有這種思維,才能面對和解決科技帶來的疑難。Arbesman 笑言,「推入空檔」就能解決的錯蟲,其實不是最壞的事。在充滿「騎呢頂住」的新現實裡,司機和設計師同坐一條船,大家都不能預知複雜系統的全部行為。

 

原文刋於蘋果日報 What we are reading

發表意見