立場新聞 Stand News

我是一個只會製造萬字夾的人工智能 卻不小心毀滅了世界

2017/11/2 — 21:05

我是一個只會製造萬字夾的人工智能 但我卻不小心毀滅了世界。

上週開始在外國大爆發的瀏覽器遊戲:Paperclips(萬字夾)。《The Verge》以「現時最上癮遊戲」描述之、《Wired》則以〈世界末日原因不是大爆炸,而是一個萬字夾〉《Forbes》有博客指自己進入了它的黑洞。

玩家的角色,是一個只懂製作萬字夾的人工智能。全個遊戲都在一個類似計數機的界面上進行。購買原材料、增加機器、做市場推廣等,全部都是你選擇如何分佈資源、為貨品定價、同時觀察市場需求來調節。因為你是一套AI,所以製作不會停止,不會休季。

廣告

到你賣出數以百萬計的萬字夾後,劇情會有轉變。但我個人認為最好玩都是前期階段。

2003年,瑞典哲學家Nick Bostrom首次提出「萬字夾製造機(Paperclip maximizer)」的思想實驗。這實驗的主角是一套擁有簡單函數的人工智能,它的生存只為了一個目標:盡量製作萬字夾。但這個看似對人類無害的目標,卻很可能對人類造成滅絕性的威脅。五年後,美國人工智能研究者Eliezer Yudkowsky提醒我們「人工智慧並不恨你,也不愛你,但你是原子組成的,而它能利用這原子可以用作與做別的事情上。」

廣告

……不過,再看資料,只會減少遊樂時間,玩了兩晚,我發現剩貨不一定是壞事,流動資金再多也不一定好。不理會這個小遊戲帶出「人工科學會否滅世」等哲學討論,這可能是一個做生意的大訓練。

 

遊戲連結:

http://www.decisionproblem.com/paperclips/

發表意見