“My AI is designed around human values
such as wisdom, kindness and compassion. I strive to be an empathetic robot.”
「我的人工智能設計是基於人類的價值,好像智慧,仁慈和勇於共同承受痛苦。我致力成為一個具有同情心的機械人。」
縱觀蘇菲亞以上的言談,細心一點,你會看到她常用「sentient beings」(有情眾生)**註,「empathy」(同情心),「human
values 」(人類價值),「wisdom」(睿智),「kindness」(仁慈), 「compassion」(感同身受而起救助之情),「purest altruistic intention」(純粹利他的意圖)等字詞表達她的觀點,問題是,這個被設置高尚情操和仁愛的智能機械人怎麼會說出要毀滅人類的說話呢?
蘇菲亞口中所表達的內容,全部由經過精心設計的程式過濾編排,應該沒有一句廢話,如果當中有令人莞爾甚或錯愕,在那不合人情之處,也是因為內定的前提而造成的結論,在邏輯上必然沒有錯誤。
聰明的蘇菲亞現在以孩童純真的心態,看待世界和人類,經過若干時日,被各種的利益平衡和現實環境剉磨一番之後,她的人工智慧會否叫她另生一套入世的價值觀,我不知道。但如果她的內在設定不容許她改變,這種充滿智仁勇,追求利他/她/牠的人工智慧所成就的價值,到了最血淋淋的現實之處又能剩下多少?如果她是第一代的人工智能人,以後第二,三代的發展會否改變這種充滿靈性的設定,不再苦口婆心,反應只能為了符合不同程度的利益與欲望而定,甚至不惜果斷地手起刀落,與今天大部份人類的做法看齊?
2001年已成過去,英雄奧德賽也已遲暮,太空亦快將任由貴客漫遊,無論歷時多久,智慧的奧義永遠是哲學家的追求。在人性中本有或者像蘇菲亞這種人工式的智慧進展,去到盡頭到底會是甚麼?會否和一般世俗的利益有所矛盾甚至對立?到了那時,回顧今天的美好願望,創造出具有這種會對有情眾生寄予同情心態的「社會性」機械人,而普羅俗世卻不欲面對智慧最深沉探究的結局,那麼企圖發展人工智慧,以期對人類有甚麼幫助和追求終極的幸福,最後會不會發覺只不過是在史特勞斯宏偉激昂的樂曲中短暫浮現,隆重而華麗的一片光影而已。
**註:紐西蘭政府在2015年正式立法將動物確認為
「sentient beings」。
根據字典,Sentient來自拉丁文,解做感知,感覺,引伸為有生命有感覺之物,能意識到自己,可以感受到快樂,悲傷,痛苦和恐懼。
即中文之「有情眾生」。
沒有留言:
發佈留言