未來我們會否被機器人奴役滅亡?
2003年6月25日,英國作家喬治.奧威爾誕辰100週年紀念日,比爾.蓋茨站出來發表了一個演講。在蓋茨看來,「奧威爾所描繪的未來可怕野蠻景象,即技術作為統治社會的工具,並未成為現實,而且我也不相信未來會變成那樣」。
不管是《機械公敵》還是別的,都在討論一個問題,就是人類從哪裡來,到哪裡去的根本哲學命題,人類將怎麼進步,怎麼毀滅。
對未來的思考無非兩種,一種是對科技發展趨勢的判斷,一種是對科技發展後,人與科技的新關係的辯證。現在的人對未來的想像,總是有點「惡俗」。因為人是按照過去發生的事情解釋未來發生的事情,用已經掌握的規律判斷世界的走向。但是這不是判斷的唯一路徑。宇宙誕生在一秒間,那一秒也誕生了時間、光、物質、距離和很多,我們所處的時代仍在爆炸,它還能誕生出很多新的東西。如果我們先於宇宙存在,我們不知道什麼是時間,那麼我們不可能預測出宇宙誕生後的未來;那麼,我們不知道現在還能爆炸出什麼,我們也不能預測今後的歲月。如果預測總是建築在已知的學問上,它就沒有翅膀。士郎正宗,這個全球揚名的硬科幻漫畫家,不乏認真地說:我們現在不能確定人是不是有靈魂,但也不能因此否認,以前,我們不是連空氣是不是存在都不知道?
阿西莫夫定義了人和機器的倫理,但這種倫理只是未來無數要被破壞的東西的一種。人類現在的思維方式,的確存在了好幾千年,它的壯大也走過了漫長的路程,長得人們都忘記了沒有它的時候,以為它總是統治著我們的思想。沒有什麼是永恆的,當人類需要廢止自己建立的倫理時,肯定毫不猶豫。因為在破壞它之前,它已經支離破碎了。
到底什麼東西能讓現在的倫理支離破碎呢?我們還想不出。但是那不是最困難的問題,科學的進步會粉碎很多桎梏,人類對智慧的追求也會破除很多看似有理的風俗。就對未來世界的想像來說,其中最大的庸俗是關於制度的想像。我們目前擁有的制度有持續那麼久的生命力嗎?換句話說,人和機器誰統治誰也許是最庸俗的問題。未來人與社會的共生方式是什麼樣的呢?科幻家們想了很多人與人之間,人與機器之間,地球與其他星球之間的關係,但是在某種意義上說,他們都沒有脫離「強權」的慣性思維---難道人類只有這麼一種治理自己的方式嗎?如果能夠製造高水平的人工智慧,為什麼不能構筑一個高水平的社會形態?思考是漸進的,這條路上的許多小岔口小分支我們想像不出,但是人類很可能通過對這些小岔口的理智選擇,避免悲慘命運的發生。
事實上,《機械公敵》所設想的未來,幾乎沒有實現的可能。但是,它和許多它的同類作品能夠成為一種語碼,它讓大家對網路,對機械,對科技倫理都有所思考。或許這思考是孤立的,靜止的,但全球,有幾億人都思考過的一個陷阱,人類恐怕就不會再跳進去了吧。這,大約就是這些科幻電影的最大的價值。Arthur Clarke,這個公認寫出歷史上最棒的硬科幻大師曾經說:我們寫科幻,與其說是為了預測未來如何發生,還不如說是為了讓未來不這麼發生。
在牛頓看,上帝是一個鐘錶匠,他製造了一個很精密的鐘錶,然後一上發條,這隻鐘就開始走下去。人類有很多毀滅自己的機會,但是也都在毀滅之前就把自己拯救出來了。我們對遙遠的未來,還是不要太悲觀。因為我們對未來的思考,從未停止過。
機械倫理 拒絕製造人類公敵
《機械公敵》的7月首映延續了近年好萊塢一年一部「人機大戰」的習慣,從1999年起的《黑客帝國》、《人工智慧》、《終結者Ⅲ》和《黑客帝國Ⅱ、Ⅲ》,人和機器的關係變得空前緊張。
《機械公敵》講述了一個發生在2035年的故事,彼時,機器人已經是人們生活中不可或缺的物品和勞動替代品。在機器人三大定律的約束下,它們得到了人類的信任並被委以重任。只有一位偏執的芝加哥偵探警察(威爾.史密斯飾)總是對機器人有所懷疑。某日,他接到命令,去調查一項蹊蹺的凶殺案……在調查中,他發現機器人研究中心的負責人行跡可疑,而最後從研究中心泄露出的秘密更加驚人:似乎已經有部分機器人開始不受控制了,整個人類都面臨著來自機器人世界的滅種威脅……
說到機器人三定律,就不得不說到科幻大師阿西莫夫,本劇正是根據他的經典科幻短篇小說集《我,機器人》改編。
人類會不會為自己開發出的高科技反噬?這一命題不是好萊塢的獨創,略有科幻作品觀賞經歷的人都知道,這是「瘋狂的科學家和他造出的科學怪人」的故事的最新文本,但這一命題卻比一切時候都逼近了我們:80年代以來,人類進入了新一輪經濟與科技高速發展的螺旋,科技對於生活的改變也達到前所未有的程度,生物技術與化學技術的結合使人類合成和移植自身的能力一路走強。
科技進步---這恰恰也是第一部科幻小說誕生的背景。
180年前,雪萊夫婦、拜倫以及拜倫的私人醫生聚會時,有人提出大家各寫一篇鬼怪故事。雪萊的妻子、年僅19歲的瑪麗以當時剛剛發現不久的生物電流現象為基礎,描寫了一個叫做弗蘭肯斯坦的年輕人從停屍房取得人體器官,拼合成一個人體,並藉助電擊使人體獲得新生的故事。復生的怪人不被社會接受,弗蘭肯斯坦應允給怪人製造一個配偶,讓他們雙雙遠離人類社會。但這時弗蘭肯斯坦也開始對自己創造的生命感到恐懼,並因此放棄了第二個怪物的製造。憤怒的怪人殺死了弗蘭肯斯坦的未婚妻,並最終與他在北極同歸於盡。
這部名為《弗蘭肯斯坦:現代普羅米修斯》的中篇故事所體現的,正是人類步入現代化里程以來的一大恐懼心理:人類創造的事物終有一天會失去控制,甚至反過來威脅到人類自己,它被命名為「弗蘭肯斯坦情結」---我們究竟是應該感謝普羅米修斯帶來的火種並承受火帶來的痛苦,還是應該在進化到有能力控制火種的威力時再擁有它?
這個問題被一個年輕作家給予了革命性的答案,這個人正是阿西莫夫,他用以席捲科幻界的武器,是他與他的出版人坎貝爾合創的「機器人學三大定律」---
(一)機器人不得傷害人類,或袖手旁觀讓人類受到傷害。
(二)在不違反第一定律的情況下,機器人必須服從人類給予的任何命令。
(三)在不違反第一及第二定律的情況下,機器人必須盡力保護自己。
上述三項雖稱為定律,但實際上是製造機器人時的三條守則。阿西莫夫是一個十分講求邏輯和理性的作家,他有感於機器人為禍的題材充斥科幻界,試圖做出糾正。在他看來,機器人既然由人類製造,為什麼不能一開始便在設計上杜絕機器人傷害人類的可能性?阿西莫夫的三定律能使得所有機器人都設計得對人類絕對服從和忠誠,否則便不能繼續操作,一舉掃除了機器人為害人類的危險。
機器人學三大定律問世之後,機器人小說踏上了軌道,不少作家在他們的作品中,都在不同的程度上接受或引用了阿氏的三大定律。
在後面的實踐中,阿西莫夫發現需要擴充第一定律,以保護個體的人類,以便最終保護整體的人類。1985年阿西莫夫對原有的三定律進行修訂,增加了第零定律,同時修改了其他定律---
第零定律:機器人不得傷害人類,或目睹人類將遭受危險而袖手不管。
第一定律:機器人不得傷害人類個體,或者目睹人類個體將遭受危險而袖手不管,除非這違反了機器人學第零定律。
第二定律:機器人必須服從人給予它的命令,當該命令與第零定律或者第一定律衝突時例外。
第三:機器人在不違反第零、第一、第二定律的情況下要儘可能保護自己的生存。
除此,另一個科幻作家羅傑.克拉克在一篇論文中還指出了三條潛在的定律:
元定律:機器人可以什麼也不做,除非它的行動符合機器人學定律。此定律置於第零、第一、第二、第三定律之前。
第四定律:機器人必須履行內置程序所賦予的責任,除非這與其他高階的定律衝突。
繁殖定律:機器人不得參與機器人的設計和製造,除非新的機器人的行動服從機器人學定律。
所有這些關於機器人的定律,都是為了規範機器人和人類的關係。人類已經預見到人工智慧將給人類命運帶來波折,所以必須把保證自己安全和主導地位的前提植入規則。真實世界和虛擬世界的關係本身就在沉思默想中,沉思默想的結果可能會為二者架起一座溝通的橋樑。關於機器人的倫理,終將不會僅僅停留在書面上。而在人工智慧、信息網路化、生命科技這三大新生科技高速發展的今天,我們更應當反覆探詢這個問題。
短网址: 版權所有,任何形式轉載需本站授權許可。 嚴禁建立鏡像網站。
【誠徵榮譽會員】溪流能夠匯成大海,小善可以成就大愛。我們向全球華人誠意徵集萬名榮譽會員:每位榮譽會員每年只需支付一份訂閱費用,成為《看中國》網站的榮譽會員,就可以助力我們突破審查與封鎖,向至少10000位中國大陸同胞奉上獨立真實的關鍵資訊, 在危難時刻向他們發出預警,救他們於大瘟疫與其它社會危難之中。
看完這篇文章您覺得
- 花蓮7.2強震 世界看見不一樣的臺灣(組圖)
- 大案信號!中共突提兩大敏感人物(圖)
- 【宋紫鳳專欄】亂世問津何處是 心中自有桃花源(圖)
- 習近平普京盼拜登連任 美中俄演繹新三國演義(圖)
- 日片《完美的日子》:光影交織中的美和釋然(組圖)
- 大開眼界!創記錄的「人體噴泉」(組圖)
- 兩次提高成本預算 奧運成本直衝百億歐元
- 林信舒: 溫家寶在前江在後- - 昨晚 <<新聞聯播>>有看頭
- 北京教授: 中國可能於2010年前發生重大危機
- 黃菊北京官邸裝修百萬
- 美國希望胡錦濤盡快取代江澤民
- 鄭貽春:聰明而狡滑的鄧小平
- 四中全會博弈 胡溫逼江下臺 --胡讚鄧小平廢除終身制 鄧家和官方媒體
- 史達:四中全會逼近 胡反守為攻得勢
- 中共肺炎(又称武漢肺炎)
- 病毒
- COVID-19
- 疫苗
- 台鐵
- 拜登
- 川普
- 特朗普
- 國安法
- 貿易戰
- 習近平
- 華為
- 三峽大壩
- 新疆棉
- 長江
- 洪水
- 袁弓夷
- 港版國安法
- 漢光演習
- 國民黨
- 退黨
- 弗洛伊德
- BLM
- 中共
- 閻麗夢
- 金正恩
- 王岐山
- 賴清德
- 孟晚舟
- 關稅
- 邊境牆
- 彭斯
- 美國
- 貿易談判
- 劉鶴
- 王滬寧
- 江澤民
- 崔永元
- 中南海
- 內幕
- 中共
- 反送中
- 貪官
- 情婦
- 腐敗
- 反腐
- 打虎
- 官場
- 看中國
- 一國兩制
- 法廣
- 社交媒體
- 往事微痕
- 出賣國土
- FB
- 六四
- 朝鮮
- 加拿大
- 脫歐
- 央行
- 債務
- 槓桿
- 美元
- 貨幣
- 人民幣
- 歐元
- 日元
- 港幣
- 房地產
- 樓市
- 財政
- 財富
- 中產
- 海參崴
- 台灣
- 蔡英文
- 北京
- 劉強東
- 大媽
- 房價
- 疫苗
- 非洲豬瘟
- 大陸
- P2P
- 霧霾
- 基因編輯
- 防火牆
- 維權
- 709律師
- 上訪
- 法輪功
- 網絡審查
- 活摘器官
- 江東六十四屯
- 唐努烏梁海
- 長白山
- 白龍尾島
- 江心坡
- SARS
- 新疆勞改營
- 言論自由
- 女主播
- 央視
- 華人
- 移民
- 華人
- 留學
- 海關
- 遣返
- 簽證
- 回國
- 入籍
- 綠卡
- 民生
- 海外
- 加拿大
- 澳洲
- 民國
- 桂軍
- 抗戰
- 孫中山
- 蔣介石
- 宋美齡
- 鄧小平
- 林彪
- 劉奇
- 中共
- 皇帝
- 諸葛亮
- 易經
- 幽默人生
- 智慧
- 感悟
- 手機
- 預言
- 奇聞
- UFO
- 外星人
- 壽命
- 文革
- 養生
- 紫鳳
- 貫明
- 李道真
- 軼飛
- 李雲飛
- 雲中君
- 辛思
- 夏聞
- 時代漫談
- 滄海
- 東方縱橫
- 唐柏橋
- 王尚一
- 江楓
- 黃清
- 李唐風
- 園丁
- 今濤拍暗
- 李青城
- 秦就石
- 中經研
- 秦天靖
- 江浩
- Eagle Vision
- 李子壬
- 馬新宇
- 馬來啟
- 紫君
- 秦山
- 陳破空
- 戴東尼
- 曹長青
- 邢仁濤
- 瑜正
- 簡易
- 肖川
- 伍凡
- 顧言
- 歸瑜
- 乙欣
- 陳泱潮
- 徐沛