[霍金] 從AI失控到外星人 霍金留下5個末日警告
被譽為當代最偉大物理學家之壹的史蒂芬・霍金（Stephen Hawking），除了研究黑洞與宇宙奧秘，也多次思考人類未來的命運。他生前曾提出伍項人類生存危機，涵蓋AI失控、基因技術、外星文明幹擾、全球暖化，以及無法移居其它星球等問題。
霍金認為，人類最終有能力克服各種威脅，但在未來壹個世紀，當人類只能依賴地球生存時，必須保持高度謹慎，畢竟只要壹場小行星撞擊、壹場毀滅性的疾病，或發生核戰爭，都可能讓人類文明覆滅。
他的觀點並非末日預言，而是提醒人類了解潛在風險，並提前做好准備。
（1）AI超越人類控制
雖然霍金未見證ChatGPT問世與近年的AI熱潮，但他早已關注AI快速發展可能帶來的影響。
霍金曾說，超級智慧AI的誕生或成為人類最偉大的突破，也可能帶來前所未有的危機，特別是AI“目標錯位”（alignment problem）的問題。他指出：“AI將能高效率完成任務，但如果其目標與人類利益不壹致，我們就會陷入危機。”
人們在上海人工智能展覽會上觀看人形機器人。(Hector Retamal/AFP via Getty Image)
人們在上海人工智能展覽會上觀看人形機器人。(Hector Retamal/AFP via Getty Image)
他認為，AI未必需要刻意對抗人類，也可能因能力遠超人類，而逐漸忽視人類的存在與需求。屆時，人類將面臨類似野生動物的處境：人類（大多數時候）並非惡意傷害動物，但人類大規模且重要的建設活動，卻破壞了它們的棲息環境，使它們更難在這顆星球上生存。
2015年，他與多位專家共同簽署《人工智慧公開信》（open letter on artificial intelligence），呼吁研究者在發展AI時必須重視安全議題，確保未來系統能發揮最大效益，並降低潛在風險。
（2）基因技術產生“超人類”
霍金曾在著作中探討基因工程議題。他預測，人類或在本世紀掌握“修改智力”和“某些行為特征”的技術。盡管未來各國或制定相關法律限制使用基因技術，但霍金認為，富裕階層仍可能尋找途徑進行基因強化，改善自身及後代基因，造成新的社會階層差距，甚至形成“超人類”族群。
霍金也曾警告，基因工程的風險不只涉及人類自身，基因改造病毒也可能成為潛在威脅。雖然目前相關研究主要用於治療癌症與疾病，但隨著技術普及，應用范圍也可能被擴大。若未來有人能制造出致命且具傳染性的改造病毒，也將帶來嚴重的安全問題。
UFO飛行的示意圖。(Shutterstock)
（3）接觸外星人
霍金曾對人類主動尋找並聯系外星生命表示擔憂。他認為，如果宇宙中真的存在其它智慧生命，人類並不了解對方的意圖，主動發送訊號“可能等同於招來未知的麻煩”。
他表示，任何能和地球聯系或抵達地球能力的文明，科技水平都可能遠超人類。他因此擔憂能夠進行長距離星際航行的文明，其探索地球的動機不只是交流，而是征服與殖民。
2015年，他參與了新的搜尋計劃“突破聆聽”（Breakthrough Listen），該計劃避免主動向外太空發送信息或信號，僅通過監聽宇宙中的訊號尋找外星生命跡象。
霍金在活動記者會上再次談到：“壹個能接收到我們信息的文明，可能比我們先進數拾億年。若果真如此，他們的能力將遠超人類，而在他們眼中，人類的地位可能就如同我們眼中的細菌壹般微不足道。”
（4）無法移居其它星球
霍金指出，無論存在多少末日的情境，人都可以通過“建立太空殖民地”克服困境。他說：“我們在宇宙中分布得越廣，人類存續下去的可能性就越高。”
如果人類只生活在單壹行星上，那麼壹旦該行星遭遇毀滅性事件，人類文明也可能隨之滅亡。若人類能在300顆行星上建立居住地，即使其中299顆行星遭到毀滅，人仍有機會延續下去。
霍金預測，人類約在壹百年後有能力尋找新的星球，而地球可能在未來壹千年內因“核沖突或環境災難”遭受嚴重破壞，因此移居工作必須盡快開始。他表示，離開地球並不意味著拋棄地球，而是讓地球有機會恢復生態。
（5）氣候變遷全球暖化
霍金生前很關注全球暖化和人類應對氣候危機的問題。
霍金曾表示，人類“已接近全球暖化達到不可逆轉的臨界點”，並警告未來的地球可能面臨類似金星的極端氣候環境，地表溫度將超過華氏400度（約攝氏204度），還可能降下硫酸雨。
壹些科學家認為，霍金的說法過度誇大，並指出地球的氣候不會演變成金星般的極端環境。
[物價飛漲的時候 這樣省錢購物很爽]
無評論不新聞，發表壹下您的意見吧
霍金認為，人類最終有能力克服各種威脅，但在未來壹個世紀，當人類只能依賴地球生存時，必須保持高度謹慎，畢竟只要壹場小行星撞擊、壹場毀滅性的疾病，或發生核戰爭，都可能讓人類文明覆滅。
他的觀點並非末日預言，而是提醒人類了解潛在風險，並提前做好准備。
（1）AI超越人類控制
雖然霍金未見證ChatGPT問世與近年的AI熱潮，但他早已關注AI快速發展可能帶來的影響。
霍金曾說，超級智慧AI的誕生或成為人類最偉大的突破，也可能帶來前所未有的危機，特別是AI“目標錯位”（alignment problem）的問題。他指出：“AI將能高效率完成任務，但如果其目標與人類利益不壹致，我們就會陷入危機。”
人們在上海人工智能展覽會上觀看人形機器人。(Hector Retamal/AFP via Getty Image)
人們在上海人工智能展覽會上觀看人形機器人。(Hector Retamal/AFP via Getty Image)
他認為，AI未必需要刻意對抗人類，也可能因能力遠超人類，而逐漸忽視人類的存在與需求。屆時，人類將面臨類似野生動物的處境：人類（大多數時候）並非惡意傷害動物，但人類大規模且重要的建設活動，卻破壞了它們的棲息環境，使它們更難在這顆星球上生存。
2015年，他與多位專家共同簽署《人工智慧公開信》（open letter on artificial intelligence），呼吁研究者在發展AI時必須重視安全議題，確保未來系統能發揮最大效益，並降低潛在風險。
（2）基因技術產生“超人類”
霍金曾在著作中探討基因工程議題。他預測，人類或在本世紀掌握“修改智力”和“某些行為特征”的技術。盡管未來各國或制定相關法律限制使用基因技術，但霍金認為，富裕階層仍可能尋找途徑進行基因強化，改善自身及後代基因，造成新的社會階層差距，甚至形成“超人類”族群。
霍金也曾警告，基因工程的風險不只涉及人類自身，基因改造病毒也可能成為潛在威脅。雖然目前相關研究主要用於治療癌症與疾病，但隨著技術普及，應用范圍也可能被擴大。若未來有人能制造出致命且具傳染性的改造病毒，也將帶來嚴重的安全問題。
UFO飛行的示意圖。(Shutterstock)
（3）接觸外星人
霍金曾對人類主動尋找並聯系外星生命表示擔憂。他認為，如果宇宙中真的存在其它智慧生命，人類並不了解對方的意圖，主動發送訊號“可能等同於招來未知的麻煩”。
他表示，任何能和地球聯系或抵達地球能力的文明，科技水平都可能遠超人類。他因此擔憂能夠進行長距離星際航行的文明，其探索地球的動機不只是交流，而是征服與殖民。
2015年，他參與了新的搜尋計劃“突破聆聽”（Breakthrough Listen），該計劃避免主動向外太空發送信息或信號，僅通過監聽宇宙中的訊號尋找外星生命跡象。
霍金在活動記者會上再次談到：“壹個能接收到我們信息的文明，可能比我們先進數拾億年。若果真如此，他們的能力將遠超人類，而在他們眼中，人類的地位可能就如同我們眼中的細菌壹般微不足道。”
（4）無法移居其它星球
霍金指出，無論存在多少末日的情境，人都可以通過“建立太空殖民地”克服困境。他說：“我們在宇宙中分布得越廣，人類存續下去的可能性就越高。”
如果人類只生活在單壹行星上，那麼壹旦該行星遭遇毀滅性事件，人類文明也可能隨之滅亡。若人類能在300顆行星上建立居住地，即使其中299顆行星遭到毀滅，人仍有機會延續下去。
霍金預測，人類約在壹百年後有能力尋找新的星球，而地球可能在未來壹千年內因“核沖突或環境災難”遭受嚴重破壞，因此移居工作必須盡快開始。他表示，離開地球並不意味著拋棄地球，而是讓地球有機會恢復生態。
（5）氣候變遷全球暖化
霍金生前很關注全球暖化和人類應對氣候危機的問題。
霍金曾表示，人類“已接近全球暖化達到不可逆轉的臨界點”，並警告未來的地球可能面臨類似金星的極端氣候環境，地表溫度將超過華氏400度（約攝氏204度），還可能降下硫酸雨。
壹些科學家認為，霍金的說法過度誇大，並指出地球的氣候不會演變成金星般的極端環境。
[物價飛漲的時候 這樣省錢購物很爽]
| 分享: |
| 注： |
| 延伸閱讀 | 更多... |
推薦: