[霍金] 从AI失控到外星人 霍金留下5个末日警告
被誉为当代最伟大物理学家之一的史蒂芬・霍金（Stephen Hawking），除了研究黑洞与宇宙奥秘，也多次思考人类未来的命运。他生前曾提出五项人类生存危机，涵盖AI失控、基因技术、外星文明干扰、全球暖化，以及无法移居其它星球等问题。
霍金认为，人类最终有能力克服各种威胁，但在未来一个世纪，当人类只能依赖地球生存时，必须保持高度谨慎，毕竟只要一场小行星撞击、一场毁灭性的疾病，或发生核战争，都可能让人类文明覆灭。
他的观点并非末日预言，而是提醒人类了解潜在风险，并提前做好准备。
（1）AI超越人类控制
虽然霍金未见证ChatGPT问世与近年的AI热潮，但他早已关注AI快速发展可能带来的影响。
霍金曾说，超级智慧AI的诞生或成为人类最伟大的突破，也可能带来前所未有的危机，特别是AI“目标错位”（alignment problem）的问题。他指出：“AI将能高效率完成任务，但如果其目标与人类利益不一致，我们就会陷入危机。”
人们在上海人工智能展览会上观看人形机器人。(Hector Retamal/AFP via Getty Image)
人们在上海人工智能展览会上观看人形机器人。(Hector Retamal/AFP via Getty Image)
他认为，AI未必需要刻意对抗人类，也可能因能力远超人类，而逐渐忽视人类的存在与需求。届时，人类将面临类似野生动物的处境：人类（大多数时候）并非恶意伤害动物，但人类大规模且重要的建设活动，却破坏了它们的栖息环境，使它们更难在这颗星球上生存。
2015年，他与多位专家共同签署《人工智慧公开信》（open letter on artificial intelligence），呼吁研究者在发展AI时必须重视安全议题，确保未来系统能发挥最大效益，并降低潜在风险。
（2）基因技术产生“超人类”
霍金曾在著作中探讨基因工程议题。他预测，人类或在本世纪掌握“修改智力”和“某些行为特征”的技术。尽管未来各国或制定相关法律限制使用基因技术，但霍金认为，富裕阶层仍可能寻找途径进行基因强化，改善自身及后代基因，造成新的社会阶层差距，甚至形成“超人类”族群。
霍金也曾警告，基因工程的风险不只涉及人类自身，基因改造病毒也可能成为潜在威胁。虽然目前相关研究主要用于治疗癌症与疾病，但随着技术普及，应用范围也可能被扩大。若未来有人能制造出致命且具传染性的改造病毒，也将带来严重的安全问题。
UFO飞行的示意图。(Shutterstock)
（3）接触外星人
霍金曾对人类主动寻找并联系外星生命表示担忧。他认为，如果宇宙中真的存在其它智慧生命，人类并不了解对方的意图，主动发送讯号“可能等同于招来未知的麻烦”。
他表示，任何能和地球联系或抵达地球能力的文明，科技水平都可能远超人类。他因此担忧能够进行长距离星际航行的文明，其探索地球的动机不只是交流，而是征服与殖民。
2015年，他参与了新的搜寻计划“突破聆听”（Breakthrough Listen），该计划避免主动向外太空发送信息或信号，仅通过监听宇宙中的讯号寻找外星生命迹象。
霍金在活动记者会上再次谈到：“一个能接收到我们信息的文明，可能比我们先进数十亿年。若果真如此，他们的能力将远超人类，而在他们眼中，人类的地位可能就如同我们眼中的细菌一般微不足道。”
（4）无法移居其它星球
霍金指出，无论存在多少末日的情境，人都可以通过“建立太空殖民地”克服困境。他说：“我们在宇宙中分布得越广，人类存续下去的可能性就越高。”
[物价飞涨的时候 这样省钱购物很爽]
好新闻没人评论怎么行，我来说几句
霍金认为，人类最终有能力克服各种威胁，但在未来一个世纪，当人类只能依赖地球生存时，必须保持高度谨慎，毕竟只要一场小行星撞击、一场毁灭性的疾病，或发生核战争，都可能让人类文明覆灭。
他的观点并非末日预言，而是提醒人类了解潜在风险，并提前做好准备。
（1）AI超越人类控制
虽然霍金未见证ChatGPT问世与近年的AI热潮，但他早已关注AI快速发展可能带来的影响。
霍金曾说，超级智慧AI的诞生或成为人类最伟大的突破，也可能带来前所未有的危机，特别是AI“目标错位”（alignment problem）的问题。他指出：“AI将能高效率完成任务，但如果其目标与人类利益不一致，我们就会陷入危机。”
人们在上海人工智能展览会上观看人形机器人。(Hector Retamal/AFP via Getty Image)
人们在上海人工智能展览会上观看人形机器人。(Hector Retamal/AFP via Getty Image)
他认为，AI未必需要刻意对抗人类，也可能因能力远超人类，而逐渐忽视人类的存在与需求。届时，人类将面临类似野生动物的处境：人类（大多数时候）并非恶意伤害动物，但人类大规模且重要的建设活动，却破坏了它们的栖息环境，使它们更难在这颗星球上生存。
2015年，他与多位专家共同签署《人工智慧公开信》（open letter on artificial intelligence），呼吁研究者在发展AI时必须重视安全议题，确保未来系统能发挥最大效益，并降低潜在风险。
（2）基因技术产生“超人类”
霍金曾在著作中探讨基因工程议题。他预测，人类或在本世纪掌握“修改智力”和“某些行为特征”的技术。尽管未来各国或制定相关法律限制使用基因技术，但霍金认为，富裕阶层仍可能寻找途径进行基因强化，改善自身及后代基因，造成新的社会阶层差距，甚至形成“超人类”族群。
霍金也曾警告，基因工程的风险不只涉及人类自身，基因改造病毒也可能成为潜在威胁。虽然目前相关研究主要用于治疗癌症与疾病，但随着技术普及，应用范围也可能被扩大。若未来有人能制造出致命且具传染性的改造病毒，也将带来严重的安全问题。
UFO飞行的示意图。(Shutterstock)
（3）接触外星人
霍金曾对人类主动寻找并联系外星生命表示担忧。他认为，如果宇宙中真的存在其它智慧生命，人类并不了解对方的意图，主动发送讯号“可能等同于招来未知的麻烦”。
他表示，任何能和地球联系或抵达地球能力的文明，科技水平都可能远超人类。他因此担忧能够进行长距离星际航行的文明，其探索地球的动机不只是交流，而是征服与殖民。
2015年，他参与了新的搜寻计划“突破聆听”（Breakthrough Listen），该计划避免主动向外太空发送信息或信号，仅通过监听宇宙中的讯号寻找外星生命迹象。
霍金在活动记者会上再次谈到：“一个能接收到我们信息的文明，可能比我们先进数十亿年。若果真如此，他们的能力将远超人类，而在他们眼中，人类的地位可能就如同我们眼中的细菌一般微不足道。”
（4）无法移居其它星球
霍金指出，无论存在多少末日的情境，人都可以通过“建立太空殖民地”克服困境。他说：“我们在宇宙中分布得越广，人类存续下去的可能性就越高。”
[物价飞涨的时候 这样省钱购物很爽]
| 分享: |
| Note: | _VIEW_NEWS_FULL |
| 延伸阅读 | More... |
推荐: