[世界末日] 科技界亿万富翁们似乎正忙着为"世界末日"做准备
让矽谷人士特别兴奋的原因之一，是人工通用智能被视为通往更高阶形态的前奏——“人工超级智能”（ASI），也就是超越人类智慧的技术。
“奇点”（the singularity）这一概念最早可追溯至1958年，被追认为出自匈牙利裔数学家约翰·冯·诺伊曼（John von Neumann）之思想。它指的是电脑智能发展至超越人类理解能力的那一刻。
2024年出版、由埃里克·施密特（Eric Schmidt）、克雷格·蒙迪（Craig Mundie）以及已故的亨利·基辛格（Henry Kissinger）所撰写的书籍《创世纪》（Genesis），探讨了一种极度强大的科技——其在决策与领导上的效率高到人类最终可能将控制权完全交给它。
他们认为，这不是“会不会发生”的问题，而是“何时发生”的问题。
人人都有钱花，不用工作？
支持发展人工通用智能与人工超级智能的人，几乎以传教般的热情宣扬其潜在好处。他们认为，这项技术将能找到致命疾病的新疗法、解决气候变化，甚至发明取之不尽的洁净能源。
伊隆·马斯克（Elon Musk）甚至声称，超级智能的AI可能开启一个“全民高收入”的新时代。
他最近表示，人工智能将变得极为便宜且普及，几乎人人都会想拥有自己专属的“R2-D2与C-3PO”（指《星球大战》中的机器人）。
他兴奋地说：“每个人都将享有最好的医疗、食物、住宅、交通，以及一切所需——永续的富足生活。”
当然，这也有令人恐惧的一面。这项技术会否被恐怖分子利用，成为毁灭性的武器？又或者，它有一天自行判断人类才是世界问题的根源，进而决定毁灭我们？
“如果它比你还聪明，那我们就必须把它控制起来。”万维网（World Wide Web）发明者蒂姆·伯纳斯-李（Tim Berners-Lee）本月稍早接受BBC访问时警告说。
“我们必须确保有能力把它关掉。”
各国政府也在采取保护措施。美国作为众多领先AI公司的基地。在2023年，时任总统拜登签署一项行政命令，要求部分企业向联邦政府提交安全测试结果。不过，特朗普总统其后撤销了部分条款，称该命令是对创新的“阻碍”。
同时，英国政府两年前成立了“AI安全研究所”（AI Safety Institute），这是一个政府资助的研究机构，旨在更深入了解高阶人工智能可能带来的风险。
而那些超级富豪们，则有他们自己的“世界末日保险”计划。
LinkedIn的霍夫曼曾打趣说：“说自己要在纽西兰买房，其实就是一种心照不宣的暗号，懂的人自然懂。”想必地堡也是同样的意思。
不过，这里也暴露出一个极具人性的缺陷。
我遇过一位保镳，他曾为某位拥有“地堡”的亿万富翁工作过。他告诉我，倘若世界真的发生灾难，他们的安保团队首要任务是干掉那位老板，然后自己进地堡。从他的语气来看，他似乎不是在开玩笑。
这一切都是杞人忧天的胡言乱语吗？
尼尔·劳伦斯（Neil Lawrence）是剑桥大学的机器学习教授。对他而言，整场关于人工通用智能的讨论本身就是一派胡言。
他说：“所谓‘人工通用智能’这个概念，就像说要造出一种‘人工通用交通工具’一样荒谬。”
“合适的交通工具取决于情境。我坐空中巴士A350飞去肯尼亚，每天开车去大学上班，走路去餐厅吃饭??没有一种交通工具能同时做到这一切。”
在他看来，有关人工通用智能的讨论只是在分散注意力。
“我们已经创造出的技术，让普通人首次能直接与机器对话，并让它按照人类的意愿行事。这是极为非凡的——是彻底的变革。”
“但令人担忧的是，我们太容易被大科技公司营造出的人工通用智能故事吸引，而忽略了真正该思考的——如何让这些技术更好地服务人类。”
现有的人工智能工具都是以海量数据训练出来的，擅长从中辨识模式——无论是医学影像中的肿瘤迹象，还是预测句子中下一个最可能出现的词。然而，不论它们的回答多么逼真，人工智能依然不具备“感觉”。
[物价飞涨的时候 这样省钱购物很爽]
无评论不新闻，发表一下您的意见吧
“奇点”（the singularity）这一概念最早可追溯至1958年，被追认为出自匈牙利裔数学家约翰·冯·诺伊曼（John von Neumann）之思想。它指的是电脑智能发展至超越人类理解能力的那一刻。
2024年出版、由埃里克·施密特（Eric Schmidt）、克雷格·蒙迪（Craig Mundie）以及已故的亨利·基辛格（Henry Kissinger）所撰写的书籍《创世纪》（Genesis），探讨了一种极度强大的科技——其在决策与领导上的效率高到人类最终可能将控制权完全交给它。
他们认为，这不是“会不会发生”的问题，而是“何时发生”的问题。
人人都有钱花，不用工作？
支持发展人工通用智能与人工超级智能的人，几乎以传教般的热情宣扬其潜在好处。他们认为，这项技术将能找到致命疾病的新疗法、解决气候变化，甚至发明取之不尽的洁净能源。
伊隆·马斯克（Elon Musk）甚至声称，超级智能的AI可能开启一个“全民高收入”的新时代。
他最近表示，人工智能将变得极为便宜且普及，几乎人人都会想拥有自己专属的“R2-D2与C-3PO”（指《星球大战》中的机器人）。
他兴奋地说：“每个人都将享有最好的医疗、食物、住宅、交通，以及一切所需——永续的富足生活。”
当然，这也有令人恐惧的一面。这项技术会否被恐怖分子利用，成为毁灭性的武器？又或者，它有一天自行判断人类才是世界问题的根源，进而决定毁灭我们？
“如果它比你还聪明，那我们就必须把它控制起来。”万维网（World Wide Web）发明者蒂姆·伯纳斯-李（Tim Berners-Lee）本月稍早接受BBC访问时警告说。
“我们必须确保有能力把它关掉。”
各国政府也在采取保护措施。美国作为众多领先AI公司的基地。在2023年，时任总统拜登签署一项行政命令，要求部分企业向联邦政府提交安全测试结果。不过，特朗普总统其后撤销了部分条款，称该命令是对创新的“阻碍”。
同时，英国政府两年前成立了“AI安全研究所”（AI Safety Institute），这是一个政府资助的研究机构，旨在更深入了解高阶人工智能可能带来的风险。
而那些超级富豪们，则有他们自己的“世界末日保险”计划。
LinkedIn的霍夫曼曾打趣说：“说自己要在纽西兰买房，其实就是一种心照不宣的暗号，懂的人自然懂。”想必地堡也是同样的意思。
不过，这里也暴露出一个极具人性的缺陷。
我遇过一位保镳，他曾为某位拥有“地堡”的亿万富翁工作过。他告诉我，倘若世界真的发生灾难，他们的安保团队首要任务是干掉那位老板，然后自己进地堡。从他的语气来看，他似乎不是在开玩笑。
这一切都是杞人忧天的胡言乱语吗？
尼尔·劳伦斯（Neil Lawrence）是剑桥大学的机器学习教授。对他而言，整场关于人工通用智能的讨论本身就是一派胡言。
他说：“所谓‘人工通用智能’这个概念，就像说要造出一种‘人工通用交通工具’一样荒谬。”
“合适的交通工具取决于情境。我坐空中巴士A350飞去肯尼亚，每天开车去大学上班，走路去餐厅吃饭??没有一种交通工具能同时做到这一切。”
在他看来，有关人工通用智能的讨论只是在分散注意力。
“我们已经创造出的技术，让普通人首次能直接与机器对话，并让它按照人类的意愿行事。这是极为非凡的——是彻底的变革。”
“但令人担忧的是，我们太容易被大科技公司营造出的人工通用智能故事吸引，而忽略了真正该思考的——如何让这些技术更好地服务人类。”
现有的人工智能工具都是以海量数据训练出来的，擅长从中辨识模式——无论是医学影像中的肿瘤迹象，还是预测句子中下一个最可能出现的词。然而，不论它们的回答多么逼真，人工智能依然不具备“感觉”。
[物价飞涨的时候 这样省钱购物很爽]
| 分享: |
| 注： | 在此页阅读全文 |
| 延伸阅读 | 更多... |
推荐: