[世界末日] 科技界億萬富翁們似乎正忙著為"世界末日"做准備
讓矽谷人士特別興奮的原因之壹，是人工通用智能被視為通往更高階形態的前奏——“人工超級智能”（ASI），也就是超越人類智慧的技術。
“奇點”（the singularity）這壹概念最早可追溯至1958年，被追認為出自匈牙利裔數學家約翰·馮·諾伊曼（John von Neumann）之思想。它指的是電腦智能發展至超越人類理解能力的那壹刻。
2024年出版、由埃裡克·施密特（Eric Schmidt）、克雷格·蒙迪（Craig Mundie）以及已故的亨利·基辛格（Henry Kissinger）所撰寫的書籍《創世紀》（Genesis），探討了壹種極度強大的科技——其在決策與領導上的效率高到人類最終可能將控制權完全交給它。
他們認為，這不是“會不會發生”的問題，而是“何時發生”的問題。
人人都有錢花，不用工作？
支持發展人工通用智能與人工超級智能的人，幾乎以傳教般的熱情宣揚其潛在好處。他們認為，這項技術將能找到致命疾病的新療法、解決氣候變化，甚至發明取之不盡的潔淨能源。
伊隆·馬斯克（Elon Musk）甚至聲稱，超級智能的AI可能開啟壹個“全民高收入”的新時代。
他最近表示，人工智能將變得極為便宜且普及，幾乎人人都會想擁有自己專屬的“R2-D2與C-3PO”（指《星球大戰》中的機器人）。
他興奮地說：“每個人都將享有最好的醫療、食物、住宅、交通，以及壹切所需——永續的富足生活。”
當然，這也有令人恐懼的壹面。這項技術會否被恐怖分子利用，成為毀滅性的武器？又或者，它有壹天自行判斷人類才是世界問題的根源，進而決定毀滅我們？
“如果它比你還聰明，那我們就必須把它控制起來。”萬維網（World Wide Web）發明者蒂姆·伯納斯-李（Tim Berners-Lee）本月稍早接受BBC訪問時警告說。
“我們必須確保有能力把它關掉。”
各國政府也在采取保護措施。美國作為眾多領先AI公司的基地。在2023年，時任總統拜登簽署壹項行政命令，要求部分企業向聯邦政府提交安全測試結果。不過，特朗普總統其後撤銷了部分條款，稱該命令是對創新的“阻礙”。
同時，英國政府兩年前成立了“AI安全研究所”（AI Safety Institute），這是壹個政府資助的研究機構，旨在更深入了解高階人工智能可能帶來的風險。
而那些超級富豪們，則有他們自己的“世界末日保險”計劃。
LinkedIn的霍夫曼曾打趣說：“說自己要在紐西蘭買房，其實就是壹種心照不宣的暗號，懂的人自然懂。”想必地堡也是同樣的意思。
不過，這裡也暴露出壹個極具人性的缺陷。
我遇過壹位保鑣，他曾為某位擁有“地堡”的億萬富翁工作過。他告訴我，倘若世界真的發生災難，他們的安保團隊首要任務是幹掉那位老板，然後自己進地堡。從他的語氣來看，他似乎不是在開玩笑。
這壹切都是杞人憂天的胡言亂語嗎？
尼爾·勞倫斯（Neil Lawrence）是劍橋大學的機器學習教授。對他而言，整場關於人工通用智能的討論本身就是壹派胡言。
他說：“所謂‘人工通用智能’這個概念，就像說要造出壹種‘人工通用交通工具’壹樣荒謬。”
“合適的交通工具取決於情境。我坐空中巴士A350飛去肯尼亞，每天開車去大學上班，走路去餐廳吃飯??沒有壹種交通工具能同時做到這壹切。”
在他看來，有關人工通用智能的討論只是在分散注意力。
“我們已經創造出的技術，讓普通人首次能直接與機器對話，並讓它按照人類的意願行事。這是極為非凡的——是徹底的變革。”
“但令人擔憂的是，我們太容易被大科技公司營造出的人工通用智能故事吸引，而忽略了真正該思考的——如何讓這些技術更好地服務人類。”
現有的人工智能工具都是以海量數據訓練出來的，擅長從中辨識模式——無論是醫學影像中的腫瘤跡象，還是預測句子中下壹個最可能出現的詞。然而，不論它們的回答多麼逼真，人工智能依然不具備“感覺”。
[物價飛漲的時候 這樣省錢購物很爽]
無評論不新聞，發表壹下您的意見吧
“奇點”（the singularity）這壹概念最早可追溯至1958年，被追認為出自匈牙利裔數學家約翰·馮·諾伊曼（John von Neumann）之思想。它指的是電腦智能發展至超越人類理解能力的那壹刻。
2024年出版、由埃裡克·施密特（Eric Schmidt）、克雷格·蒙迪（Craig Mundie）以及已故的亨利·基辛格（Henry Kissinger）所撰寫的書籍《創世紀》（Genesis），探討了壹種極度強大的科技——其在決策與領導上的效率高到人類最終可能將控制權完全交給它。
他們認為，這不是“會不會發生”的問題，而是“何時發生”的問題。
人人都有錢花，不用工作？
支持發展人工通用智能與人工超級智能的人，幾乎以傳教般的熱情宣揚其潛在好處。他們認為，這項技術將能找到致命疾病的新療法、解決氣候變化，甚至發明取之不盡的潔淨能源。
伊隆·馬斯克（Elon Musk）甚至聲稱，超級智能的AI可能開啟壹個“全民高收入”的新時代。
他最近表示，人工智能將變得極為便宜且普及，幾乎人人都會想擁有自己專屬的“R2-D2與C-3PO”（指《星球大戰》中的機器人）。
他興奮地說：“每個人都將享有最好的醫療、食物、住宅、交通，以及壹切所需——永續的富足生活。”
當然，這也有令人恐懼的壹面。這項技術會否被恐怖分子利用，成為毀滅性的武器？又或者，它有壹天自行判斷人類才是世界問題的根源，進而決定毀滅我們？
“如果它比你還聰明，那我們就必須把它控制起來。”萬維網（World Wide Web）發明者蒂姆·伯納斯-李（Tim Berners-Lee）本月稍早接受BBC訪問時警告說。
“我們必須確保有能力把它關掉。”
各國政府也在采取保護措施。美國作為眾多領先AI公司的基地。在2023年，時任總統拜登簽署壹項行政命令，要求部分企業向聯邦政府提交安全測試結果。不過，特朗普總統其後撤銷了部分條款，稱該命令是對創新的“阻礙”。
同時，英國政府兩年前成立了“AI安全研究所”（AI Safety Institute），這是壹個政府資助的研究機構，旨在更深入了解高階人工智能可能帶來的風險。
而那些超級富豪們，則有他們自己的“世界末日保險”計劃。
LinkedIn的霍夫曼曾打趣說：“說自己要在紐西蘭買房，其實就是壹種心照不宣的暗號，懂的人自然懂。”想必地堡也是同樣的意思。
不過，這裡也暴露出壹個極具人性的缺陷。
我遇過壹位保鑣，他曾為某位擁有“地堡”的億萬富翁工作過。他告訴我，倘若世界真的發生災難，他們的安保團隊首要任務是幹掉那位老板，然後自己進地堡。從他的語氣來看，他似乎不是在開玩笑。
這壹切都是杞人憂天的胡言亂語嗎？
尼爾·勞倫斯（Neil Lawrence）是劍橋大學的機器學習教授。對他而言，整場關於人工通用智能的討論本身就是壹派胡言。
他說：“所謂‘人工通用智能’這個概念，就像說要造出壹種‘人工通用交通工具’壹樣荒謬。”
“合適的交通工具取決於情境。我坐空中巴士A350飛去肯尼亞，每天開車去大學上班，走路去餐廳吃飯??沒有壹種交通工具能同時做到這壹切。”
在他看來，有關人工通用智能的討論只是在分散注意力。
“我們已經創造出的技術，讓普通人首次能直接與機器對話，並讓它按照人類的意願行事。這是極為非凡的——是徹底的變革。”
“但令人擔憂的是，我們太容易被大科技公司營造出的人工通用智能故事吸引，而忽略了真正該思考的——如何讓這些技術更好地服務人類。”
現有的人工智能工具都是以海量數據訓練出來的，擅長從中辨識模式——無論是醫學影像中的腫瘤跡象，還是預測句子中下壹個最可能出現的詞。然而，不論它們的回答多麼逼真，人工智能依然不具備“感覺”。
[物價飛漲的時候 這樣省錢購物很爽]
| 分享: |
| 注： | 在此頁閱讀全文 |
| 延伸閱讀 | 更多... |
推薦: