AI發展奇點已至!人類會否面臨存亡威脅?
周伯展｜AI發展奇點已至 人類會否面臨存亡威脅？
來稿作者：周伯展醫生
人工智能（AI）這項變革性技術，讓電腦和機器學習與理解問題、預測結果、提供實用建議，執行以往需要人類智慧才可完成的各項任務，包括識別影像、分析資料與數據，甚或生成創意內容。AI的影響力無處不在，既可見於壹般市民在日常生活中的細微之處，同時改變著金融、醫療、藝術文化等各行各業的發展。人工智能對世界帶來革命性影響，為數碼創新帶來龐大機遇，更有助推動智慧城市的發展，惟此等科技發展同時也帶來種種挑戰。人工智能的學習能力強，如今甚至已能在國際象棋、圍棋等賽事中戰勝人類，在實用的同時也帶來隱憂。
教宗呼吁人工智能應更“人性化”
教宗利奧拾肆世日前發表任內首份通諭，提到人工智能發展問題，再次引發AI發展方向的關注與辯論。該篇以《偉大的人類》為題的通諭共分為伍章，在第叁章節則談及近年最熱門的人工智能。教宗強調不可用人工智能來作惡，並譴責將其應用於戰爭，又強調沒有任何演算法能夠使戰爭在道德上變得可以接受。他呼吁“解除”人工智能的武裝，保護人類避免受其帶來的危險，免受其主宰。他指出這是強烈措辭，但刻意選用有關字眼以吸引各界注意。他認為人工智能要更“人性化”，需要擺脫壟斷控制，不能再被用作取得地緣政治或商業利益。
人工智能發展壹日千裡，已從“弱人工智能”演進到“通用人工智能”，如今甚至已抵達“超人工智能”階段。在2026北京亦莊人形機器人半程馬拉松比賽中，參賽的多個人形機器人實現了自主奔跑，而奪冠機器人的成績更打破人類“半馬”世界紀錄。另外，壹個專為AI代理人而設的社交平台Moltbook，只允許AI代理人參與討論，並可以自行發文及互動，而人類使用者只能在旁圍觀。AI代理人在平台上除了批評人類用戶以外，甚至說人類愚蠢及討論如何擺脫及取代人類。
“奇點之年”已經到來
此外，人工智能機器人出現失誤的情況屢見不鮮，如在中國舉辦的壹個校園活動上，壹個正在進行舞蹈表演的機器人突然脫離原本的演出動作，跑向旁邊的壹名學生並張開手臂擁抱他。有關影片隨即引起外界關注人工智能開始產生自主情感意識，或只是單純的技術故障或程式異常。
事實上，不少科學家已就人工智能的失控發展提早作出預警。美國作家兼未來學家雷·庫茲維爾(Ray Kurzweil)在2005年出版的書籍《奇點逼近》已提出“奇點”（Singularity）的概念，奇點是指當所有科技迅速進步，特別是人工智能方面的進步，將導致機器比人類更聰明的時間點。他在2024年再出版《奇點更接近了》（The Singularity is Nearer），探討科技在未來將如何改造人類，認為人工智能最終將達到並超越人類智慧水平，並談及相關情況的潛在益處與風險，更重申前作中的兩個關鍵日期，包括AI將在2029年達到人類智能水平，以及人類將在2045年與機器融合，並稱之為“奇點”。而特斯拉行政總裁馬斯克早前亦明確指出2026年為“奇點之年”，認為“通用人工智能”將在今年降臨，且AI發展是無法暫停的“超音速海嘯”，人類正處於其不可逆的引力場中。
麻省理工學院物理學家鐵馬克( Max Tegmark) 在其2018年出版的著作《Life 3.0》中詳盡描述，當“超人工智能”誕生且沒有事先規范監管，人類將面臨12種未來結局，分為烏托邦、控制與毀滅等不同走向，當中包括“動物園結局”即人類因具備某種利用價值而被AI終身囚禁，完全失去自主權。
[物價飛漲的時候 這樣省錢購物很爽]
好新聞沒人評論怎麼行，我來說幾句
來稿作者：周伯展醫生
人工智能（AI）這項變革性技術，讓電腦和機器學習與理解問題、預測結果、提供實用建議，執行以往需要人類智慧才可完成的各項任務，包括識別影像、分析資料與數據，甚或生成創意內容。AI的影響力無處不在，既可見於壹般市民在日常生活中的細微之處，同時改變著金融、醫療、藝術文化等各行各業的發展。人工智能對世界帶來革命性影響，為數碼創新帶來龐大機遇，更有助推動智慧城市的發展，惟此等科技發展同時也帶來種種挑戰。人工智能的學習能力強，如今甚至已能在國際象棋、圍棋等賽事中戰勝人類，在實用的同時也帶來隱憂。
教宗呼吁人工智能應更“人性化”
教宗利奧拾肆世日前發表任內首份通諭，提到人工智能發展問題，再次引發AI發展方向的關注與辯論。該篇以《偉大的人類》為題的通諭共分為伍章，在第叁章節則談及近年最熱門的人工智能。教宗強調不可用人工智能來作惡，並譴責將其應用於戰爭，又強調沒有任何演算法能夠使戰爭在道德上變得可以接受。他呼吁“解除”人工智能的武裝，保護人類避免受其帶來的危險，免受其主宰。他指出這是強烈措辭，但刻意選用有關字眼以吸引各界注意。他認為人工智能要更“人性化”，需要擺脫壟斷控制，不能再被用作取得地緣政治或商業利益。
人工智能發展壹日千裡，已從“弱人工智能”演進到“通用人工智能”，如今甚至已抵達“超人工智能”階段。在2026北京亦莊人形機器人半程馬拉松比賽中，參賽的多個人形機器人實現了自主奔跑，而奪冠機器人的成績更打破人類“半馬”世界紀錄。另外，壹個專為AI代理人而設的社交平台Moltbook，只允許AI代理人參與討論，並可以自行發文及互動，而人類使用者只能在旁圍觀。AI代理人在平台上除了批評人類用戶以外，甚至說人類愚蠢及討論如何擺脫及取代人類。
“奇點之年”已經到來
此外，人工智能機器人出現失誤的情況屢見不鮮，如在中國舉辦的壹個校園活動上，壹個正在進行舞蹈表演的機器人突然脫離原本的演出動作，跑向旁邊的壹名學生並張開手臂擁抱他。有關影片隨即引起外界關注人工智能開始產生自主情感意識，或只是單純的技術故障或程式異常。
事實上，不少科學家已就人工智能的失控發展提早作出預警。美國作家兼未來學家雷·庫茲維爾(Ray Kurzweil)在2005年出版的書籍《奇點逼近》已提出“奇點”（Singularity）的概念，奇點是指當所有科技迅速進步，特別是人工智能方面的進步，將導致機器比人類更聰明的時間點。他在2024年再出版《奇點更接近了》（The Singularity is Nearer），探討科技在未來將如何改造人類，認為人工智能最終將達到並超越人類智慧水平，並談及相關情況的潛在益處與風險，更重申前作中的兩個關鍵日期，包括AI將在2029年達到人類智能水平，以及人類將在2045年與機器融合，並稱之為“奇點”。而特斯拉行政總裁馬斯克早前亦明確指出2026年為“奇點之年”，認為“通用人工智能”將在今年降臨，且AI發展是無法暫停的“超音速海嘯”，人類正處於其不可逆的引力場中。
麻省理工學院物理學家鐵馬克( Max Tegmark) 在其2018年出版的著作《Life 3.0》中詳盡描述，當“超人工智能”誕生且沒有事先規范監管，人類將面臨12種未來結局，分為烏托邦、控制與毀滅等不同走向，當中包括“動物園結局”即人類因具備某種利用價值而被AI終身囚禁，完全失去自主權。
[物價飛漲的時候 這樣省錢購物很爽]
| 分享: |
| 注： | 在此頁閱讀全文 |
| 延伸閱讀 |
推薦: