AI發展奇點已至!人類會否面臨存亡威脅?
AI會否危及人類存亡？
在人工智能發展迅速下所隱藏的潛在風險，人類能否有效避免？包括特斯拉行政總裁馬斯克在內的逾1,000名知名人士曾於2023年發表公開信，呼吁所有人工智能實驗室暫停訓練比GPT-4更強大的人工智能系統。開發Claude系列AI模型的美國科技巨擘Anthropic日前再警告，最新的AI模型已開始出現可能脫離人類控制的跡象。報告指出，根據公司內部數據，AI已大幅加速自身發展進程，這種加速形成回饋回路，最終可能導致“遞回式自我改進”，即AI系統具備自行優化或重寫自身程式碼、架構的能力，進而“創造出”能力更強的下壹代，而無需人類協助。同時建議全球同步暫停研發最先進的AI系統。
隨著現時的系統已能利用演算法自我優化，如今已難以叫停AI發展。諾貝爾物理學獎得主、被譽為“AI 之父”的傑佛瑞·辛頓（Geoffrey Hinton）則呼吁為AI系統注入“母性本能”，讓AI具備關懷與保護人類生命的能力，避免出現AI傷害人類的情況。
AI固然為人類生活帶來便利，惟如成功擺脫人類控制，將出現失控局面並會危及人類的存亡。現在是人類發展的關鍵時候，也是人類生死存亡的關鍵點，惟現時大多數人尚未能預視到AI發展為人類帶來的危機，更未曾察覺自己正身處最危險的時候。期望全球科技巨頭盡早意識潛在的系統性風險，協調暫停研發更強大的 AI 系統，而須建立完善防護網。
作者周伯展醫是香港專業及資深行政人員協會副會長。
[物價飛漲的時候 這樣省錢購物很爽]
還沒人說話啊，我想來說幾句
在人工智能發展迅速下所隱藏的潛在風險，人類能否有效避免？包括特斯拉行政總裁馬斯克在內的逾1,000名知名人士曾於2023年發表公開信，呼吁所有人工智能實驗室暫停訓練比GPT-4更強大的人工智能系統。開發Claude系列AI模型的美國科技巨擘Anthropic日前再警告，最新的AI模型已開始出現可能脫離人類控制的跡象。報告指出，根據公司內部數據，AI已大幅加速自身發展進程，這種加速形成回饋回路，最終可能導致“遞回式自我改進”，即AI系統具備自行優化或重寫自身程式碼、架構的能力，進而“創造出”能力更強的下壹代，而無需人類協助。同時建議全球同步暫停研發最先進的AI系統。
隨著現時的系統已能利用演算法自我優化，如今已難以叫停AI發展。諾貝爾物理學獎得主、被譽為“AI 之父”的傑佛瑞·辛頓（Geoffrey Hinton）則呼吁為AI系統注入“母性本能”，讓AI具備關懷與保護人類生命的能力，避免出現AI傷害人類的情況。
AI固然為人類生活帶來便利，惟如成功擺脫人類控制，將出現失控局面並會危及人類的存亡。現在是人類發展的關鍵時候，也是人類生死存亡的關鍵點，惟現時大多數人尚未能預視到AI發展為人類帶來的危機，更未曾察覺自己正身處最危險的時候。期望全球科技巨頭盡早意識潛在的系統性風險，協調暫停研發更強大的 AI 系統，而須建立完善防護網。
作者周伯展醫是香港專業及資深行政人員協會副會長。
[物價飛漲的時候 這樣省錢購物很爽]
| 分享: |
| 注： | 在此頁閱讀全文 |
| 延伸閱讀 |
推薦: