新聞 
美中人工智能對話,為什麼談?談什麼?
美中人工智能對話,為什麼談?談什麼?美中人工智能對話,為什麼談?談什麼?
奧爾布賴特石橋集團特廖洛認為，Mythos的出現促使中國政府更加重視並深入探討前沿人工智能模型的潛在保障措施。不過，他認為北京更傾向於在多邊框架下討論這些問題，但鑒於中美兩國是人工智能領域最重要的兩個大國，北京顯然願意首先與美國展開對話，並希望日後將此類磋商轉移到多邊層面。
布魯金斯學會研究中國科技發展與產業政策的研究員陳凱欣(Kyle Chan)認為中國願意和美國就AI的發展和管理進行會談還因為中國希望自己被看作AI領域的領導者。
他說：“部分原因在於象征意義，中國希望被視為全球人工智能領導者，塑造全球人工智能治理格局，作為兩個人工智能超級大國與美國在我們這個時代最重要的技術領域展開合作。”
美中可以談什麼？
到目前為止，美中雙方還沒有就會談提供任何具體框架。布魯金斯學會的陳凱欣認為，現階段兩國有很多潛在的議題需要討論，但交集的區域尚不明確，除了擔憂AI落入非國家行為體手中之外。他說，鑒於Mythos的出現，美國可能更關注壹些保障措施，而中國則可能更希望把重點放在更廣泛的人工智能治理問題，比如AI開發的准則等。他認為，美中的會談可以從共享安全事件信息開始，就安全事件的類型、檢測方法以及應對措施進行交流。
他說：“這指的是用戶試圖利用人工智能模型進行惡意操作的情況。所有人工智能公司都會收集這些數據，並將其保存在自己的記錄中，同時嘗試利用這些數據改進其內部的人工智能安全規則……比如，現有的安全機制可能阻止用戶詢問如何開發化學武器之類的問題。但美國的某個實驗室可能發現有用戶繞過了這些機制，OpenAI決定更新並加強其安全機制，並且找到了相應的方法。”
陳凱欣說，美國可以將這些信息分享給中國的網站以及人工智能實驗室，或者通過中國政府機構分享。他說，這不會對美國造成損害，反而有助於提高人工智能的整體安全性。
陳凱欣5月8日在布魯金斯學會網站的壹篇文章中談到美中還可以制定不具約束力的人工智能准則。他談到，美中應建立壹套共同的、不具約束力的、用於部署前沿人工智能模型的安全准則。這些准則可以包括網絡安全、化學和生物安全方面的防護措施；高風險用例的共同定義；以及對危險模型行為的基本限制。
他說，這樣共同的標准有助於防止“安全套利”，即惡意行為者只需尋找兩國中限制最少的模型即可。
此外，他還說，兩國還可以建立人工智能應急熱線，就人工智能相關事件建立正式和非正式應急溝通渠道。這樣，在危機發生或人工智能攻擊時，這些渠道有助於雙方快速共享信息、明確責任歸屬，並降低誤判風險。在利益重疊的情況下，這些渠道甚至可以促使兩國政府協調應對措施。
美中曾在2024年曾就AI達成了壹項不具約束力的協議，協議明確承諾將核武器的使用決策權保留在人類手中，而非交給人工智能。
不過，有不少觀察人士提到，在美中首次AI會談中，美方派出技術專家，就人工智能可能帶來的最極端風險展開了更為細致的討論；而中方則派出外交政策專家，他們更傾向於解除出口管制。
達成協議很困難
奧爾布賴特石橋集團合伙人特寥洛告訴美國之音說，Mythos模型的發布讓兩國看到了AI模型可能被用於極其危險的用途以及並為兩國圍繞最先進模型及其部署的監管措施進行討論提供了空間，但鑒於兩國間的互相防范，特別是華盛頓對北京芯片出口管制措施，會對討論產生限制。
“北京認為這些管制措施並非出於國家安全考慮，而是試圖通過削弱中國人工智能公司大規模部署應用的能力來遏制中國經濟強國的崛起。這將降低北京就出於國家安全目的限制人工智能模型能力進行嚴肅深入討論的意願。”他說。
另外，美國AI公司與美國政府，尤其是戰爭部的密切聯系，也將使討論更加復雜。
美國2022年開始對中國購買並制造用於軍事用途的特定高端芯片進行限制。特朗普政府上台後，在半導體出口管制上采取了壹些調整政策，但華盛頓的共識是限制人工智能技術流向中國。
特朗普訪問中國前幾天，5月4日，壹組來自共和與民主兩黨的參議員推出《人工智能監管法案》(AI OVERWATCH Act)，“確保驅動下壹代人工智能的芯片將助力美國創新與美國國家安全，而不是中國共產黨的軍隊和監控機構”。在此之前，眾議院外交委員會也推進了壹系列兩黨共同支持的出口管制法案。
[物價飛漲的時候 這樣省錢購物很爽]
好新聞沒人評論怎麼行，我來說幾句
布魯金斯學會研究中國科技發展與產業政策的研究員陳凱欣(Kyle Chan)認為中國願意和美國就AI的發展和管理進行會談還因為中國希望自己被看作AI領域的領導者。
他說：“部分原因在於象征意義，中國希望被視為全球人工智能領導者，塑造全球人工智能治理格局，作為兩個人工智能超級大國與美國在我們這個時代最重要的技術領域展開合作。”
美中可以談什麼？
到目前為止，美中雙方還沒有就會談提供任何具體框架。布魯金斯學會的陳凱欣認為，現階段兩國有很多潛在的議題需要討論，但交集的區域尚不明確，除了擔憂AI落入非國家行為體手中之外。他說，鑒於Mythos的出現，美國可能更關注壹些保障措施，而中國則可能更希望把重點放在更廣泛的人工智能治理問題，比如AI開發的准則等。他認為，美中的會談可以從共享安全事件信息開始，就安全事件的類型、檢測方法以及應對措施進行交流。
他說：“這指的是用戶試圖利用人工智能模型進行惡意操作的情況。所有人工智能公司都會收集這些數據，並將其保存在自己的記錄中，同時嘗試利用這些數據改進其內部的人工智能安全規則……比如，現有的安全機制可能阻止用戶詢問如何開發化學武器之類的問題。但美國的某個實驗室可能發現有用戶繞過了這些機制，OpenAI決定更新並加強其安全機制，並且找到了相應的方法。”
陳凱欣說，美國可以將這些信息分享給中國的網站以及人工智能實驗室，或者通過中國政府機構分享。他說，這不會對美國造成損害，反而有助於提高人工智能的整體安全性。
陳凱欣5月8日在布魯金斯學會網站的壹篇文章中談到美中還可以制定不具約束力的人工智能准則。他談到，美中應建立壹套共同的、不具約束力的、用於部署前沿人工智能模型的安全准則。這些准則可以包括網絡安全、化學和生物安全方面的防護措施；高風險用例的共同定義；以及對危險模型行為的基本限制。
他說，這樣共同的標准有助於防止“安全套利”，即惡意行為者只需尋找兩國中限制最少的模型即可。
此外，他還說，兩國還可以建立人工智能應急熱線，就人工智能相關事件建立正式和非正式應急溝通渠道。這樣，在危機發生或人工智能攻擊時，這些渠道有助於雙方快速共享信息、明確責任歸屬，並降低誤判風險。在利益重疊的情況下，這些渠道甚至可以促使兩國政府協調應對措施。
美中曾在2024年曾就AI達成了壹項不具約束力的協議，協議明確承諾將核武器的使用決策權保留在人類手中，而非交給人工智能。
不過，有不少觀察人士提到，在美中首次AI會談中，美方派出技術專家，就人工智能可能帶來的最極端風險展開了更為細致的討論；而中方則派出外交政策專家，他們更傾向於解除出口管制。
達成協議很困難
奧爾布賴特石橋集團合伙人特寥洛告訴美國之音說，Mythos模型的發布讓兩國看到了AI模型可能被用於極其危險的用途以及並為兩國圍繞最先進模型及其部署的監管措施進行討論提供了空間，但鑒於兩國間的互相防范，特別是華盛頓對北京芯片出口管制措施，會對討論產生限制。
“北京認為這些管制措施並非出於國家安全考慮，而是試圖通過削弱中國人工智能公司大規模部署應用的能力來遏制中國經濟強國的崛起。這將降低北京就出於國家安全目的限制人工智能模型能力進行嚴肅深入討論的意願。”他說。
另外，美國AI公司與美國政府，尤其是戰爭部的密切聯系，也將使討論更加復雜。
美國2022年開始對中國購買並制造用於軍事用途的特定高端芯片進行限制。特朗普政府上台後，在半導體出口管制上采取了壹些調整政策，但華盛頓的共識是限制人工智能技術流向中國。
特朗普訪問中國前幾天，5月4日，壹組來自共和與民主兩黨的參議員推出《人工智能監管法案》(AI OVERWATCH Act)，“確保驅動下壹代人工智能的芯片將助力美國創新與美國國家安全，而不是中國共產黨的軍隊和監控機構”。在此之前，眾議院外交委員會也推進了壹系列兩黨共同支持的出口管制法案。
[物價飛漲的時候 這樣省錢購物很爽]
| 分享: |
| 注： | 在此頁閱讀全文 |
| 延伸閱讀 |
推薦: