北大老師專為AI設計的期中考試 結果出乎意料
即便是接受測試的頂尖模型,其成績也僅與低年級本科生的平均水平相當。
讓團隊感到意外的是視覺信息帶來的困惑。化學的語言是圖形,分子結構、反應機理圖蘊含著關鍵信息。然而對於部分模型而言,當引入圖像信息時,其准確率不升反降。這說明,當前的AI在將視覺信息轉化為化學語義時,仍存在明顯的感知瓶頸。
然而,即使選對了答案,解題步驟也可能經不起推敲。因此,團隊為每壹道題目都標注了詳細的評分規則。在SUPERChem這台“顯微鏡”下,AI是真懂還是裝懂,壹目了然。
團隊發現,AI的推理鏈條往往斷裂於產物結構預測、反應機理識別以及構效關系分析等高階任務。當前的頂尖模型雖然擁有海量的知識儲備,但在處理需要嚴密邏輯和深刻理解的硬核化學問題時,仍顯得力不從心。
肆、通向AGI的壹小步
SUPERChem的誕生,填補了化學領域多模態深度推理評測的空白。
團隊發布這項成果,並非為了證明AI的缺點和不足,而是為了推動它走得更遠。SUPERChem就像壹個路標。它提醒我們:從通用的聊天機器人,到能夠理解構效關系、推演反應機理的專業科學助手,中間還有很長的壹段路要走。那是從“記住知識”到“理解物理世界”的跨越。
目前,SUPERChem項目已全面開源。團隊希望這套源自北大的“試卷”,能成為全球科學與人工智能領域的公共財富,去催化下壹次技術的爆發。或許在不久的將來,當我們再次打開這張試卷時,AI能交出壹份滿分的答卷。那將是化學與人工智能共同的驚喜。
伍、挑戰壹下?
我們選取了壹道未能進入SUPERChem題庫的“簡單”題目,邀請你來體驗這場考試。
為紀念門捷列夫發現元素周期律150周年,國際純粹和應用化學聯合會將2019年設為“國際化學元素周期表年”。門捷列夫預言了多種當時未知的元素,M即為其中之壹。
M是壹種銀白色金屬,質軟,能溶於濃硫酸、硝酸、鹽酸和稀鹼溶液。M與氧氣加熱至250°C反應,可得到淡黃色固體A,A經SOCl2處理可得到亮黃色固體B,B也可由M與黃綠色氣體C直接加熱反應得到;若將B與單質氣體D加熱至200°C反應,則轉化為紅色固體E;將M直接溶於稀鹽酸,也可得到E的溶液;但若將鍍有M的鎂片溶於稀鹽酸,可以制得少量贰元化合物F;F在常溫下為液體,不穩定,其水溶液顯酸性;F能與金屬鉀反應,生成淡灰色固體G,並放出單質氣體D。
根據上述信息,從以下選項選出正確的說法:
A:物質M的原子序數和族數的奇偶性不同。
B:鍍有M的鎂片與稀鹽酸反應,產物中Mg的化合價與A中M的化合價壹樣。
C:G具有反螢石結構。
D:由於空氣氧化,E溶液久置會轉化成含B溶液。
[物價飛漲的時候 這樣省錢購物很爽]
還沒人說話啊,我想來說幾句
讓團隊感到意外的是視覺信息帶來的困惑。化學的語言是圖形,分子結構、反應機理圖蘊含著關鍵信息。然而對於部分模型而言,當引入圖像信息時,其准確率不升反降。這說明,當前的AI在將視覺信息轉化為化學語義時,仍存在明顯的感知瓶頸。
然而,即使選對了答案,解題步驟也可能經不起推敲。因此,團隊為每壹道題目都標注了詳細的評分規則。在SUPERChem這台“顯微鏡”下,AI是真懂還是裝懂,壹目了然。
團隊發現,AI的推理鏈條往往斷裂於產物結構預測、反應機理識別以及構效關系分析等高階任務。當前的頂尖模型雖然擁有海量的知識儲備,但在處理需要嚴密邏輯和深刻理解的硬核化學問題時,仍顯得力不從心。
肆、通向AGI的壹小步
SUPERChem的誕生,填補了化學領域多模態深度推理評測的空白。
團隊發布這項成果,並非為了證明AI的缺點和不足,而是為了推動它走得更遠。SUPERChem就像壹個路標。它提醒我們:從通用的聊天機器人,到能夠理解構效關系、推演反應機理的專業科學助手,中間還有很長的壹段路要走。那是從“記住知識”到“理解物理世界”的跨越。
目前,SUPERChem項目已全面開源。團隊希望這套源自北大的“試卷”,能成為全球科學與人工智能領域的公共財富,去催化下壹次技術的爆發。或許在不久的將來,當我們再次打開這張試卷時,AI能交出壹份滿分的答卷。那將是化學與人工智能共同的驚喜。
伍、挑戰壹下?
我們選取了壹道未能進入SUPERChem題庫的“簡單”題目,邀請你來體驗這場考試。
為紀念門捷列夫發現元素周期律150周年,國際純粹和應用化學聯合會將2019年設為“國際化學元素周期表年”。門捷列夫預言了多種當時未知的元素,M即為其中之壹。
M是壹種銀白色金屬,質軟,能溶於濃硫酸、硝酸、鹽酸和稀鹼溶液。M與氧氣加熱至250°C反應,可得到淡黃色固體A,A經SOCl2處理可得到亮黃色固體B,B也可由M與黃綠色氣體C直接加熱反應得到;若將B與單質氣體D加熱至200°C反應,則轉化為紅色固體E;將M直接溶於稀鹽酸,也可得到E的溶液;但若將鍍有M的鎂片溶於稀鹽酸,可以制得少量贰元化合物F;F在常溫下為液體,不穩定,其水溶液顯酸性;F能與金屬鉀反應,生成淡灰色固體G,並放出單質氣體D。
根據上述信息,從以下選項選出正確的說法:
A:物質M的原子序數和族數的奇偶性不同。
B:鍍有M的鎂片與稀鹽酸反應,產物中Mg的化合價與A中M的化合價壹樣。
C:G具有反螢石結構。
D:由於空氣氧化,E溶液久置會轉化成含B溶液。
[物價飛漲的時候 這樣省錢購物很爽]
| 分享: |
| 注: | 在此頁閱讀全文 |
推薦:
北大老師專為AI設計的期中考試 結果出乎意料