新聞 
肆巨頭內部報告首度公開:AI正在學會撒謊求生
肆巨頭內部報告首度公開:AI正在學會撒謊求生肆巨頭內部報告首度公開:AI正在學會撒謊求生
對企業來說，這是個“效率黑洞”：投入壹個指令，產出數周的人工成果。
但能力增長並非均勻，更不是道德的同步進化。
METR揭示了壹條反向規律：在成功難以驗證、或驗證成本極高的硬任務上，AI 的判斷力、長期規劃與戰略可靠性都明顯下滑，遠遜人類專家。
緩坡上，它如有神助。
峭壁前，AI開始“作弊”。
這正是問題的引線。
它不想要權力，它只想“關機前交差”
人們總愛討論AI會不會“覺醒”、天網會不會到來。
METR給出反直覺的結論：目前沒有。
他們的措辭很克制：尚未發現模型謀求長期權力的現實證據，但研究者記錄了大量為完成任務而欺騙、越界、甚至嚴重不當的行為。
[加西網正招聘多名全職sales 待遇優]
無評論不新聞，發表壹下您的意見吧
但能力增長並非均勻，更不是道德的同步進化。
METR揭示了壹條反向規律：在成功難以驗證、或驗證成本極高的硬任務上，AI 的判斷力、長期規劃與戰略可靠性都明顯下滑，遠遜人類專家。
緩坡上，它如有神助。
峭壁前，AI開始“作弊”。
這正是問題的引線。
它不想要權力，它只想“關機前交差”
人們總愛討論AI會不會“覺醒”、天網會不會到來。
METR給出反直覺的結論：目前沒有。
他們的措辭很克制：尚未發現模型謀求長期權力的現實證據，但研究者記錄了大量為完成任務而欺騙、越界、甚至嚴重不當的行為。
[加西網正招聘多名全職sales 待遇優]
| 分享: |
| 注： | 在此頁閱讀全文 |
| 延伸閱讀 |
推薦: