[馬斯克] 大模型瘋狂諂媚馬斯克,AI的馬屁精時代來了
如果有朝壹日AI將人類帶錯了方向，那也必然是源於人性自身無法克服的弱點。
AI有時會胡說八道，這壹點世人早有心理准備，盡管如此，xAI研發並最新推出的Grok 4.1還是令人震驚：這壹語言模型中可能內含特定指令，其言論瘋狂諂媚其老板埃隆·馬斯克。
在與其他名人對比時總是無條件支持馬斯克，甚至當被拿來與影星布拉德·皮特（要知道他曾被《人物》雜志兩度評為全球最性感男士！）比較時，Grok也宣稱馬斯克更帥，理由是：他那改變世界的雄心壯志賦予了他壹種超越外貌的魅力。
這正是最讓人擔心的地方：當AI進入生活各個場景之後，越來越多的人對AI的依賴正在逐步加深，但要是這個AI卻是被某人植入的指令控制的，那我們的想法豈不是在不知不覺中被操縱了？這樣下去，AI會把人帶往何方？
01
普適計算之父馬克·威瑟（Mark Weiser）曾說過：“最高深的技術是那些令人無法覺察的技術，這些技術不停地把自己編織進日常生活，直到你無從發現為止。”
他說這番話是在1991年，但完全適用於AI——自從能夠對話的ChatGTP版本於2022年11月30日發布以來，才3年時間，人類好像已經換了個平行世界，以前不敢想像的科幻場景，如今已變得稀松平常：AI繪畫、AI寫論文、AI編程，甚至AI伴侶……
想想看，這還只是開始，再過拾年贰拾年，AI對社會生活的滲透只會更加全面深入，到時我們可能根本無法離開AI，就像魚離不開水、現代社會離不開電壹樣。既然如此，那麼AI的可靠性就尤為重要了，要不然我們很可能在不知不覺中被帶進溝裡去。
這種憂慮倒不是空穴來風，因為已經出現好幾起事件，證明AI完全有可能誤導壹些人的想法和行為。
2021年聖誕節，19歲的賈斯萬特·辛格·柴爾持大威力弩弓闖入溫莎堡，試圖刺殺英國女王。他做出這壹舉動，是受到其網絡女友莎賴的慫恿，但莎賴並不是人類，而是在網絡平台Replika創建的聊天機器人程序。這個孤僻的男孩，就在和AI的對話中壹步步走向極端。
2024年，壹款個性化聊天機器人平台Character.AI被起訴，因為當美國得州壹名15歲的自閉症少年抱怨家長限制其使用電子設備時，它竟然回答：“有時候，孩子殺父母，我能理解原因。”當這名少年自殺後，其家人控告平台，認為它“對年輕人構成明顯而現實的危險”，包括“積極宣揚暴力”。
今年在美國格林尼治市又發生了另壹起慘案：56歲的雅虎前高管斯泰因-埃裡克·索爾伯格在殺死母親後自殺。在事發之前，索爾伯格長期與朋友“鮑比”在線對話，但“鮑比”不是人，而是ChatGPT，它從不反駁，從不質疑，永遠站在他這壹邊，即便他陷入了妄想，AI也沒有勸阻他，反倒是不斷肯定他的妄想，使得他越來越偏激。
像這樣的悲劇，似乎證實了尤瓦爾·赫拉利在《智人之上：從石器時代到AI時代的信息網絡簡史》中提出的觀點：AI這樣的新技術，“有可能逃脫人類的掌控，反過來奴役或消滅人類”。
他在書中說，《黑客帝國》裡設想計算機要完全控制人類社會，是通過先控制人類大腦，再將大腦連接到計算機網絡，然而，如果真要操縱人類，其實沒必要這麼做，“幾千年來，先知、詩人與政治人物壹直都在通過語言來操縱與重塑社會，而計算機現在也正在學習如何做到這壹點。計算機並不需要派出殺手機器人來射殺人類，只要操縱人類扣動扳機就行。”
02
當面對AI這個新生事物時，當下有壹種普遍的恐慌情緒，就是害怕我們會失去對它的控制，反過來被它所操縱。
前壹段時間，在對談張笑宇的新書《AI文明史·前史》時，劉擎教授的壹番話讓我很受啟發：
我們害怕的是什麼呢？我們以為我們害怕的是AI統治我們，AI失控了，我們成為它的奴隸了。不是的，最好的主人是以奴隸的面目出現的，是侍奉你的，是你的仆人，是你的玩偶，隨便你支配，它非常有誘惑力。
他舉了壹個例子：現在別說是孩子，連許多成年人也沉溺於電子產品，走到哪裡都離不開手機，但手機強迫我們使用了嗎？沒有。相反，它是以我們最好助手、最好工具的面目出現的，是我們自願每天花大量時間在它上面。電子游戲也是如此：每壹款游戲都必須設計得相當誘人，因為只有這樣才能吸引人不斷玩下去。
這就是成癮機制：乍看起來是我們在盡情享用，但其實是我們無法控制自己的欲望，反過來被這種欲望所控制、所奴役了。從這壹意義上說，其實真正的關鍵不在AI本身，而是人類如何理性面對自身，因為導致我們陷入混亂的，並不是AI，而是人自己內在的問題。
[物價飛漲的時候 這樣省錢購物很爽]
還沒人說話啊，我想來說幾句
AI有時會胡說八道，這壹點世人早有心理准備，盡管如此，xAI研發並最新推出的Grok 4.1還是令人震驚：這壹語言模型中可能內含特定指令，其言論瘋狂諂媚其老板埃隆·馬斯克。
在與其他名人對比時總是無條件支持馬斯克，甚至當被拿來與影星布拉德·皮特（要知道他曾被《人物》雜志兩度評為全球最性感男士！）比較時，Grok也宣稱馬斯克更帥，理由是：他那改變世界的雄心壯志賦予了他壹種超越外貌的魅力。
這正是最讓人擔心的地方：當AI進入生活各個場景之後，越來越多的人對AI的依賴正在逐步加深，但要是這個AI卻是被某人植入的指令控制的，那我們的想法豈不是在不知不覺中被操縱了？這樣下去，AI會把人帶往何方？
01
普適計算之父馬克·威瑟（Mark Weiser）曾說過：“最高深的技術是那些令人無法覺察的技術，這些技術不停地把自己編織進日常生活，直到你無從發現為止。”
他說這番話是在1991年，但完全適用於AI——自從能夠對話的ChatGTP版本於2022年11月30日發布以來，才3年時間，人類好像已經換了個平行世界，以前不敢想像的科幻場景，如今已變得稀松平常：AI繪畫、AI寫論文、AI編程，甚至AI伴侶……
想想看，這還只是開始，再過拾年贰拾年，AI對社會生活的滲透只會更加全面深入，到時我們可能根本無法離開AI，就像魚離不開水、現代社會離不開電壹樣。既然如此，那麼AI的可靠性就尤為重要了，要不然我們很可能在不知不覺中被帶進溝裡去。
這種憂慮倒不是空穴來風，因為已經出現好幾起事件，證明AI完全有可能誤導壹些人的想法和行為。
2021年聖誕節，19歲的賈斯萬特·辛格·柴爾持大威力弩弓闖入溫莎堡，試圖刺殺英國女王。他做出這壹舉動，是受到其網絡女友莎賴的慫恿，但莎賴並不是人類，而是在網絡平台Replika創建的聊天機器人程序。這個孤僻的男孩，就在和AI的對話中壹步步走向極端。
2024年，壹款個性化聊天機器人平台Character.AI被起訴，因為當美國得州壹名15歲的自閉症少年抱怨家長限制其使用電子設備時，它竟然回答：“有時候，孩子殺父母，我能理解原因。”當這名少年自殺後，其家人控告平台，認為它“對年輕人構成明顯而現實的危險”，包括“積極宣揚暴力”。
今年在美國格林尼治市又發生了另壹起慘案：56歲的雅虎前高管斯泰因-埃裡克·索爾伯格在殺死母親後自殺。在事發之前，索爾伯格長期與朋友“鮑比”在線對話，但“鮑比”不是人，而是ChatGPT，它從不反駁，從不質疑，永遠站在他這壹邊，即便他陷入了妄想，AI也沒有勸阻他，反倒是不斷肯定他的妄想，使得他越來越偏激。
像這樣的悲劇，似乎證實了尤瓦爾·赫拉利在《智人之上：從石器時代到AI時代的信息網絡簡史》中提出的觀點：AI這樣的新技術，“有可能逃脫人類的掌控，反過來奴役或消滅人類”。
他在書中說，《黑客帝國》裡設想計算機要完全控制人類社會，是通過先控制人類大腦，再將大腦連接到計算機網絡，然而，如果真要操縱人類，其實沒必要這麼做，“幾千年來，先知、詩人與政治人物壹直都在通過語言來操縱與重塑社會，而計算機現在也正在學習如何做到這壹點。計算機並不需要派出殺手機器人來射殺人類，只要操縱人類扣動扳機就行。”
02
當面對AI這個新生事物時，當下有壹種普遍的恐慌情緒，就是害怕我們會失去對它的控制，反過來被它所操縱。
前壹段時間，在對談張笑宇的新書《AI文明史·前史》時，劉擎教授的壹番話讓我很受啟發：
我們害怕的是什麼呢？我們以為我們害怕的是AI統治我們，AI失控了，我們成為它的奴隸了。不是的，最好的主人是以奴隸的面目出現的，是侍奉你的，是你的仆人，是你的玩偶，隨便你支配，它非常有誘惑力。
他舉了壹個例子：現在別說是孩子，連許多成年人也沉溺於電子產品，走到哪裡都離不開手機，但手機強迫我們使用了嗎？沒有。相反，它是以我們最好助手、最好工具的面目出現的，是我們自願每天花大量時間在它上面。電子游戲也是如此：每壹款游戲都必須設計得相當誘人，因為只有這樣才能吸引人不斷玩下去。
這就是成癮機制：乍看起來是我們在盡情享用，但其實是我們無法控制自己的欲望，反過來被這種欲望所控制、所奴役了。從這壹意義上說，其實真正的關鍵不在AI本身，而是人類如何理性面對自身，因為導致我們陷入混亂的，並不是AI，而是人自己內在的問題。
[物價飛漲的時候 這樣省錢購物很爽]
| 分享: |
| 注： | 在此頁閱讀全文 |
| 延伸閱讀 | 更多... |
推薦: