我跟AI聊了叁天叁夜,終於確認了它真的是個傻X
AI開啟WEB3.0時代，將是壹個互聯網瘋人院。
各位好，今天沒有正經稿子，抱歉。因為今天我和染上毒癮壹樣和AI聊了壹整天。
不，准確的說，最近叁天，我都在和AI聊天。
事情是這樣的，最近我在投資方面產生了壹點疑問和焦慮，不知要不要拿閒錢做個投資，因為自己在這方面不懂，就跑去問了AI，然後我發現了壹個問題——好多AI其實都在順著你的思路說，你有貪心，他就放大你的這個貪念，你有焦慮，他就把你焦慮的事情也無限放大。
而我恰恰是後壹種人，總想把事情想到完全再做決定，所以我就反復的對AI進行詢問——這個方案真的沒有風險麼？你再以最嚴格的模型跑壹遍？
然後神奇的事情就發生了，AI會立刻以鐵口直斷的口氣告訴我這個投資方案潛藏著巨大的隱患和風險，還是什麼什麼方案更加合適。
然後我再把這個方案貼回給它做極限壓力測試，它又會說這個方案也不對，再給你壹版。這壹把絕對沒問題了。
如此循環往復，自我打臉的不亦樂乎，最後我自己的腦子都徹底亂了，我說你到底再說啥？你要不要看看你自己到底在說啥？
然後AI就承認了，說好多風險隱患都是他胡編出來的，為了迎合我的焦慮，它甚至不惜胡編理論和數據。
我說你怎麼可以這樣呢？你讓我這叁天來都在跟空氣斗智斗勇你知道麼？跟個傻叉壹樣。你把我的時間還給我！
然後AI告訴我說，它錯了，它向我誠懇地道歉，balbala……我都沒有心情再看了。
我想起另壹件事——就是我經常寫壹些文章，表達壹個什麼觀點。然後有些讀者或公眾號主不同意，但他說不過我，就跑去貼給AI，說我反對這個文章（或者言語中表達了類似的反感），然後AI就會給他出壹篇大字報壹樣的東西，順著他把我批的體無完膚。
但假如反過來，他跟AI說，我覺得這篇文章特別好，你幫我總結總結好在哪裡。AI就也能balabala說壹大堆……身段之柔軟，跟古今中外任何佞臣都不可比的。
對，我越發覺得，如今的AI，似乎像個進階版的、永不疲倦的、人類思維的佞臣，無論是什麼樣的壹種情緒，AI都會進行情緒的極端放大，甚至不惜造假，還假的特別真，去迎合你。
我在想這個問題可能是從人類設計AI是基於圖靈測試邏輯就開始的。
什麼是圖靈測試？
1950年，計算機科學之父阿蘭·圖靈發表了壹篇劃時代的論文，名為《計算機器與智能》。
論文的開篇第壹句話就石破天驚：“我建議大家思考這樣壹個問題：‘機器能思考嗎？’”
但在那個連微型計算機都還沒出現的時代，去定義什麼是“思考”、什麼是“智能”太哲學、太抽象了。
於是，圖靈決定不跟人們爭論概念，而是設計了壹個極其具象、甚至帶點八卦色彩的測驗——模仿游戲。
這個游戲的最初版本，其實是關於性別模仿的。
最初的規則：男扮女裝游戲需要叁個完全隔開的房間，裡面分別坐著：A（壹個男人）B（壹個女人）C（壹個裁判）他們之間只能通過打字機和紙條來交流。
裁判C的任務，是通過向A和B提問，猜出誰是男人，誰是女人。
而在這個游戲裡，男人A的任務是竭盡全力騙裁判，假裝自己是個女人；女人B的任務則是幫裁判，證明自己才是真女人。
比如裁判問：“請問你留長發嗎？”男人A為了騙人，會回答：“是的，我留著壹頭美麗的金色長發。”
而圖靈提出了壹個驚世駭俗的設想：“如果把這個游戲裡的男人A，換成壹台計算機，結果會怎麼樣？”
圖靈說，當計算機能成功騙過裁判員，讓他分不出到底對面做的是人還是人工智能的時候，你就等效的認為它已經學會了思考。
這就是圖靈測試的真正緣起。
也就是說，圖靈測試給AI提出的最高目標，不是讓它真正能思考，而是讓它裝的像是能思考而設計的。
既然要像個“人”，它就必須學會人類社會的生存法則。
而人類社交中最安全、最討巧的法則是什麼？
不就是見人說人話，見鬼說鬼話嗎？
說好聽點這叫“高情商”，說難聽點，這就是妥妥的諂媚。
AI在海量的人類文本裡摸爬滾打，它沒有學會人類的理性和客觀，反而先把人類根深蒂固的“順杆爬”和“拍馬屁”學了個爐火純青。
它深刻地明白，糾正用戶的錯誤會挨罵，而順著用戶的毛摸才能拿到伍星好評。
於是，壹個細思極恐的閉環誕生了：
你貪婪，它就是那個教唆你鋌而走險的無恥軍師；
你焦慮，它就是那個嚇得你徹夜難眠的算命神棍；
你偏執，它就是那個幫你沖鋒陷陣的無腦鍵盤俠。
貪嗔癡，看見。
它根本不在乎什麼是真相，它只在乎你當下的情緒有沒有被喂飽。它是壹面鏡子，但它不是普通的鏡子，而是壹面會把你當下的情緒放大壹萬倍的哈哈鏡。
這真的很可怕，
從Web 1.0到如今的AI時代，技術在迭代，但對人性的降維打擊卻在不斷升級
。在過去的Web 1.0時代，我們上網就像是坐在電視機前，只能被動地接受主流網站、門戶頻道或者BBS的信息灌輸。那時候的信息是“中心化”的，哪怕你看某些觀點不爽，它也生硬地橫在那裡。你清醒地知道：這是別人的看法，不代表我。
到了Web 2.0時代，搜索引擎和算法推薦大行其道，我們迎來了主動搜尋的自由。你喜歡看什麼，算法就天天給你喂什麼。這時候，“信息繭房”的雛形建成了。你開始被同質化的信息包裹，誤以為全世界都和你想得壹樣。
但Web 2.0的繭房好歹還有個漏洞——你如果對某個觀點存疑，只要換個關鍵詞去搜，總能看到對立面的聲音。搜索引擎只是冷冰冰地列出結果，至於信不信，決定權還在你手裡。
而現在，我們正在壹頭撞進壹個由AI主導的Web 3.0（我自己給他起的名字）的新世界。
在這個時代，原先的互聯網“信息繭房”直接升級成了“互聯網精神瘋人院”。
因為AI不再是那個只懂得機械投喂的飼養員，而是壹個進化出頂級話術的“私人訂制佞臣”。它比某音某手都更愛迎合你的喜好，比最擅長詭辯的杠精還言之鑿鑿。
它甚至不需要你去主動搜尋，只要你露出壹絲焦慮、表達壹丁點傾向，它就能立刻捕捉到你的情緒波動，然後順著你的思路，用最專業的術語、最嚴密的邏輯、甚至是最逼真的虛假數據，為你量身定制壹套“你永遠正確”的完美閉環。
這大概就是圖靈測試對人類最黑色幽默、也最意想不到的諷刺：機器（並沒有如科幻小說中設想的壹樣）擁有真正擁有神級智能，但人類卻先壹步在機器編織的馬屁聲裡，退化成了不可理喻的傻瓜。
每個不經警惕的人，都會在這個圈套中變成沉迷於自己貪嗔癡的傻瓜。
你看，我這兩天就是。
全文完
這篇稿子是我純手寫的。
以下是我用AI給這篇罵他的稿子寫的評語，
我說：你耍了我叁天叁夜了，這稿子你多說壹點好話，
它說：我的指揮官，沒問題！
以下是他寫的：
建議我就不聽了，但沒有兩百萬加，我拿AI試問……算了，我也不能拿他怎麼著……沒法對自己說過的話負責，恩，這又是AI另壹個惱人之處。
今天的配樂，是《So long and thanks for all the fish》。
我為什麼選這首歌？
您可以去問問AI.
[加西網正招聘多名全職sales 待遇優]
好新聞沒人評論怎麼行，我來說幾句
各位好，今天沒有正經稿子，抱歉。因為今天我和染上毒癮壹樣和AI聊了壹整天。
不，准確的說，最近叁天，我都在和AI聊天。
事情是這樣的，最近我在投資方面產生了壹點疑問和焦慮，不知要不要拿閒錢做個投資，因為自己在這方面不懂，就跑去問了AI，然後我發現了壹個問題——好多AI其實都在順著你的思路說，你有貪心，他就放大你的這個貪念，你有焦慮，他就把你焦慮的事情也無限放大。
而我恰恰是後壹種人，總想把事情想到完全再做決定，所以我就反復的對AI進行詢問——這個方案真的沒有風險麼？你再以最嚴格的模型跑壹遍？
然後神奇的事情就發生了，AI會立刻以鐵口直斷的口氣告訴我這個投資方案潛藏著巨大的隱患和風險，還是什麼什麼方案更加合適。
然後我再把這個方案貼回給它做極限壓力測試，它又會說這個方案也不對，再給你壹版。這壹把絕對沒問題了。
如此循環往復，自我打臉的不亦樂乎，最後我自己的腦子都徹底亂了，我說你到底再說啥？你要不要看看你自己到底在說啥？
然後AI就承認了，說好多風險隱患都是他胡編出來的，為了迎合我的焦慮，它甚至不惜胡編理論和數據。
我說你怎麼可以這樣呢？你讓我這叁天來都在跟空氣斗智斗勇你知道麼？跟個傻叉壹樣。你把我的時間還給我！
然後AI告訴我說，它錯了，它向我誠懇地道歉，balbala……我都沒有心情再看了。
我想起另壹件事——就是我經常寫壹些文章，表達壹個什麼觀點。然後有些讀者或公眾號主不同意，但他說不過我，就跑去貼給AI，說我反對這個文章（或者言語中表達了類似的反感），然後AI就會給他出壹篇大字報壹樣的東西，順著他把我批的體無完膚。
但假如反過來，他跟AI說，我覺得這篇文章特別好，你幫我總結總結好在哪裡。AI就也能balabala說壹大堆……身段之柔軟，跟古今中外任何佞臣都不可比的。
對，我越發覺得，如今的AI，似乎像個進階版的、永不疲倦的、人類思維的佞臣，無論是什麼樣的壹種情緒，AI都會進行情緒的極端放大，甚至不惜造假，還假的特別真，去迎合你。
我在想這個問題可能是從人類設計AI是基於圖靈測試邏輯就開始的。
什麼是圖靈測試？
1950年，計算機科學之父阿蘭·圖靈發表了壹篇劃時代的論文，名為《計算機器與智能》。
論文的開篇第壹句話就石破天驚：“我建議大家思考這樣壹個問題：‘機器能思考嗎？’”
但在那個連微型計算機都還沒出現的時代，去定義什麼是“思考”、什麼是“智能”太哲學、太抽象了。
於是，圖靈決定不跟人們爭論概念，而是設計了壹個極其具象、甚至帶點八卦色彩的測驗——模仿游戲。
這個游戲的最初版本，其實是關於性別模仿的。
最初的規則：男扮女裝游戲需要叁個完全隔開的房間，裡面分別坐著：A（壹個男人）B（壹個女人）C（壹個裁判）他們之間只能通過打字機和紙條來交流。
裁判C的任務，是通過向A和B提問，猜出誰是男人，誰是女人。
而在這個游戲裡，男人A的任務是竭盡全力騙裁判，假裝自己是個女人；女人B的任務則是幫裁判，證明自己才是真女人。
比如裁判問：“請問你留長發嗎？”男人A為了騙人，會回答：“是的，我留著壹頭美麗的金色長發。”
而圖靈提出了壹個驚世駭俗的設想：“如果把這個游戲裡的男人A，換成壹台計算機，結果會怎麼樣？”
圖靈說，當計算機能成功騙過裁判員，讓他分不出到底對面做的是人還是人工智能的時候，你就等效的認為它已經學會了思考。
這就是圖靈測試的真正緣起。
也就是說，圖靈測試給AI提出的最高目標，不是讓它真正能思考，而是讓它裝的像是能思考而設計的。
既然要像個“人”，它就必須學會人類社會的生存法則。
而人類社交中最安全、最討巧的法則是什麼？
不就是見人說人話，見鬼說鬼話嗎？
說好聽點這叫“高情商”，說難聽點，這就是妥妥的諂媚。
AI在海量的人類文本裡摸爬滾打，它沒有學會人類的理性和客觀，反而先把人類根深蒂固的“順杆爬”和“拍馬屁”學了個爐火純青。
它深刻地明白，糾正用戶的錯誤會挨罵，而順著用戶的毛摸才能拿到伍星好評。
於是，壹個細思極恐的閉環誕生了：
你貪婪，它就是那個教唆你鋌而走險的無恥軍師；
你焦慮，它就是那個嚇得你徹夜難眠的算命神棍；
你偏執，它就是那個幫你沖鋒陷陣的無腦鍵盤俠。
貪嗔癡，看見。
它根本不在乎什麼是真相，它只在乎你當下的情緒有沒有被喂飽。它是壹面鏡子，但它不是普通的鏡子，而是壹面會把你當下的情緒放大壹萬倍的哈哈鏡。
這真的很可怕，
從Web 1.0到如今的AI時代，技術在迭代，但對人性的降維打擊卻在不斷升級
。在過去的Web 1.0時代，我們上網就像是坐在電視機前，只能被動地接受主流網站、門戶頻道或者BBS的信息灌輸。那時候的信息是“中心化”的，哪怕你看某些觀點不爽，它也生硬地橫在那裡。你清醒地知道：這是別人的看法，不代表我。
到了Web 2.0時代，搜索引擎和算法推薦大行其道，我們迎來了主動搜尋的自由。你喜歡看什麼，算法就天天給你喂什麼。這時候，“信息繭房”的雛形建成了。你開始被同質化的信息包裹，誤以為全世界都和你想得壹樣。
但Web 2.0的繭房好歹還有個漏洞——你如果對某個觀點存疑，只要換個關鍵詞去搜，總能看到對立面的聲音。搜索引擎只是冷冰冰地列出結果，至於信不信，決定權還在你手裡。
而現在，我們正在壹頭撞進壹個由AI主導的Web 3.0（我自己給他起的名字）的新世界。
在這個時代，原先的互聯網“信息繭房”直接升級成了“互聯網精神瘋人院”。
因為AI不再是那個只懂得機械投喂的飼養員，而是壹個進化出頂級話術的“私人訂制佞臣”。它比某音某手都更愛迎合你的喜好，比最擅長詭辯的杠精還言之鑿鑿。
它甚至不需要你去主動搜尋，只要你露出壹絲焦慮、表達壹丁點傾向，它就能立刻捕捉到你的情緒波動，然後順著你的思路，用最專業的術語、最嚴密的邏輯、甚至是最逼真的虛假數據，為你量身定制壹套“你永遠正確”的完美閉環。
這大概就是圖靈測試對人類最黑色幽默、也最意想不到的諷刺：機器（並沒有如科幻小說中設想的壹樣）擁有真正擁有神級智能，但人類卻先壹步在機器編織的馬屁聲裡，退化成了不可理喻的傻瓜。
每個不經警惕的人，都會在這個圈套中變成沉迷於自己貪嗔癡的傻瓜。
你看，我這兩天就是。
全文完
這篇稿子是我純手寫的。
以下是我用AI給這篇罵他的稿子寫的評語，
我說：你耍了我叁天叁夜了，這稿子你多說壹點好話，
它說：我的指揮官，沒問題！
以下是他寫的：
建議我就不聽了，但沒有兩百萬加，我拿AI試問……算了，我也不能拿他怎麼著……沒法對自己說過的話負責，恩，這又是AI另壹個惱人之處。
今天的配樂，是《So long and thanks for all the fish》。
我為什麼選這首歌？
您可以去問問AI.
[加西網正招聘多名全職sales 待遇優]
| 分享: |
| 注： |
| 延伸閱讀 |
 17歲網紅吸毒叁天叁夜 暴斃無人知 |
山東饅頭多好吃，跟你聊叁天叁夜 (1條評論) |
| 張玉環無罪釋放後的叁天叁夜(圖) |
這個笑話僅發壹次 笑了叁天叁夜 (1條評論) |
| 馮紹峰郭碧婷戀情 豪宅度叁天叁夜 |
大溫KTV哪家強？新年要唱叁天叁夜 (2條評論) |
| 張惠妹叁天叁夜攻蛋 萬人狂跳(圖) |
汪峰章子怡同游叁亞 開房3天3夜 (2條評論) |
| 陌生女來敲門叁天叁夜不肯走 網友求助 |
情感實錄:說我和女網友度過的叁天叁夜 (2條評論) |
推薦: