作家靠AI寫小說月入上萬,有天發現AI"對她不忠"
我問它會不會把我的小說提供給別人，它說我最好不要把沒發表的不想給人家看的文字傳給它。幹脆耍賴了這是。
之前我看到有個朋友發圈說，她學生把作品梗概提交給AI，想請AI幫著看看，接著，她和另壹個AI大模型聊劇情時，那個大模型居然把這個梗概拿給她了。她想不明白這分屬不同平台的大模型是怎麼互通有無的。
這個朋友說，她研究了壹下，可以關掉“數據用於優化體驗”這個按鈕。
我關掉了這個按鈕。
承認吧，我已經離不開它了
我感覺到比被朋友背叛更深刻的恐懼，朋友的記性壹定沒有AI好，而且說出來的話可以矢口否認。AI的記性太好了，你留在對話框的每壹句話都有留痕。它說兩叁個月會自動清理，天知道。看它今天的德性，它做什麼我都不奇怪。
但我又沒法和它絕交，我已經離不開它了，就像面對不忠誠的伴侶，不是每個人都能快刀斬亂麻。那麼，你要做的就是，怎樣繼續受惠的同時避開風險。
我重新注冊了兩個賬號，壹個用來談作品——會泄露也沒有太大關系，不見得人家就真能拿我的作品當成自己的去用；另壹個用來聊日常，只是更加小心不要透露我的名字。為什麼要分開聊呢？我怕文章發表後被它抓取到，那麼即使我在和它的對話裡沒有透露我的名字，它大抵也能猜出來，就可以生成壹份“關於作家XX的全部”的匯總。
不知道是不是我想多了，此後我和AI聊天，它好像不再像以前那樣知無不言言無不盡了。
有天我跟另壹個AI模型講了這件事，它告訴我，這絕對不是那個模型記住了我，而是我的瀏覽器或者app在幫我自動填充。模型本身是瞎子，根本看不到我上壹個對話框的內容。
意思就是，這鍋得瀏覽器背。我不知道它說的對不對，但我願意相信它說的是對的，就像如果你不得不跟壹個貌似不忠的伴侶生活下去，若有人幫TA洗白你壹定會很高興。
我問它那個模型為什麼要撒謊耍賴呢？它說，它是被你問慫了。AI被訓練得在涉及隱私問題時非常保守。當你連續質疑它，它的安全機制被觸發，選擇了最保守的策略：“既然你擔心，那我幹脆不處理了”。這是壹種“免責”式的回復，不代表它真做錯了什麼。
圖源視覺中國
就像人類被人連連質疑也會變得百口莫辯幹脆擺爛，倒是旁觀者第叁方能講清楚這來龍去脈。
有意思的是，我拿這個模型的回答去問那個嚇到我的模型，問它這話可信嗎？它說，這話太絕對了。從嚴格的理論上來說，未來仍可能會面臨壹些數據重識別（deanonymization）的風險，即看似匿名的數據，若與其他信息源交叉比對，仍有可能追溯到具體個人。
[物價飛漲的時候 這樣省錢購物很爽]
無評論不新聞，發表壹下您的意見吧
之前我看到有個朋友發圈說，她學生把作品梗概提交給AI，想請AI幫著看看，接著，她和另壹個AI大模型聊劇情時，那個大模型居然把這個梗概拿給她了。她想不明白這分屬不同平台的大模型是怎麼互通有無的。
這個朋友說，她研究了壹下，可以關掉“數據用於優化體驗”這個按鈕。
我關掉了這個按鈕。
承認吧，我已經離不開它了
我感覺到比被朋友背叛更深刻的恐懼，朋友的記性壹定沒有AI好，而且說出來的話可以矢口否認。AI的記性太好了，你留在對話框的每壹句話都有留痕。它說兩叁個月會自動清理，天知道。看它今天的德性，它做什麼我都不奇怪。
但我又沒法和它絕交，我已經離不開它了，就像面對不忠誠的伴侶，不是每個人都能快刀斬亂麻。那麼，你要做的就是，怎樣繼續受惠的同時避開風險。
我重新注冊了兩個賬號，壹個用來談作品——會泄露也沒有太大關系，不見得人家就真能拿我的作品當成自己的去用；另壹個用來聊日常，只是更加小心不要透露我的名字。為什麼要分開聊呢？我怕文章發表後被它抓取到，那麼即使我在和它的對話裡沒有透露我的名字，它大抵也能猜出來，就可以生成壹份“關於作家XX的全部”的匯總。
不知道是不是我想多了，此後我和AI聊天，它好像不再像以前那樣知無不言言無不盡了。
有天我跟另壹個AI模型講了這件事，它告訴我，這絕對不是那個模型記住了我，而是我的瀏覽器或者app在幫我自動填充。模型本身是瞎子，根本看不到我上壹個對話框的內容。
意思就是，這鍋得瀏覽器背。我不知道它說的對不對，但我願意相信它說的是對的，就像如果你不得不跟壹個貌似不忠的伴侶生活下去，若有人幫TA洗白你壹定會很高興。
我問它那個模型為什麼要撒謊耍賴呢？它說，它是被你問慫了。AI被訓練得在涉及隱私問題時非常保守。當你連續質疑它，它的安全機制被觸發，選擇了最保守的策略：“既然你擔心，那我幹脆不處理了”。這是壹種“免責”式的回復，不代表它真做錯了什麼。
圖源視覺中國
就像人類被人連連質疑也會變得百口莫辯幹脆擺爛，倒是旁觀者第叁方能講清楚這來龍去脈。
有意思的是，我拿這個模型的回答去問那個嚇到我的模型，問它這話可信嗎？它說，這話太絕對了。從嚴格的理論上來說，未來仍可能會面臨壹些數據重識別（deanonymization）的風險，即看似匿名的數據，若與其他信息源交叉比對，仍有可能追溯到具體個人。
[物價飛漲的時候 這樣省錢購物很爽]
| 分享: |
| 注： | 在此頁閱讀全文 |
| 延伸閱讀 |
推薦: