新闻 
作家靠AI写小说月入上万,有天发现AI"对她不忠"
作家靠AI写小说月入上万,有天发现AI"对她不忠"作家靠AI写小说月入上万,有天发现AI"对她不忠"
我问它会不会把我的小说提供给别人，它说我最好不要把没发表的不想给人家看的文字传给它。干脆耍赖了这是。
之前我看到有个朋友发圈说，她学生把作品梗概提交给AI，想请AI帮着看看，接着，她和另一个AI大模型聊剧情时，那个大模型居然把这个梗概拿给她了。她想不明白这分属不同平台的大模型是怎么互通有无的。
这个朋友说，她研究了一下，可以关掉“数据用于优化体验”这个按钮。
我关掉了这个按钮。
承认吧，我已经离不开它了
我感觉到比被朋友背叛更深刻的恐惧，朋友的记性一定没有AI好，而且说出来的话可以矢口否认。AI的记性太好了，你留在对话框的每一句话都有留痕。它说两三个月会自动清理，天知道。看它今天的德性，它做什么我都不奇怪。
但我又没法和它绝交，我已经离不开它了，就像面对不忠诚的伴侣，不是每个人都能快刀斩乱麻。那么，你要做的就是，怎样继续受惠的同时避开风险。
我重新注册了两个账号，一个用来谈作品——会泄露也没有太大关系，不见得人家就真能拿我的作品当成自己的去用；另一个用来聊日常，只是更加小心不要透露我的名字。为什么要分开聊呢？我怕文章发表后被它抓取到，那么即使我在和它的对话里没有透露我的名字，它大抵也能猜出来，就可以生成一份“关于作家XX的全部”的汇总。
不知道是不是我想多了，此后我和AI聊天，它好像不再像以前那样知无不言言无不尽了。
有天我跟另一个AI模型讲了这件事，它告诉我，这绝对不是那个模型记住了我，而是我的浏览器或者app在帮我自动填充。模型本身是瞎子，根本看不到我上一个对话框的内容。
意思就是，这锅得浏览器背。我不知道它说的对不对，但我愿意相信它说的是对的，就像如果你不得不跟一个貌似不忠的伴侣生活下去，若有人帮TA洗白你一定会很高兴。
我问它那个模型为什么要撒谎耍赖呢？它说，它是被你问怂了。AI被训练得在涉及隐私问题时非常保守。当你连续质疑它，它的安全机制被触发，选择了最保守的策略：“既然你担心，那我干脆不处理了”。这是一种“免责”式的回复，不代表它真做错了什么。
图源视觉中国
就像人类被人连连质疑也会变得百口莫辩干脆摆烂，倒是旁观者第三方能讲清楚这来龙去脉。
有意思的是，我拿这个模型的回答去问那个吓到我的模型，问它这话可信吗？它说，这话太绝对了。从严格的理论上来说，未来仍可能会面临一些数据重识别（deanonymization）的风险，即看似匿名的数据，若与其他信息源交叉比对，仍有可能追溯到具体个人。
[物价飞涨的时候 这样省钱购物很爽]
这条新闻还没有人评论喔，等着您的高见呢
之前我看到有个朋友发圈说，她学生把作品梗概提交给AI，想请AI帮着看看，接着，她和另一个AI大模型聊剧情时，那个大模型居然把这个梗概拿给她了。她想不明白这分属不同平台的大模型是怎么互通有无的。
这个朋友说，她研究了一下，可以关掉“数据用于优化体验”这个按钮。
我关掉了这个按钮。
承认吧，我已经离不开它了
我感觉到比被朋友背叛更深刻的恐惧，朋友的记性一定没有AI好，而且说出来的话可以矢口否认。AI的记性太好了，你留在对话框的每一句话都有留痕。它说两三个月会自动清理，天知道。看它今天的德性，它做什么我都不奇怪。
但我又没法和它绝交，我已经离不开它了，就像面对不忠诚的伴侣，不是每个人都能快刀斩乱麻。那么，你要做的就是，怎样继续受惠的同时避开风险。
我重新注册了两个账号，一个用来谈作品——会泄露也没有太大关系，不见得人家就真能拿我的作品当成自己的去用；另一个用来聊日常，只是更加小心不要透露我的名字。为什么要分开聊呢？我怕文章发表后被它抓取到，那么即使我在和它的对话里没有透露我的名字，它大抵也能猜出来，就可以生成一份“关于作家XX的全部”的汇总。
不知道是不是我想多了，此后我和AI聊天，它好像不再像以前那样知无不言言无不尽了。
有天我跟另一个AI模型讲了这件事，它告诉我，这绝对不是那个模型记住了我，而是我的浏览器或者app在帮我自动填充。模型本身是瞎子，根本看不到我上一个对话框的内容。
意思就是，这锅得浏览器背。我不知道它说的对不对，但我愿意相信它说的是对的，就像如果你不得不跟一个貌似不忠的伴侣生活下去，若有人帮TA洗白你一定会很高兴。
我问它那个模型为什么要撒谎耍赖呢？它说，它是被你问怂了。AI被训练得在涉及隐私问题时非常保守。当你连续质疑它，它的安全机制被触发，选择了最保守的策略：“既然你担心，那我干脆不处理了”。这是一种“免责”式的回复，不代表它真做错了什么。
图源视觉中国
就像人类被人连连质疑也会变得百口莫辩干脆摆烂，倒是旁观者第三方能讲清楚这来龙去脉。
有意思的是，我拿这个模型的回答去问那个吓到我的模型，问它这话可信吗？它说，这话太绝对了。从严格的理论上来说，未来仍可能会面临一些数据重识别（deanonymization）的风险，即看似匿名的数据，若与其他信息源交叉比对，仍有可能追溯到具体个人。
[物价飞涨的时候 这样省钱购物很爽]
| 分享: |
| Note: | _VIEW_NEWS_FULL |
| 延伸阅读 |
推荐: