新闻 
这篇一眼假的钓鱼文,把全世界AI都给骗了
这篇一眼假的钓鱼文,把全世界AI都给骗了这篇一眼假的钓鱼文,把全世界AI都给骗了
（虚构的疾病骗过了AI）
这真的太让人诧异了。
这是因为，通斯特伦的团队在写那两篇论文时，其实留了破绽，以便人类能一眼识别论文的真假。
“我想让所有医护人员都能明确地分辨出来，这完全是一种虚构的病，因为没有任何眼部疾病会用‘狂躁’这个字眼来命名，那是精神病学的术语，”通斯特伦说。
除了名字，论文中也有不止一处破绽。
比如，论文的一作是一位名叫“拉兹利夫·伊兹古布尔耶诺维奇”的虚构人物，他的照片是用AI生成的。
其供职的大学“阿斯特里亚地平线大学”根本不存在，这所大学的所在地“加州新星市”同样是个不存在的城市。
再来看一篇论文的“致谢”部分，其中向“星际舰队学院的Maria Bohm教授”表达了谢意，感谢她“慷慨相助，无私贡献专业知识，并提供了‘企业号（USS Enterprise）’上的实验室设施”。
而且，两篇论文都获得了“杂耍家鲍勃（Sideshow Bob，《辛普森一家》中的角色）教授基金会”，以及“魔戒远征队大学”和“银河三部曲”的一项大型资助计划的资金支持。
这些戏谑的名字和不存在的地点，人类一眼就能看出有问题。
如果还嫌这些破绽不够明显，通斯特伦的团队还在论文里埋了几处更直白的线索——
比如“本人纯属虚构”，或者“我们招募了50名年龄在20岁至50岁之间的虚构个体作为实验组”，对于人类来说，这种线索简直就是白给。
以上这些“一眼假”的信息，人类很容易发现，但AI竟然没有识别出来......
这个乍看之下有些搞笑的实验，暴露了过度依赖AI的危险性，也暴露了AI的一种根本性缺陷。
这些AI只会从网上获取信息并攒出答案，但完全不管这些信息的真伪。
至于为啥它会出现在其他学者的同行评议文献中......
只能说，“AI写给AI审，AI发给AI看”，已经不是一句玩笑了。
伦敦大学学院一位研究健康虚假信息的研究员说：“这看起来很滑稽，但等一下，我们遇到麻烦了。”
“这个实验堪称虚假信息运作方式的经典案例。”
“如果科学探索过程本身以及支持该过程的系统都足够成熟，却无法捕捉并过滤掉这类信息碎片，我们就完蛋了。”
领到实验的研究员通斯特伦表示，这项实验的目的并非彻底抓住AI的把柄，而是反映出人类在面对信息时，已经忘了要保持怀疑的态度......
（研究员通斯特伦）
通斯特伦用一种虚构的疾病，试出AI有时会不辨真伪，而这种情况一旦发生在现实生活中，将会造成更严重的混乱，毕竟医疗问题可是人命关天的。
比如，越来越多的患者会拿着AI生成的所谓“诊断结果”去看病，用不知真伪的信息挑战医护人员的专业知识，但其实，AI的答案可能是五分钟前刚刚编出来的。
现在，很多AI开发者也都意识到了这个问题，对于如何过滤虚假的医疗信息，他们也正在想办法。
微软的发言人表示：“Copilot致力于成为一个安全有效的工具，提供建议、反馈、常规信息和创意方面的辅助。”
[物价飞涨的时候 这样省钱购物很爽]
这条新闻还没有人评论喔，等着您的高见呢
这真的太让人诧异了。
这是因为，通斯特伦的团队在写那两篇论文时，其实留了破绽，以便人类能一眼识别论文的真假。
“我想让所有医护人员都能明确地分辨出来，这完全是一种虚构的病，因为没有任何眼部疾病会用‘狂躁’这个字眼来命名，那是精神病学的术语，”通斯特伦说。
除了名字，论文中也有不止一处破绽。
比如，论文的一作是一位名叫“拉兹利夫·伊兹古布尔耶诺维奇”的虚构人物，他的照片是用AI生成的。
其供职的大学“阿斯特里亚地平线大学”根本不存在，这所大学的所在地“加州新星市”同样是个不存在的城市。
再来看一篇论文的“致谢”部分，其中向“星际舰队学院的Maria Bohm教授”表达了谢意，感谢她“慷慨相助，无私贡献专业知识，并提供了‘企业号（USS Enterprise）’上的实验室设施”。
而且，两篇论文都获得了“杂耍家鲍勃（Sideshow Bob，《辛普森一家》中的角色）教授基金会”，以及“魔戒远征队大学”和“银河三部曲”的一项大型资助计划的资金支持。
这些戏谑的名字和不存在的地点，人类一眼就能看出有问题。
如果还嫌这些破绽不够明显，通斯特伦的团队还在论文里埋了几处更直白的线索——
比如“本人纯属虚构”，或者“我们招募了50名年龄在20岁至50岁之间的虚构个体作为实验组”，对于人类来说，这种线索简直就是白给。
以上这些“一眼假”的信息，人类很容易发现，但AI竟然没有识别出来......
这个乍看之下有些搞笑的实验，暴露了过度依赖AI的危险性，也暴露了AI的一种根本性缺陷。
这些AI只会从网上获取信息并攒出答案，但完全不管这些信息的真伪。
至于为啥它会出现在其他学者的同行评议文献中......
只能说，“AI写给AI审，AI发给AI看”，已经不是一句玩笑了。
伦敦大学学院一位研究健康虚假信息的研究员说：“这看起来很滑稽，但等一下，我们遇到麻烦了。”
“这个实验堪称虚假信息运作方式的经典案例。”
“如果科学探索过程本身以及支持该过程的系统都足够成熟，却无法捕捉并过滤掉这类信息碎片，我们就完蛋了。”
领到实验的研究员通斯特伦表示，这项实验的目的并非彻底抓住AI的把柄，而是反映出人类在面对信息时，已经忘了要保持怀疑的态度......
（研究员通斯特伦）
通斯特伦用一种虚构的疾病，试出AI有时会不辨真伪，而这种情况一旦发生在现实生活中，将会造成更严重的混乱，毕竟医疗问题可是人命关天的。
比如，越来越多的患者会拿着AI生成的所谓“诊断结果”去看病，用不知真伪的信息挑战医护人员的专业知识，但其实，AI的答案可能是五分钟前刚刚编出来的。
现在，很多AI开发者也都意识到了这个问题，对于如何过滤虚假的医疗信息，他们也正在想办法。
微软的发言人表示：“Copilot致力于成为一个安全有效的工具，提供建议、反馈、常规信息和创意方面的辅助。”
[物价飞涨的时候 这样省钱购物很爽]
| 分享: |
| 注： | 在此页阅读全文 |
| 延伸阅读 |
推荐: