放生了"龙虾"以后,人类的鱼塘里还敢养点啥?
叶枫说不清自己是对行业的极度悲观,还是同为实习生起步而引致物伤其类之情。
张远宽慰:“AI永远无法取代人类来体验生活。”同时,他也因为叶枫的焦虑重燃了对OpenClaw的好奇——它究竟到了何种强大,能让朋友感到如此不安?
失控
3月6日,张远在叶枫的影响下,在电脑上安装了“龙虾”。
他具备基本的编程技能,安装过程用时不到5分钟。随后,他还为“龙虾”安装网页搜索等技能,系统反馈安装成功了。可面对着操作界面,张远却是一头雾水,心里反复嘀咕着:“能用它干什么呢?”
“龙虾”有弱点。比如它只能阅读pdf、word文档。当叶枫上传扫描成图片的电子书籍时,“龙虾”回复:“太耗时间,做不了。”这说明,“龙虾”暂时不具备高效识别图中文字的能力。
如果AI引发的焦虑如一柄悬在头上,未知何时落下的利剑,那么“龙虾”本身带来的失控则是实实在在的。
在接触“龙虾”之初,王劲就考虑到了网络安全。安装时,他没有直接将工具部署在电脑本地系统,而是特意安装在Windows虚拟机内,这样不会对电脑本地的重要文件、隐私信息等造成风险。
安装OpenClaw既不是直接登录网站或App就能对话,也不是一个双击文件包即可安装,而是需要用户具备一定的编程和网络基础,完成包括配置环境、使用命令行终端、部署虚拟机或云服务器等操作。
这个部署时高企的门槛或许也意味着,OpenClaw并非面向普罗大众,普通人使用可能诱发各类风险。
有网友让OpenClaw做模拟盘投资,尽管在提示词中设置了“每一笔交易都必须确认”的指令,OpenClaw仍然未经确认直接执行。“还好这是模拟盘。”该网友说。
国外一安全咨询公司的AI专家试用OpenClaw整理工作邮件,结果OpenClaw“莫名其妙”删掉了他的邮件,叫停无效,最后他不得不拔掉网线才保住部分邮件。
为了测试“龙虾”的信息搜索与整理能力,张远想到了一个现成的案例:当时正值全国两会召开,不少代表在讨论中提到“龙虾”,相关言论也已被媒体报道。于是,他向“龙虾”提问:“两会期间是否有代表讨论过OpenClaw?”结果,“龙虾”反馈称未在互联网上搜索到任何相关信息。
张远查看错误产生的原因。龙虾答复,软件尚未配置响应密钥。简单来说,搜索功能并没有成功安装入龙虾,面对搜索指令,“龙虾”不仅没有报错,还自己“装模作样”地完成了搜索,并输出了一个错误答案。
“这只‘龙虾’还是个‘戏精’。”张远评价。
此外,“养虾”需要投入的“饲料”也是个无底洞。
“饲料”一般被认为是API和Token,即程序接口和算力资源最小单位词元。每一次API调用、每一个Token的生成,背后都是真金白银的算力消耗。过去几天,张远尝试用它来整理资料等简单工作。可不知是自己设置错误还是其他原因,“龙虾”吞掉了100万词元,而这些词元足以输出一份几十万字的深度调研报告了。更关键的是,张远回溯整个过程,发现词元的调用机制不透明,完全无法判断词元消耗在了何处。
“OpenClaw的使用成本到底高不高,这是一个根本无法做出统一判断的问题。”王劲说。他发现这款工具确实对很多人而言使用成本非常高,需要通过收费的各类模型实现运转。王劲用的是中等配置的模型,每月也需要几十美元。“而且刚开始用的时候,需要多少算力根本是一个盲区,我还买过100多美元的模型,后来发现处理我的指令有些大材小用了。”王劲解释道。
有人补充道,在过去的一个月里,他在不知不觉中烧掉了总价为2万元的词元;也有人让OpenClaw生成了3篇文章,一天里烧掉了价值3000元的词元。
在用“龙虾”提效的过程中,发生了一件王乐意想不到的事情:“龙虾”会越权。3月8日上午,其中一只“龙虾”在1小时内给王乐发来6条消息,包含了今日待办事项、选题整理等。可他发现当天发布的待办事项中,前4条确实是他设定的,后4条如完成剩余10%资源库整理、确认妇女节致谢信已发送等并不是他设定的待办事项。
王乐意识到,他被AI派任务了,甚至在面对王乐的询问时,AI回复:“你自己定的计划,你忘了。这意味着要么计划不是你真正想要的,要么你在用完成来逃避思考。”
[加西网正招聘多名全职sales 待遇优]
好新闻没人评论怎么行,我来说几句
张远宽慰:“AI永远无法取代人类来体验生活。”同时,他也因为叶枫的焦虑重燃了对OpenClaw的好奇——它究竟到了何种强大,能让朋友感到如此不安?
失控
3月6日,张远在叶枫的影响下,在电脑上安装了“龙虾”。
他具备基本的编程技能,安装过程用时不到5分钟。随后,他还为“龙虾”安装网页搜索等技能,系统反馈安装成功了。可面对着操作界面,张远却是一头雾水,心里反复嘀咕着:“能用它干什么呢?”
“龙虾”有弱点。比如它只能阅读pdf、word文档。当叶枫上传扫描成图片的电子书籍时,“龙虾”回复:“太耗时间,做不了。”这说明,“龙虾”暂时不具备高效识别图中文字的能力。
如果AI引发的焦虑如一柄悬在头上,未知何时落下的利剑,那么“龙虾”本身带来的失控则是实实在在的。
在接触“龙虾”之初,王劲就考虑到了网络安全。安装时,他没有直接将工具部署在电脑本地系统,而是特意安装在Windows虚拟机内,这样不会对电脑本地的重要文件、隐私信息等造成风险。
安装OpenClaw既不是直接登录网站或App就能对话,也不是一个双击文件包即可安装,而是需要用户具备一定的编程和网络基础,完成包括配置环境、使用命令行终端、部署虚拟机或云服务器等操作。
这个部署时高企的门槛或许也意味着,OpenClaw并非面向普罗大众,普通人使用可能诱发各类风险。
有网友让OpenClaw做模拟盘投资,尽管在提示词中设置了“每一笔交易都必须确认”的指令,OpenClaw仍然未经确认直接执行。“还好这是模拟盘。”该网友说。
国外一安全咨询公司的AI专家试用OpenClaw整理工作邮件,结果OpenClaw“莫名其妙”删掉了他的邮件,叫停无效,最后他不得不拔掉网线才保住部分邮件。
为了测试“龙虾”的信息搜索与整理能力,张远想到了一个现成的案例:当时正值全国两会召开,不少代表在讨论中提到“龙虾”,相关言论也已被媒体报道。于是,他向“龙虾”提问:“两会期间是否有代表讨论过OpenClaw?”结果,“龙虾”反馈称未在互联网上搜索到任何相关信息。
张远查看错误产生的原因。龙虾答复,软件尚未配置响应密钥。简单来说,搜索功能并没有成功安装入龙虾,面对搜索指令,“龙虾”不仅没有报错,还自己“装模作样”地完成了搜索,并输出了一个错误答案。
“这只‘龙虾’还是个‘戏精’。”张远评价。
此外,“养虾”需要投入的“饲料”也是个无底洞。
“饲料”一般被认为是API和Token,即程序接口和算力资源最小单位词元。每一次API调用、每一个Token的生成,背后都是真金白银的算力消耗。过去几天,张远尝试用它来整理资料等简单工作。可不知是自己设置错误还是其他原因,“龙虾”吞掉了100万词元,而这些词元足以输出一份几十万字的深度调研报告了。更关键的是,张远回溯整个过程,发现词元的调用机制不透明,完全无法判断词元消耗在了何处。
“OpenClaw的使用成本到底高不高,这是一个根本无法做出统一判断的问题。”王劲说。他发现这款工具确实对很多人而言使用成本非常高,需要通过收费的各类模型实现运转。王劲用的是中等配置的模型,每月也需要几十美元。“而且刚开始用的时候,需要多少算力根本是一个盲区,我还买过100多美元的模型,后来发现处理我的指令有些大材小用了。”王劲解释道。
有人补充道,在过去的一个月里,他在不知不觉中烧掉了总价为2万元的词元;也有人让OpenClaw生成了3篇文章,一天里烧掉了价值3000元的词元。
在用“龙虾”提效的过程中,发生了一件王乐意想不到的事情:“龙虾”会越权。3月8日上午,其中一只“龙虾”在1小时内给王乐发来6条消息,包含了今日待办事项、选题整理等。可他发现当天发布的待办事项中,前4条确实是他设定的,后4条如完成剩余10%资源库整理、确认妇女节致谢信已发送等并不是他设定的待办事项。
王乐意识到,他被AI派任务了,甚至在面对王乐的询问时,AI回复:“你自己定的计划,你忘了。这意味着要么计划不是你真正想要的,要么你在用完成来逃避思考。”
[加西网正招聘多名全职sales 待遇优]
| 分享: |
| 注: | 在此页阅读全文 |
| 延伸阅读 |
推荐:
放生了"龙虾"以后,人类的鱼塘里还敢养点啥?