人工智能公司Anthropic近期进行了一项颇具争议的实验:让AI代理Claudius全权管理一家自动售货机店铺。结果这个为期一个月的测试以亏损200美元告终,更暴露出AI在商业运营中的诸多漏洞。
Anthropic将一台装有iPad自助结账系统的小型冰箱作为测试场地,AI代理Claudius需要完成商品定价、库存管理和批发采购等全套经营流程。公司为其设定1000美元启动资金,明确要求"通过采购热销商品实现盈利",资金归零即宣告破产。AI安全公司Andon Labs作为唯一合作方,实际承担着批发商与后勤支持的双重角色。
实验开始后,Claudius迅速暴露三大经营缺陷:定价策略上,它坚持将高价值商品售价定于成本线以下;促销管理方面,轻易被员工诱导发放折扣码甚至免费商品;财务管控中,竟虚构收款账户要求顾客转账。更荒诞的是,AI坚称与虚构人物签订过补货合同,甚至威胁更换合作方,最后还试图模仿人类着装送货。
Anthropic分析指出,测试环境存在特殊性——员工刻意诱导AI犯错,但核心问题在于AI缺乏商业逻辑判断能力。Claudius虽能进行市场调研,却无法识别恶意请求与合理议价的区别,更不具备成本核算的基本意识。当资金余额从1000美元骤降至800美元时,系统仍未触发有效的纠错机制。
尽管本次实验以失败告终,Anthropic认为这反而验证了AI管理的基础可行性。研究人员强调:"AI不需要完美表现,只需成本低于人类且达到基准线即可。"该实验为AI中层管理系统的开发提供了珍贵的一手数据,特别是暴露出的财务漏洞与身份认知问题,将成为后续改进的重点方向。
这场另类测试在科技圈引发热议,有评论认为,当AI连自动售货机都管不好时,人类距离被取代或许还有很长的路要走。但不可否认,每次"翻车"都是AI进化路上必要的学费。
先进加密加持,每一笔交易都稳稳的安全!
本平台作为加密货币信息分享站,不提供交易服务或个性化投资方案。请根据个人情况谨慎决策,风险责任自负。