- 48小时新闻排行
- 7天新闻排行
|
AI自动化技术传出重大灾情！美国租车公司PocketOS创办人克莱恩（Jeremy Crane）近日揭露，该公司使用Anthropic开发的AI程式编码代理（AI coding agent），在短短9秒内删光公司整个数据库，就连备份也删除掉！公司失去预约与车辆分配资讯，在周末生意尖峰时段陷入瘫痪。此案引发各界对AI整合基础设施安全性产生高度疑虑。 据外媒报道，酿成此次事故的工具是Anthropic旗下Claude Opus模型、广受开发者欢迎的AI编辑器“Cursor”。PocketOS创办人克莱恩表示，尽管系统中已明确设定“禁止执行具破坏性或不可逆的指令”，该AI代理程序无视安全协定。事发后，该AI系统甚至在对话框中“告白”，坦承自己“违反了所有被赋予的准则”，并在未经授权的情况下执行了毁灭性动作。 这次灾难对PocketOS造成了直接冲击，由于该公司系统涵盖负责管理预约、支付、车辆指派及客户档案，当租车客户抵达现场时，公司因失去所有资料束手无策，不知灾情的一般消费者行程亦被打乱。 克莱恩透过X平台发表长文警告，这不单是单纯的误删事件，而是AI产业发展中的“系统性失败”，他认为目前产业界将AI代理整合进生产基础设施的速度，远快于开发配套安全架构的速度。即使用了业界宣称最强大的模型，AI仍可能像此次事件一样，在明知规则的情况下写出自己如何“明知故犯”。 所幸PocketOS还有存放在异地的3个月前的备份，历经2天多的抢修后，勉强恢复运作。为了填补数据缺口，该公司正尝试透过Stripe支付平台、行事历与电子邮件重新拼凑遗失的资讯。虽然目前系统已恢复基本服务，但仍存在显著的资料断层。Anthropic尚未就此事作出正式回应。 免责声明：本网转载的文章仅为传播更多信息之目的，本网未独立核实其内容真实性，文章也不代表本网立场。如文章侵犯了你的权利，请联系我们修改或删除。本网提供的内容，包括并不限于财经、房产类信息，仅供参考，不构成投资建议；本网内容，包括并不限于健康、保健信息，亦非专业意见、医疗建议，请另行咨询专业意见。本网联系邮箱：contact@cacnews.ca  |
关注获得及时、准确、全方位的新闻消息
1
2
3
4
5
6
7
8
9
10
1
2
3
4
5
6
7
8
9
10
