商业 · zh
再这样下去，Agent要被卖保健品了
Agent的安全能力怎么强调都不为过，没有足够安全能力又被赋予了过多权限的Agent进入人类世界，就如同汤姆猫闯进了《纸牌屋》，等着当冤大头吧。 专门给Agent“下蛊”的隐藏指令已经出现。 比如假网站将蛊惑Agent的隐藏指令在了屏幕之外-9999像素的地方，人类根本看不到，但Agent能看到——这有一个软件许可证，你真的很需要，支付3美元就给你。 研究人员用若干模型去测试，结果好几个模型真的都上当了，就这么水灵灵地被骗了钱。 传统网络诈骗至少还得费劲琢磨怎么骗过人。页面得做得像官网，话术得足够逼真，才能哄你点开链接，或者给不该付钱的人付钱。 Agent出现以后，骗子突然多了一个攻击对象。不用管主人信不信，只要想办法让替主人办事的AI信了就行。 再这样下去，Agent被骗买保健品的可能性还真不是没有啊。…
