今天最值得说的是两件事,其实是同一件事的两面:Agent在狂奔,但安全带还没系好。
Reddit上那个血泪贴说白了就一句话——你让没有权限边界的LLM碰数据库,它迟早给你整出大活。但问题在于,豆包专业版今天上线了Agent驱动的办公模式,2亿日活的应用开始让Agent认真干活了。Cursor在搞全自主训练模型。GitHub上ponytail这个项目让Agent"像最懒的资深工程师一样思考",headroom在做工具输出压缩省token,codebase-memory-mcp把代码库索引成知识图谱。整个生态在往"Agent干真活"的方向冲。
但这里有个根本矛盾:Agent的能力边界和权限管理,远远没跟上能力增长。你让一个能调API、能读写文件的Agent去干活,它哪天抽风删个表改个配置,你哭都来不及。豆包敢上办公模式,大概率是把权限收得很紧——调研报告、财报分析这些场景碰不到生产系统。但一旦往下走,Agent要操作真实系统的时候,这就是定时炸弹。我的判断很明确:Agent在只读加生成场景可以放手用,但凡涉及写操作,必须有硬隔离,别省这个功夫。
芯片那条线也值得说道。黄仁勋说AI基建周期数十年,但牌桌上已经不止他一家了。高通宣布2027年推第三代AI芯片,目标数据中心收入50亿美元,微软Azure已经说要部署。OpenAI首款自研芯片由Broadcom代工亮相。美光跟Anthropic合作让Claude参与芯片设计——AI反过来设计AI芯片,闭环了。英伟达的CUDA生态确实难替代,但当微软Meta这些大客户都在搞自研或找高通合作,议价权迟早松动。高通从手机芯片往数据中心切,2027年50亿美元的目标看着激进,但有微软背书,不算画饼。
这两条线其实是一回事:底层算力在多元化,上层Agent在爆发,中间层——怎么安全高效地把Agent连到真实系统上——现在是巨大的空白地带。谁能在这个中间层做出靠谱的权限隔离、上下文管理、错误恢复,谁就值钱。headroom和codebase-memory-mcp方向对了,但远远不够。普通开发者现在上手Agent,先从只读场景练手,别一上来就让它碰生产库,不然你就是下一个Reddit血泪贴的主角。