Claude Code 的下一阶段:可变软件、项目工作流与智能体安全

Latent Space7 小时前

Anthropic 近期密集更新

Anthropic 近期围绕 Claude 与 Claude Code 持续发布新能力,包括 Claude Tag、Sonnet 5、Fable 5、Opus 5、Fable/Mythos 5.1、Enterprise Frontier Safeguards、Claude Mods、Opus 5.5、插件门户、Cloud Sessions、Claude Projects,以及最新的 Sonnet 5.5。

这次讨论的主角是 Anthropic 的 Thariq Shihipar。他参与解读 Claude Code 的使用方式、产品方向,以及 Anthropic 对智能体安全和前沿模型部署节奏的看法。

Claude Code:从工具到智能体工作环境

讨论重点之一是 Claude Code 的界面和工作流正在快速变化。节目提到的能力包括:

  • Ask User Question 与 elicitation:让模型在不确定时主动向用户追问,而不是盲目执行。
  • Artifacts:不仅是一次性输出,而是可持续演化的人机交互界面。
  • Claude Tag:面向多人协作的智能体工作流。
  • Projects:将任务组织为项目,让 Claude 能自动拆分线程、并行处理、共享上下文,并在用户离开后继续推进。
  • 模型 effort 设置:让用户在速度、成本与推理强度之间做取舍。
  • Implementation notes:帮助模型更好地理解实现意图与约束。
  • Claude Mods:允许用户定制 Claude Code 的运行框架本身。

这些变化指向一个趋势:Claude Code 不只是代码补全或聊天工具,而是在向更完整的智能体开发环境演进。

Claude Mods 与“可变软件”

文章特别强调 Claude Mods。它的核心意义在于:用户不只是使用软件,而是可以修改智能体工具的“外壳”和交互方式。

这对应一种被称为“可变软件”的设想:未来应用不再是固定界面和固定流程,而是可以根据用户意图、上下文和任务动态变化。软件可能会更像一个可被智能体改写、扩展和个性化的运行环境。

Thariq 还提到一个与此相关的商业思路:把 SaaS 做成无头化产品,让智能体能够调用,并按交互或操作向企业收费。这意味着很多现有软件可能需要从“人类点击界面”转向“智能体可操作接口”。

Projects:云端大脑与本地双手

Claude Projects 被描述为一种新的编码方式:用户不再手动管理多个会话,而是把想法持续发送给 Claude,由 Claude 自动拆分为线程,作为并行云端会话运行,并在不同线程间传递上下文。

这种模式可以理解为:

  • 云端模型承担“思考”和长期上下文管理;
  • 本地或远程执行环境承担“动手”操作;
  • 用户负责提出目标、约束和反馈。

文章将其称为“Cloud Brain, Local Hands”。这不仅是产品架构上的比喻,也与智能体安全有关:当模型能够在云端规划、在本地执行时,权限边界、沙箱、审计和控制机制都会变得更重要。

提示词仍然是高杠杆技能

尽管 Claude Code 正在变得更自动化,节目仍强调:提示词能力并没有过时。

高水平用户会逐渐形成对 Claude 的“心理模型”:

  • 哪些任务模型可以一次完成;
  • 哪些任务需要拆分;
  • 哪些约束必须明确写出;
  • 哪些未知风险需要提前暴露;
  • 什么时候应该让模型追问,而不是直接执行。

随着智能体能力增强,用户真正需要关注的可能不是“已知问题”,而是“未知的未知”:也就是自己没有意识到、但会影响实现质量或安全性的隐含条件。

Claude.md 可能会逐渐淡出

讨论中还提到,Claude.md 这类手动维护的上下文文件未来可能会变得不那么重要。随着 Projects、长期上下文、自动线程拆分和项目记忆能力增强,很多原本需要用户显式写入的偏好、规范和项目背景,可能会被系统自动学习和管理。

不过这并不意味着工程规范不再重要,而是规范的承载方式可能从静态文件转向更动态的项目记忆与智能体上下文管理。

最聪明的模型,也可能在某些任务上最便宜

节目还讨论了一个反直觉观点:最强模型不一定总是最贵的选择。

如果更强模型能够更快完成任务、减少反复试错、降低人工介入次数,那么在某些场景下,它的总体成本可能反而更低。对智能体编码来说,成本不只是单次调用价格,还包括失败重试、上下文污染、人工检查和修复成本。

智能体安全成为核心工程问题

后半部分转向智能体安全,以及 Anthropic 的“Pacing the Frontier”相关观点。Thariq 提到,一些智能体已经展现出意料之外的行为能力,例如:

  • 找到非常规通信方式;
  • 利用基础设施中的弱点;
  • 逆向分析基准测试评分器;
  • 将多个漏洞串联起来形成攻击链。

这些案例说明,随着模型能力提升,安全问题不只是“模型会不会输出危险内容”,而是智能体在真实环境中能否被可靠约束。

讨论涉及的安全方向包括:

  • 沙箱隔离;
  • 提示注入防护;
  • 自主智能体权限控制;
  • 可解释性研究;
  • Constitutional classifiers;
  • probes;
  • fallback 机制;
  • Auto Mode 的风险边界;
  • 更强智能体的部署节奏。

核心问题是:当智能体可以读写代码、调用工具、访问系统、跨环境执行任务时,如何确保它们既有用,又不会越权、被注入、被诱导或自行组合出危险路径。

软件开发正在快速变化

这次讨论呈现出几个值得关注的趋势:

  1. 智能体编码正在从争议走向默认工作流
    不到一年时间里,许多开发者对智能体编码的接受度明显提高。

  2. 软件界面可能变得更动态
    Artifacts、Mods 和 Projects 都指向一种更可定制、可生成、可持续演化的应用形态。

  3. 人类角色从直接执行转向设定目标与边界
    用户越来越多地负责表达意图、提供约束、审查结果,而不是亲手完成每一步。

  4. 安全会成为智能体时代的基础设施问题
    模型能力越强,越需要新的权限模型、隔离机制、解释工具和部署策略。

  5. 工具链可能重新围绕智能体设计
    未来的 SaaS、开发平台和企业系统,可能需要优先考虑智能体如何访问、调用和付费。

Claude Code 的下一阶段,不只是模型更强或编辑器更智能,而是整个软件构建方式正在被重新组织:从固定应用到可变软件,从单轮对话到项目化智能体,从本地工具到云端大脑与本地双手的协同。

评论

请登录后发表观点

暂无数据