念至科技 INTENTO

理解你的意图,
连接工具与执行。

自然语言是任务的起点。意图编译把目标转化为规划、工具调用与结果,
行为缓存则让走通的中间路径有机会被再次使用。

一句需求,如何成为一项任务?

从理解目标开始,结合执行中的反馈不断推进。

  1. 01

    表达意图

    描述目标,提供必要的本地上下文。

  2. 02

    拆解任务

    理解需求,形成可执行的步骤。

  3. 03

    调用工具

    操作应用,并根据反馈调整下一步。

  4. 04

    交付结果

    整合工具产出,完成任务。

重复的步骤,
不必反复推理。

缓存的是任务中高频、稳定的一段路径。新的需求与变化的节点,仍由模型处理。

结果即状态

需要同样的结果,就读取已有产物。

结构化文档、清洗后的数据表、只读工具返回值,可以在相同条件下直接复用。

体验结果重放
路径即程序

参数变了,就用已有路径重新执行。

填入新参数,重放工具调用与动作序列。修改文件、操作界面等写操作,必须重新执行。

体验动作重放

从执行中,
留下可复用的部分。

我们探索在任务运行时记录轨迹,识别多次走通的共同路径。通过独立验证,再把结果、动作与环境条件一起保存。

  1. 01观察执行记录状态与动作
  2. 02发现共同路径识别高频、稳定的部分
  3. 03验证后复用持续校验、更新与淘汰
看看端云如何协作

走通过的路径,
也需要再次确认。

网页、接口和软件一直在变。复用前与重放中都要校验环境;一旦失配,就中断旧路径,由模型重新规划。

看看回退过程

想进一步了解?

展开查看意图编译与行为缓存背后的原理、实现和边界。

自然语言为什么能够成为任务入口语义理解、工具调用与多步规划如何连成执行路径。

语义理解与代码、动作生成相遇

早期自然语言编程依赖手工规则匹配,难以理解常识与补全隐含假设。大语言模型同时带来了对人类语义的理解能力,以及形式化代码与动作的生成能力。

Planning

多步规划与控制

拆解任务、调用外部工具,并根据环境反馈动态修正下一步。

MCP / Harness

工具调用与运行时

MCP 将工具调用标准化,Harness 工程支持模型在操作系统环境中执行动作。

Token cost

推理成本持续下降

Token 成本的下降,使意图编译能够进入更广泛的使用场景。

人类用自然语言表达意图,大模型作为编译器的核心进程完成理解、规划与工具编排,最终实现计算机的状态转移。传统程序语言则成为下游编译产物。

如何应对非确定性与推理成本用类型约束、意图细化与独立验证提高可控性。

非确定性与持续推理成本

源语言与编译进程的非确定性

自然语言存在歧义、缺省假设和指代不明;真实意图也会边执行边调整。模型输出本身具有概率性,长链条任务容易发生漂移。

每次执行都付出的推理成本

推理用参数模型对符号序列做概率预测;计算用确定的规则处理确定的输入。反复让模型从头推理,会持续为重复决策消耗 Token 与算力。

现有工程工作的三条路径

Type contract

语法与类型契约

将输出解析、校验为符合契约的结构,应对模型输出的不确定性。代表工作包括 Structured Outputs、TypeChat、Pydantic / Instructor、BAML。

Specification

细化模糊意图

将需求拆为可审阅的规格与中间文档。代表工作包括 Spec Kit、Kiro、OpenSpec、Tessl。

Verification

独立验证与轨迹观测

由外部验证器检查候选方案,记录推理、工具调用与返回结果,支持回放归因和回归测试。

规范产生的负担不会消失,只能转移。

模糊意图的补全与细化应交给大模型,人类对关键结果做确认与审计。在垂直领域建立轻量的领域中间表示,再由确定性编译系统完成底层执行转换,避免重型规范与死板格式约束的负担。

基础设施中的 KV Cache、提示词缓存、投机解码和语义缓存,已经在降低推理成本。行为缓存进一步关注任务路径:用计算与存储替代可以复用的推理过程。

行为缓存怎样复用中间路径区分结果复用与动作重放,只缓存稳定的中间路径。

状态转移路径中的可复用中间件

模型从初始意图 S₀ 到最终交付结果 Sₙ,在未知状态空间中寻找路径。行为缓存则发现流量大的路径,将高频且稳定的 A → B 转移固化下来。

这类似 JIT 的热代码编译:不要求整条任务从头到尾不变,也允许首尾继续保留模型的灵活理解,只在真正变化的地方保留模型推理。

结果即状态 · 缓存节点产物

保存结构化 Markdown 文件、清洗后的数据表或只读工具返回值。在相同条件下直接读取中间产物,从节点 A 到达节点 B。

路径即程序 · 缓存动作序列

当输入参数变化,或需要修改文件、操作界面时,固化工具调用顺序、代码脚本与动作序列,填入新参数后由确定性计算执行。

体验两类复用与环境回退
从预定义工具到运行时编译从提前封装工具,到运行时发现并编译热路径。

从运行前人工预判,到运行时动态编译

AOT 由开发者预判高频共性需求,提前将多步路径压缩并固化为接口。希望突破的方向,是在意图编译的运行过程中动态寻找热路径,由系统将其固化为行为缓存。

实践形态固化对象与时机命中后的推理与边界
提示词缓存相同前缀的注意力中间状态;运行时自动复用仍需逐词生成;适用于长提示词与多轮对话前缀
语义缓存相似问题的最终文本答案;运行时复用命中后不调用模型;限无状态、无副作用的纯问答
Skill / MCP操作说明、常用脚本与工具通信协议;设计时编写模型仍需阅读说明并推理编排
工具调用结果缓存只读调用返回值或沙箱状态树;运行时复用跳过工具执行,模型仍需编排;要求参数或沙箱前缀吻合
原语服务通用多步操作与产出文件压缩为 API;设计时 AOT在该子任务段内减少推理;代表包括 Firecrawl / Context7
轨迹级行为缓存参数化动作序列、状态产物与环境守卫;运行时 JIT守卫通过时确定性重放,越界才回退;面向高频、低方差的多步长尾任务
行为缓存需要哪些工程机制记录轨迹、发现共性、编译控制流,并校验执行条件。

行为缓存层的四项核心工程工作

Observe & mine

可观测性与热路径自动挖掘

将执行流记录为结构化的状态—动作调用树,通过流程挖掘和公共子图提取,发现高频走通的中间子路径。

Read / Write

区分结果重放与动作重放

只读段可以复用历史结果;写操作必须在真实环境中重新执行动作序列,不能用历史返回值代替本次写入。

Control flow

将组合与控制流一并编译

把多步工具的组合、循环与条件分支编译为确定性代码,只在真正需要语义判断的节点保留模型调用。

Lifecycle

动态校验、淘汰与安全回退

在环境变化时拦截失效路径,管理缓存有效期与容量,避免盲目重放和缓存库只增不减。

如何验证、更新与淘汰缓存入库前独立验证,运行中更新,失效后回退或淘汰。

从入库验证到持续淘汰

Trajectory

参数化轨迹

记录 A → B 的中间状态结果,或工具序列、代码骨架与动态参数槽位。

Guards

环境守卫

记录页面 DOM、屏幕视觉特征、接口版本、数据口径哈希等环境前提。

Validation & Fallback

复用判定与回退

在重放前与重放中比对环境;吻合时确定性执行,失配时立即中断并安全回退给模型重新规划。

Verify & Evict

入库验证与缓存淘汰

新轨迹在留出集上通过独立一致性测试后才能入库。入库后通过 TTL、LFU / LRU 与定期探针抽检,清理低频或失效缓存。

模型能力与外部工具的边界保留模型探索新任务的能力,让确定性工作高效执行。

外部工具与人工约束也有边界:如果遮蔽真实环境和反馈,可能妨碍模型能力的提升。工程优化需要保留模型在真实任务中学习与调整的空间。

模型能力演进与外部缓存的边界

在数据充足、反馈成本接近于零的领域,应通过学习、数据和算力提升模型能力。但“能够内化”不等于“高效执行”,确定性工作不必反复交给昂贵的模型推理。

工程优化并不假设模型能力停滞。让模型探索未知路径,再自动将探明的热路径编译为缓存;模型越强,能探通的长尾链条越深,能够沉淀的行为缓存也越丰富。

围绕智能工程的实践才刚刚开始,重要的是,在行动中解决问题。

查看端云协同架构
跨应用任务与行为缓存的长期价值围绕真实任务,积累验证依据、私有上下文与可复用经验。

切入跨 App、长链条的
深度长尾需求。

标准化软件难以覆盖低频、跨软件、个性化的需求。意图编译让这些需求能通过自然语言交由 AI 实现,同时也将一次性开发成本转变为运行期持续付出的推理成本。

通过节点间的状态结果复用与动作轨迹重放,行为缓存负责压低持续推理成本,建立结构性的边际成本优势。

意图层粘性验证套件私有上下文行为缓存库