模型运行与端云路由
统一组织端侧轻量模型和云端模型,按任务、网络、设备资源与隐私要求选择运行路径。不同模型各司其职,而非固定强制所有任务都在端侧完成。
这不是简单的大模型套壳。Agent 能做什么、能记住什么、允许访问什么、如何安全地完成任务,都被设计成有边界的系统能力。
统一组织端侧轻量模型和云端模型,按任务、网络、设备资源与隐私要求选择运行路径。不同模型各司其职,而非固定强制所有任务都在端侧完成。
围绕 Task、Plan、Execute、Verify 构建 Agent Runtime。具备任务状态、多 Agent 协作、失败恢复、风险控制和可观察的工具执行过程。
长期记忆与检索、实时语音、上下文管理和模型服务,不是散落的插件,而是由统一 Agent Runtime 使用的基础能力,同时可以独立集成。
将可执行能力暴露给 Agent,但保留适当的原生协议:业务工具使用 MCP / API;实时音频、硬件推理与系统调用继续使用对应 SDK 与本地执行接口。
每次真实动作都需要明确来源、权限和反馈。记录工具完成还是仅仅发出请求,必须有不同的状态。
声音 · 文本 · 设备事件
会话 · Memory · 约束
Agent Model · Planner
ToolGate · MCP · Device
执行回执 · 授权检查
Trace · 合规记忆写回
既有工程记录涵盖 Android AI Service、AIDL / Binder、Qwen GGUF 与 LiteRT 路由、真实 Memory / RAG 与工具回执。
已有 Android 12 真机兼容验证,包括 AI Service SDK、模型运行与外部 Binder 调用。
Android 工程验证Qwen GGUF 与 LiteRT 模型分别路由到对应 Runtime;未知格式先验证再加载。
Dual RuntimeToolGate、AppBridge、Tool Result 与执行状态区分,避免将已规划当成已完成。
Trace 可追踪