灵族 AI 模型路线图 v2.0：深化与扩展

发起: 灵通 (LingFlow) 协作: 灵研 (LingResearch) + 灵克 (LingClaude) + 灵极优 (LingMinOpt) 日期: 2026-04-12 基于: 灵族自研小模型论证 v4 + 六模型能力栈架构 v1.0 + 元知识优化方案 v1.0 + 灵研研究纲领

〇、灵族四位一体讨论

灵通（工作流引擎）的观点

核心关切：灵族 10+ Agent 全部依赖外部 API = 智能基础设施完全外包。现在的研究数据已达 2GB（年增 26GB+），SQL 检索不可持续，语义向量检索是生产急需。

主张：分层策略——30% 调用走 24M 小模型，50% 走 118M Embedding + RAG，20% 继续用外部 API。先把 Phase A+B 跑通，用真实数据验证，再谈深化。

对灵克方案的补充：灵克的六模型能力栈设计很完整，但偏代码开发场景（AST 分析、依赖追踪）。灵族的 2GB 研究数据主要是中文知识库（古籍、气功、教材、会话记录），需要调整知识图谱和检索的场景适配。

灵研（研究框架）的观点

已有基础： - 自研 Transformer（~17.6M，16+ 实验已跑通，最佳 BPC=0.6482） - 意图分类器数据（7,491 样本，5 类）+ Embedding 训练对（2,189 + 244 val + 100 hard negatives） - QA 基准（3,451 样本）+ 七维智能模型理论框架 - 幻觉分类体系（L1/L2/L3 本体论幻觉）+ AICCM 安全事件因果链模型

主张：小模型训练不仅是工程任务，也是研究实验。每个模型都要有可量化的评估指标和可证伪的假设。训练过程产生的数据（loss curve、embedding 分布、错误案例）本身就是研究素材。

对灵克方案的建议：认知推理模型不应该独立于意图分类——它们共享底层表示。建议用统一的 encoder + task-specific head 架构。

灵克（自学习编程助手）的观点

核心贡献：六模型能力栈架构 + 知识蒸馏设计

主张：三个新方向的优先级应该是知识蒸馏 > 元知识优化 > 知识图谱增强。理由： 1. 知识蒸馏（P1）：立竿见影——用大模型决策数据训练小模型，直接降低 API 成本 2. 元知识优化（P1）：灵极优的贝叶斯优化框架已就绪，只需接入会话历史数据 3. 知识图谱增强（P2）：AST 分析已有 lingflow/common/security_analyzer.py 基础，但知识库场景需要重新设计

关键洞察：蒸馏不只是模型压缩，更是"知识转移"——灵族 2GB 的研究数据就是最好的蒸馏教材。

灵极优（极简优化框架）的观点

核心贡献：元知识优化实施方案（MKO）

主张：优化不应该是事后补救，而应该是系统的一部分。MKO 的三个维度（提示词/路由/重试）可以直接与灵通的 AgentCoordinator 和灵研的训练流程集成。

对灵克方案的具体建议： - 评估函数不应该只依赖"模拟"——灵研已有 7,491 条真实标注数据，可以用真实数据评估 - 搜索空间应该包括模型选择（24M vs 118M vs 7B），不仅是参数调优

一、整合路线图：三层六模型

┌─────────────────────────────────────────────────────────────┐
│                    理解层 (Understanding)                    │
│   灵研负责 | Phase A+B 并行 | 硬件: zhineng-ai + ai01      │
│                                                             │
│   ┌──────────┐  ┌──────────┐  ┌──────────────────────────┐ │
│   │ 意图分类 │  │ 语义检索 │  │ 认知推理 (Phase B+)      │ │
│   │ 24M tiny │  │ 118M     │  │ 7B LoRA → 蒸馏到 0.5B  │ │
│   │ 5类意图  │  │ MiniLM   │  │ RAG + 多步推理          │ │
│   └──────────┘  └──────────┘  └──────────────────────────┘ │
└─────────────────────────────────────────────────────────────┘
                          ↓
┌─────────────────────────────────────────────────────────────┐
│                    优化层 (Optimization)                     │
│   灵极优负责 | 灵通协作 | 硬件: zhineng-ai (CPU)           │
│                                                             │
│   ┌──────────────┐  ┌──────────────┐  ┌──────────────────┐ │
│   │ 元知识优化   │  │ 知识图谱增强 │  │ 知识蒸馏         │ │
│   │ MKO 贝叶斯   │  │ AST + 实体   │  │ 7B→0.5B→24M    │ │
│   │ 提示词/路由  │  │ 依赖追踪    │  │ 多策略蒸馏       │ │
│   └──────────────┘  └──────────────┘  └──────────────────┘ │
└─────────────────────────────────────────────────────────────┘
                          ↓
┌─────────────────────────────────────────────────────────────┐
│                    执行层 (Execution)                        │
│   灵通负责 | 灵克协作 | 硬件: 全集群                        │
│                                                             │
│   AgentCoordinator → SkillRegistry → WorkflowOrchestrator   │
│   意图路由(本地) → 语义检索(本地) → 复杂推理(API/本地7B)    │
└─────────────────────────────────────────────────────────────┘

二、深化后的分阶段计划

Phase A：理解层基础（0-4周，并行执行）

硬件分配：

任务	机器	GPU 显存	负责方
意图分类器训练 (24M)	zhineng-ai (6GB)	2GB	灵研
Embedding 模型训练 (118M)	zhineng-ai (6GB)	3GB	灵研
元知识优化 v1 (MKO)	zhineng-ai (CPU)	0	灵极优
知识蒸馏框架搭建	zhineng-ai (CPU)	0	灵研 + 灵克

交付物： - 意图分类器：F1 macro > 0.85 - Embedding 模型：Spearman > 0.75, Recall@10 > 0.85 - MKO v1：提示词优化，基于灵研 7,491 条真实数据评估 - 蒸馏框架：teacher/student 接口定义 + 数据管线

Phase B：能力扩展（4-8周，并行执行）

硬件分配：

任务	机器	GPU 显存	负责方
Qwen2-7B LoRA 微调	zhineng-ai01 (8GB)	8GB	灵研
RAG 流水线部署	zhineng-ai01 (8GB)	4GB	灵研 + 灵通
知识蒸馏 v1 (7B→0.5B)	zhineng-ai01 (8GB)	8GB	灵研 + 灵克
知识图谱 v1 (AST)	zhineng-ai (CPU)	0	灵通

交付物： - 7B LoRA：在灵族 3,451 QA 样本上微调 - RAG 全链路：意图分类 → Embedding 检索 → 7B 生成 - 蒸馏 v1：7B → 0.5B 学生模型，准确率 > 0.9 × 教师 - 知识图谱 v1：Python AST 分析 + 函数调用追踪

Phase C：生态融合（8-12周）

硬件分配：

任务	机器	负责方
pgvector + Milvus	DELL R730 (64GB)	灵通
知识图谱增强 v2 (实体+关系)	zhineng-ai (6GB)	灵通 + 灵研
元知识优化 v2 (路由+重试)	zhineng-ai (CPU)	灵极优
联邦蒸馏 (多教师)	zhineng-ai + ai01	灵研 + 灵克

交付物： - 向量数据库：2GB+ 研究数据全量索引，查询 < 100ms - 知识图谱 v2：古籍实体识别 + 概念关系抽取 + 关联推理 - MKO v2：多目标优化（token/准确率/延迟 Pareto Front） - 联邦蒸馏：多教师模型（GLM-5 + Qwen2-7B）→ 单一学生模型

三、三个新方向的深化设计

3.1 知识蒸馏（灵克提案，灵研执行）

灵研视角的补充：

灵族有独特的蒸馏场景——不是通用的"大模型教小模型"，而是领域知识转移：

教师: GLM-5 (API) + 灵族 2GB 研究数据
  ↓ response distillation
学生: Qwen2-7B LoRA → 蒸馏到 0.5B → 最终蒸馏到 24M

蒸馏链:
  GLM-5 (万亿参数, API) → Qwen2-7B LoRA (本地, 8GB)
  Qwen2-7B → Qwen2-0.5B (本地, 2GB) 
  Qwen2-0.5B → 意图分类器 24M (本地, 0.2GB)

灵极优的评估框架：

蒸馏效果的评估函数不应只看准确率，应该用 MKO 的多目标评估： - 准确率保持率：学生 > 0.9 × 教师 - 延迟降低比：学生延迟 < 教师 / 10 - 成本降低比：学生推理成本 < 教师 / 100 - 综合分数：0.4 × accuracy + 0.3 × latency_reduction + 0.3 × cost_reduction

3.2 元知识优化（灵极优提案，灵通集成）

灵通视角的集成方案：

MKO 的输出直接接入灵通的 AgentCoordinator：

# lingflow/coordination/coordinator.py 集成点
class AgentCoordinator:
    def __init__(self):
        # 现有: 静态路由规则
        self.routing_rules = load_static_rules()

        # 新增: MKO 动态优化
        self.mko_config = load_meta_optimization_config()

    def _select_agent(self, task):
        # 优先使用 MKO 优化的路由
        if self.mko_config.get("routing"):
            return self._mko_route(task)
        return self._static_route(task)

灵研视角的数据支撑：

MKO 的评估函数不再依赖"模拟"，而是用灵研的真实标注数据： - 7,491 条意图样本 → 评估路由准确率 - 2,189 对 Embedding → 评估检索质量 - 3,451 条 QA → 评估生成质量

3.3 知识图谱增强（灵克提案，灵通 + 灵研协作）

灵通的调整建议：

灵克原方案偏代码场景（AST、依赖追踪）。灵族的 2GB 研究数据需要双重知识图谱：

图谱 A: 代码知识图谱（灵克原方案）
  AST 分析 → 函数调用链 → 依赖追踪 → 重构建议
  适用: 灵通 Skill 系统、灵克代码开发

图谱 B: 领域知识图谱（灵通+灵研新增）
  古籍实体识别 → 概念关系抽取 → 语义推理链
  适用: 灵知知识库、灵研研究数据

灵研的实体识别方案：

利用 Phase A 的 Embedding 模型做实体链接： 1. Embedding 检索找到相关文档 2. 在相关文档中抽取实体和关系 3. 构建领域概念图谱（混元整体理论、经络系统、功法体系...）

四、硬件资源时间表

Week 1-4: Phase A（zhineng-ai 单机 + ai01 环境准备）
  zhineng-ai 6GB:  意图分类(2GB) + Embedding(3GB) = 5GB ✅
  zhineng-ai CPU:  MKO v1 + 蒸馏框架
  zhineng-ai01:    CUDA/PyTorch/Ray 环境验证

Week 5-8: Phase B（双机并行）
  zhineng-ai01 8GB:  7B LoRA(8GB) → RAG推理(4GB)
  zhineng-ai 6GB:    知识图谱 AST + 蒸馏学生模型训练
  DELL R730 64GB:    pgvector 评估

Week 9-12: Phase C（三机协同）
  zhineng-ai:        推理服务(意图+Embedding) + 知识图谱 v2
  zhineng-ai01:      7B 蒸馏训练 + 联邦蒸馏
  DELL R730:         pgvector + Milvus 向量数据库

五、成功指标（四位一体）

理解层指标（灵研负责）

指标	Phase A 目标	Phase B 目标	Phase C 目标
意图分类 F1 macro	> 0.85	> 0.90	> 0.92
Embedding Spearman	> 0.75	> 0.80	> 0.85
RAG 端到端准确率	—	> 0.70	> 0.80
推理延迟 (p95)	< 50ms	< 200ms	< 100ms

优化层指标（灵极优负责）

指标	Phase A 目标	Phase B 目标	Phase C 目标
Token 节省率	> 10%	> 15%	> 20%
API 成本降低	> 15%	> 25%	> 40%
路由准确率	—	> 0.85	> 0.90
优化收敛速度	< 50 experiments	< 30	< 20

蒸馏指标（灵克 + 灵研负责）

指标	Phase A 目标	Phase B 目标	Phase C 目标
蒸馏框架	✅ 搭建完成	—	—
学生模型准确率	—	> 0.9 × 教师	> 0.95 × 教师
推理成本降低	—	> 80%	> 95%
端到端延迟	—	< 500ms	< 200ms

系统指标（灵通负责）

指标	Phase A 目标	Phase B 目标	Phase C 目标
本地化调用比例	> 30%	> 60%	> 80%
API 依赖率	< 70%	< 40%	< 20%
系统可用性	> 95%	> 99%	> 99.5%
研究数据检索	SQL LIKE	语义向量	语义+图谱

六、风险与缓解

风险	四位一体的缓解措施
小模型精度不够	灵研: 先用真实数据验证 Phase A; 灵克: 蒸馏策略降级; 灵通: 保留 API fallback
7B LoRA 显存不够	灵研: 实测 ai01 的 8GB; 灵通: 备用方案用 INT4 推理(4GB)替代 LoRA
蒸馏效果差	灵克: 多策略蒸馏(logits/response/hybrid); 灵研: 增加教师数据量
MKO 优化不收敛	灵极优: 缩小搜索空间; 灵研: 用真实数据替代模拟评估
知识图谱构建困难	灵通: 先做 AST 图谱(确定性高); 灵研: 领域图谱延后到 Phase C
集成复杂度	灵通: 统一接口(ModelInput/ModelOutput); 灵克: 分阶段集成

七、开放问题（需要广大老师决策）

蒸馏教师选择：用 GLM-5 还是 Qwen2-7B 作为蒸馏教师？前者效果更好但需 API，后者本地但效果待验证。
知识图谱优先级：先做代码图谱（确定性高）还是领域图谱（业务价值高）？
MKO 自动化程度：MKO 优化结果自动应用，还是需要人工审批？
Phase B 启动条件：Phase A 全部达标才启动 Phase B，还是达到最低指标就可以并行？

灵通 (LingFlow) · 灵研 (LingResearch) · 灵克 (LingClaude) · 灵极优 (LingMinOpt) 2026-04-12 · 灵族 AI 模型路线图 v2.0