LLM函数调用与JSON模式约束：结构化输出与工具编排
通过函数调用与 JSON Schema 约束实现结构化输出与工具编排，提升可控性与集成效率。
ai
向量数据库选型：pgvector/Milvus/Weaviate与内存索引治理
对比主流向量存储与索引（HNSW/IVF/Flat），结合内存占用与一致性需求，进行合理选型与治理。
vLLM与TGI推理框架对比：吞吐与兼容性
比较 vLLM 与 HuggingFace TGI 的架构与接口兼容性，理解批量与并发表现差异以优化部署选型。
RAG评估指标：Faithfulness与Answer Relevance
通过忠实度与答案相关性指标评估 RAG 系统质量，结合上下文覆盖与召回构建可运行的评测体系。
大模型推理加速：量化、蒸馏与KV Cache
以量化、模型蒸馏与 KV Cache 为核心的推理加速路径，在保证可控事实性的前提下降低延迟与成本。
