LLM API 的变迁:OpenAI-compatible 为什么不等于兼容

Posted on 一 07 9月 2026 in Tech • Tagged with tech, LLM, API, OpenAI, Anthropic, Gemini, Responses API, Chat Completions, tool-calling

LLM API 已经从 prompt 字符串、messages 对话,走到由 typed items、事件流和工具循环组成的 Agent 接口。OpenAI-compatible 往往只能保证最简单的文本请求长得相似,不能保证工具调用、流式事件、状态、推理内容和错误语义一致。本文比较 Chat Completions、Responses API、Anthropic Messages 与 Gemini,给出选型框架、适配层边界和兼容性测试清单。


Continue reading

蒸馏:AI 世界里的"吸星大法"

Posted on 日 05 4月 2026 in AI • Tagged with AI, distillation, LLM, agent, skill, knowledge-distillation, DeepSeek, OpenAI

大模型能蒸馏,Agent 的 Skill 也能蒸馏。蒸馏到底是什么?为什么 DeepSeek 能把 671B 的推理能力塞进 1.5B 的小模型?为什么你的 Agent 技能越写越臃肿时,也需要来一轮"蒸馏"?这篇把模型蒸馏和技能蒸馏串起来讲,一次搞懂。


Continue reading