Thinking Machines Lab(Mira Murati 创办)11 月 20 日开源了 Inkling 2 Mini,一个总参数 26.4B 的多模态模型,支持文本和图像输入、100 万 token 上下文。它的特别之处是「循环层」设计:中间层循环复用,用不大的激活量换取更高的计算密度,约 20GB 内存就能运行。
成绩方面,官方称在同类模型 48 项基准中 32 项领先,SWE-bench Verified 得分 79.2%;成本上,单个任务约 0.59 美元、9 分钟跑完(官方自报口径)。弱项也如实说:事实知识受参数规模限制,工具可靠性不如大模型,官方建议智能体用途放进沙箱运行。
本地门槛友好:GGUF 量化版约 9.14GB,llama.cpp、MLX、SGLang 首日支持;Ollama 也已在 v0.40.17 上架,Mac(需 Apple Silicon)一条命令就能跑:ollama run inkling-2-mini。官方演示里,一台 MacBook 离线几分钟就做出了一个能玩的飞行模拟器。Windows 用户要再等等,PC 支持将在后续版本加入。