当前位置:首页>技术学院>开源教程>Mira Murati 团队开源 Inkling 2 Mini:20GB 内存就能本地跑,已上架 Ollama

Mira Murati 团队开源 Inkling 2 Mini:20GB 内存就能本地跑,已上架 Ollama

Thinking Machines Lab(Mira Murati 创办)11 月 20 日开源了 Inkling 2 Mini,一个总参数 26.4B 的多模态模型,支持文本和图像输入、100 万 token 上下文。它的特别之处是「循环层」设计:中间层循环复用,用不大的激活量换取更高的计算密度,约 20GB 内存就能运行。

成绩方面,官方称在同类模型 48 项基准中 32 项领先,SWE-bench Verified 得分 79.2%;成本上,单个任务约 0.59 美元、9 分钟跑完(官方自报口径)。弱项也如实说:事实知识受参数规模限制,工具可靠性不如大模型,官方建议智能体用途放进沙箱运行。

本地门槛友好:GGUF 量化版约 9.14GB,llama.cpp、MLX、SGLang 首日支持;Ollama 也已在 v0.40.17 上架,Mac(需 Apple Silicon)一条命令就能跑:ollama run inkling-2-mini。官方演示里,一台 MacBook 离线几分钟就做出了一个能玩的飞行模拟器。Windows 用户要再等等,PC 支持将在后续版本加入。

声明:本站文章如无特别说明均为原创或经授权整理,转载须注明出处;涉及第三方信息和资源请以官方页面为准,如有侵权请联系处理。
开源教程电脑软件

零安装云端跑大模型盘点:不装任何东西,浏览器里能用什么、边界在哪

2026-11-21 10:33:16

开源教程

Inkling 2 Mini 开放权重:26.4B 循环 Transformer,一台 MacBook 就能离线跑

2026-11-22 14:31:55