Thinking Machines Lab 发布开源权重模型 Inkling 2 Mini,采用循环 Transformer 架构,将中间 12 层每 token 运行三次,总参数 26.4B、激活 3.4B,内存占用约 20GB,可在 32GB 内存以上的 Mac 本地运行。
AI INSIGHT
Thinking Machines Lab 发布可跑在笔记本上的开源权重模型 Inkling 2 Mini
AI 摘要
Thinking Machines Lab 发布开源权重模型 Inkling 2 Mini,采用循环 Transformer 架构,将中间 12 层每 token 运行三次,总参数 26.4B、激活 3.4B,内存占用约 20GB,可在 32GB 内存以上的 Mac 本地运行。