Inkling icon

Inkling

認領

Inkling 是 Thinking Machines Lab 的開放權重多模態基礎模型,可輸入文字、圖片與音訊,輸出文字,並可在 Tinker 上微調,適用於下游應用。

Inkling

概覽

Inkling 是 Thinking Machines Lab 的開放權重多模態模型。它被定位為通用基礎模型,可接受文字、圖片與音訊輸入並產生文字輸出,支援英文、其他語言與多種程式語言。

模型卡將 Inkling 描述為一個 66 層、僅解碼器的 Transformer,採用稀疏 Mixture-of-Experts 路由,總參數為 975B、啟用參數為 41B,且上下文視窗最高可達 1M tokens。Thinking Machines 將其定位為可自訂的基礎模型,供開發者建立對話系統、代理式工作流程、程式設計工具與檢索增強應用。

Inkling 以 Apache 2.0 授權的開放權重形式發佈,可透過 Hugging Face 取得,並可在 Tinker 上微調。發佈材料也提到同系列中較輕量的 Inkling-Small 作為預覽版本,但來源頁面強調 Inkling 才是主要發布。

功能

支援多模態輸入

Inkling 是一個多模態自回歸 Transformer,可接受文字、圖片與音訊,並產生文字輸出。模型卡說明它適用於英文及其他語言,以及多種程式語言。

稀疏 MoE 架構

此模型採用稀疏 Mixture-of-Experts 架構,總參數為 975B,啟用參數為 41B。根據模型卡,每個 token 會路由到 256 個專家中的 6 個,以及 2 個共享專家。

長上下文處理

Inkling 支援最多 1M tokens 的上下文視窗,適合長篇文件與長對話工作流程。

可控的推理投入

發佈文章指出,Inkling 透過可控的思考投入在成本與效能之間取得平衡。這使它成為一個可依任務不同而採用不同推理投入程度的基礎模型。

透過 Tinker 進行微調

Inkling 可在 Tinker 上進行微調,而 Tinker 的產品頁將訓練說明為四個函式:forward_backward、optim_step、sample 和 save_state。

多種存取方式

模型卡說明權重可透過 Hugging Face 取得,模型也可經由 Tinker 與第三方推理供應商存取。

使用案例

  • 多模態助理

    開發者可以建立聊天機器人或助理型產品,讓它們不僅能回應文字提示,也能在同一對話中理解圖片或音訊。

  • 開發者應用

    從事程式碼副駕駛、工具使用型代理,或檢索增強系統的團隊,可以將 Inkling 作為通用基礎模型,用於後續調整與整合。

  • 模型自訂

    研究人員與產品團隊可以在 Tinker 上微調開放權重,以將模型調整為特定行為或工作流程,例如自訂回應風格或特定領域任務。

  • 長上下文工作流程

    需要處理長文件、冗長對話,或跨多輪延伸上下文的應用程式,可以利用此模型 1M-token 的上下文視窗。

  • 部署規劃

    評估開放權重部署選項的組織,可以利用模型卡中的 checkpoint 與硬體指引,在自有系統或支援的供應商上規劃推理。

Pros and Cons

Pros

  • 在單一通用模型中支援文字、圖片與音訊輸入。
  • 開放權重與 Apache 2.0 授權使模型可用於研究與下游自訂。
  • 最高 1M tokens 的長上下文支援,擴大了其在長文件與代理工作流程中的用途。
  • Tinker 提供了有文件說明的微調路徑,包含基本的訓練與續接 API 工作流程。
  • 模型卡提供具體的部署指引,包括 checkpoint 格式與硬體需求。

Cons

  • 來源資料未包含定價細節,因此從目前提供的公開頁面無法看出商業模式。
  • 在本機執行 BF16 checkpoint 需要大量硬體;模型卡指出此格式至少需要 2 TB 的彙總 VRAM。

FAQ

Inkling 是如何發佈與提供的?

Inkling 以開放權重模型形式提供,權重可透過 Hugging Face 取得,模型也可經由 Tinker 與第三方推理供應商存取。公告與模型卡指出,其定位是供下游開發者使用,而非面向一般消費者的聊天應用程式。

Inkling 可以接受哪些輸入,並輸出什麼?

模型卡說明,Inkling 可接受文字、圖片與音訊輸入,並產生文字輸出。它的設計用途涵蓋通用對話、指令遵循、程式碼、代理式工作流程,以及檢索增強生成系統。

Inkling 的微調如何運作?

Tinker 是用來微調 Inkling 的訓練 API。模型卡指出 Inkling 可在 Tinker 上進行微調,而發佈文章則描述了如何使用 Tinker 撰寫、執行並評估自我微調工作,再更新目前啟用的權重。

Inkling 的核心模型特性是什麼?

模型卡將 Inkling 描述為一個 66 層、僅解碼器的 Transformer,採用稀疏 Mixture-of-Experts 路由。它共有 975B 總參數、41B 啟用參數,並支援最多 1M tokens 的上下文視窗。

Inkling 或 Tinker 有公開的定價資訊嗎?

來源資料未提供定價資訊。定價網址目前回傳 404 找不到頁面。

Quick Facts

類別
開放權重多模態模型
供應商
Thinking Machines Lab, Inc.
發布日期
2026 年 7 月 15 日
授權
Apache 2.0
輸入
文字、圖片、音訊
輸出
文字