BaseRT

认领

BaseRT 是适用于 Apple Silicon 的本地 LLM 运行时，可一键安装，在本机部署并运行支持的模型，还能连接编码代理，无需向外部 API 发送数据。

AI智能体开发

AI开发者工具

大语言模型

访问网站

BaseRT 是什么

BaseRT 是 Base Compute 推出的适用于 Apple Silicon 的本地 LLM 运行时。首页将其描述为 Apple Silicon 上速度最快的 LLM 运行时，并展示了通过一条命令安装、在您自己的设备上运行模型的流程。

它的核心任务是在本地提供并运行开源模型，重点是将推理保留在设备上，面向个人开发者和编码代理工作流。产品页面明确展示了一个本地模型被提供服务，然后在不向外部 API 发送数据的情况下连接到编码代理。

Base Compute 的研究页面将 BaseRT 定位为适用于 Apple Silicon 的原生 Metal 推理运行时，技术报告主要关注相较 llama.cpp 和 MLX 的吞吐量提升。企业页面将这种设备端方式扩展到希望在自己已拥有的硬件上运行 AI 的团队。

功能

一键安装

首页展示了使用 shell 安装程序的一行安装流程，使本地使用的设置保持简单。

原生 Metal 运行时

BaseRT 被描述为专为 Apple Silicon 构建的原生 Metal 推理运行时，技术报告解释了它使用芯片特定的内核融合和自定义调度逻辑。

用于代理的本地模型服务

产品页面说明 BaseRT 可以在本地提供模型服务，然后由同一台机器上的编码代理使用，保持提示和输出都在设备上处理。

广泛的模型家族覆盖

首页列出了支持的模型家族，包括 Qwen3、Qwen3.5、Qwen3.6、Llama 3.1、Llama 3.2、Gemma 3、Gemma 4、Mistral、Phi-3 和 Nomic BERT。

多种量化格式

研究页面说明，在 Apple M 系列设备上，支持从 Q2 到 FP16 的八种量化格式，覆盖广泛的模型家族。

支持文档和社区渠道

网站提供技术报告、文档、GitHub 和 Discord 链接，为用户提供更深入的实现细节和社区支持路径。

BaseRT 适用场景

本地编码代理设置
开发者可以在自己的 Mac 上运行编码代理并连接到本地提供服务的模型，让整个流程保持本地化，而不是通过托管 API 路由提示词。
设备端模型实验
希望在 Apple Silicon 上试验开源模型的个人用户可以快速安装 BaseRT，并在自己的机器上运行推理。
设备端 AI 的设备群规划
工程团队可以使用企业工作流来评估本地 AI 如何适配现有的笔记本和工作站设备群，然后再更广泛地采用。
私密文档工作流
处理敏感材料的组织可以将 AI 辅助写作、摘要或分析保留在设备端，以避免将数据发送给第三方服务。
运行时评估与基准测试
关注性能的团队可以使用研究和基准材料，在 Apple 硬件上比较 BaseRT 与 llama.cpp 和 MLX。

Pros and Cons

Pros

专为本地推理设计，因此模型可以在用户自己的设备上运行，而不是外部服务。
首页提供了简单的安装命令，以及面向编码代理的清晰“提供服务并连接”工作流。
产品站点列出了具体支持的模型家族，使目标模型范围比通用运行时页面更明确。
为希望了解实现细节和性能背景的读者提供了研究页面和技术报告。
产品站点上可见社区和支持链接，包括文档、GitHub 和 Discord。

Cons

公开网站未提供经过验证的定价页面；定价 URL 当前返回 404。
最明确的运行时细节是针对 Apple Silicon 记录的，因此源页面并未清楚说明对该平台之外的支持。
已明确展示的工作流主要是本地服务和编码代理，但主产品页面未记录更广泛的集成和 API 兼容性。

FAQ

如何设置 BaseRT？

BaseRT 通过产品页面展示的一行安装脚本从命令行安装。安装完成后，您可以在本地运行受支持的模型，并将编码代理指向该服务器。

BaseRT 适合谁？

首页突出本地编码代理工作流，并说明 BaseRT 面向使用开源模型构建本地 AI 的用户。企业页面也将其定位为适合在已拥有的笔记本和工作站上运行 AI 的组织。

它可以运行哪些模型？

BaseRT 支持在 Apple Silicon 上进行本地模型服务，研究页面还说明它支持 Apple M 系列设备上的多种模型家族。首页列出了受支持的模型，包括 Qwen3、Qwen3.5、Qwen3.6、Llama 3.1、Llama 3.2、Gemma 3、Gemma 4、Mistral、Phi-3 和 Nomic BERT。

BaseRT 的费用是多少？

来源未说明 BaseRT 的公开定价页面。定价 URL 当前返回 404，因此现有证据无法验证价格和套餐详情。

BaseRT 支持非 Apple 硬件吗？

产品页面聚焦于 Apple Silicon 和 Apple M 系列设备。企业页面提到 Windows 和 Linux 工作站作为通用的本地 AI 硬件，但 BaseRT 运行时本身在网站上被呈现为适用于 Apple Silicon 的运行时。

Quick Facts

类别: 开发者工具 / AI 基础设施
主要平台: Apple Silicon / Apple M 系列设备
核心工作流: 本地安装、提供模型服务、在同一台机器上连接编码代理
支持的模型家族: Qwen3、Qwen3.5、Qwen3.6、Llama 3.1、Llama 3.2、Gemma 3、Gemma 4、Mistral、Phi-3、Nomic BERT
来源域名: basecompute.co
公司: Base Compute Pty. Ltd.

BaseRT 数据分析

流量数据仅供参考。

流量与排名

月访问量: 1355
平均访问时长: 04:28
每次访问页数: 2.00

流量趋势

主要访问地区

暂无流量分析数据。

流量来源

BaseRT 替代品

AakarDev AI

AakarDev AI 帮助团队在一个仪表板中管理 AI 提供商访问、项目级配置、日志和分析，支持 BYOK 工作流，并涵盖 OpenAI、Google Gemini、Anthropic、Groq、Mistral AI、Perplexity AI 等提供商。

Orca

Orca 是面向编码代理的 Agent 开发环境，支持在隔离的 git worktree 中并行运行多个 CLI agent，并提供桌面端与移动端协作流程。

AI Magicx

AI Magicx 是一体化 AI 工作区，集聊天、图片、视频、语音、音乐、邮件和开发任务于一处，帮助创作者、团队和开发者集中使用多种模型，无需在多个工具和订阅间切换。

Paper

Paper 是一款设计工具，连接画布、代码和 AI agent，让团队在一个工作流中完成创建、协作与交付。支持桌面应用、基于 MCP 的 agent 访问，以及真实内容和设计 token 工作流。

blop

blop 是一款 QA agent，可在仓库中将浏览器测试以代码形式编写并运行于 CI，聚合重复失败，还可发起 PR 修复失效测试，适合需要可审查、版本控制浏览器 QA 的团队。

RLAMA

RLAMA 是一款本地 AI 平台，适用于在 macOS、Linux 和 Windows 上构建 RAG 系统与智能体。支持本地处理、交互式终端工作流和用于文档问答及多智能体自动化的 HTTP API。