Apfel — 释放 Mac 设备端 AI

来源: franzai.com | 发布时间: 2026-04-03 | Hacker News: 556 points

AI macOS 设备端开源

        一句话总结： Apfel 将 Apple 隐藏在 Siri 后面的设备端 LLM 释放出来，让每个 Apple Silicon Mac 都能免费使用本地 AI。
    

Token 费用

100%

本地运行

4096

Tokens 上下文

~3B

参数数量

核心功能

UNIX 工具 - 管道友好，支持 jq、xargs 和 shell 脚本，stdin/stdout、JSON 输出、文件附件、正确的退出码
OpenAI 兼容服务器 - 位于 localhost:11434 的 drop-in 替代品，支持任何 OpenAI SDK，Streaming、函数调用、CORS
交互式聊天 - 多轮对话，自动上下文管理，五种修剪策略，系统提示支持

技术原理

从 macOS 26 (Tahoe) 开始，每个 Apple Silicon Mac 都包含一个语言模型作为 Apple Intelligence 的一部分。Apple 通过 FoundationModels framework 暴露它 —— 一个让应用访问 SystemLanguageModel 的 Swift API。所有推理在 Neural Engine 和 GPU 上运行，无网络调用，无云，无 API key。

但 Apple 只将其用于 Siri、写作工具和系统功能。没有终端命令，没有 HTTP 端点。Apfel 是一个 Swift 6.3 二进制文件，包装 LanguageModelSession 并以三种方式暴露它：UNIX 命令行工具、OpenAI 兼容 HTTP 服务器（基于 Hummingbird）和带上下文管理的交互式聊天。

使用方法

# 安装
$ brew install Arthur-Ficial/tap/apfel

# CLI 使用
$ apfel "What is the capital of Austria?"

# OpenAI 兼容服务器
$ apfel --serve
# Server running on http://127.0.0.1:11434

# 交互式聊天
$ apfel --chat -s "You are a coding assistant"

为什么重要

这是 Apple 设备端 LLM 首次作为命令行工具公开可用。在 AI 时代，这意味着每个 Apple Silicon Mac 用户都可以免费使用本地 AI，无需 API key，无需支付任何费用。虽然上下文窗口只有 4096 tokens，但对于大多数单轮任务和短对话已经足够。

4月3日该项目突然爆火，一天内获得 295 stars，展示了对本地、隐私优先 AI 的强烈需求。

原文链接 | GitHub