Files
OSGKeyboard/README.zh.md
T
Rocky 9ef0196d52 feat(flow): harden host handoff, session UX, and Live Activity brand
- fix(keyboard): drop unusable extensionContext.open; report the real
  result of UIApplication.open and cancel the start watchdog immediately
  on failure with clear "open OSGKeyboard" guidance instead of a 30s spin
- feat(capture): recover from audio route changes (AirPods/wired headset
  plug-unplug) and phone-call interruptions by rebuilding the engine/tap
  against the live hardware format
- feat(home): add a "Start" button in the Home footer when a session is
  inactive and permissions are granted (no-jump manual restart)
- feat(hostapps): expand the return whitelist to 46 apps (Signal, Zoom,
  Instagram, X, Douyin, Zhihu, Bilibili, Things, Firefox, ...) with
  en/zh-Hans names and synced LSApplicationQueriesSchemes
- feat(island): use a "ready" checkmark instead of a mic glyph while idle
  and set a staleDate so an orphaned Live Activity fades after a force-quit
- feat(coldstart): use the template OSG brand mark instead of a system
  waveform glyph in the cold-start overlay
- perf(keyboard): rely on Darwin notifications as the primary session
  signal and drop the fallback poll from 1s to 3s
- fix(keyboard): remove the redundant "Start" text button next to the
  inactive-session hint on the keyboard
- docs: correct the per-take cap to 210s (3.5 min) and document that
  force-quitting no longer resurrects the session (tracker + READMEs)
2026-07-06 17:56:10 +08:00

12 KiB
Raw Blame History

OSGKeyboard

按一下开始,再按一下结束 —— AI 润色文字直接出现在任意 App 的光标处。 一款源码可见的 iOS 自定义键盘语音输入工具,灵感来自 TypelessOpenLess

Platform Swift License Version

English README · 隐私政策


这是什么?

OSGKeyboard 是商业语音输入工具的免费、源码可见替代方案。它以 iOS 自定义键盘扩展 的形式运行,所以你可以在 任何 App 里使用 —— 微信、备忘录、邮件、ChatGPT、Claude、Cursor,无所不能。

  1. 按下麦克风键开始录音
  2. 自由说话(单次上限 3.5 分钟 / 210 秒)
  3. 再按一下结束 —— AI 自动整理成干净的文字并插入光标

音频始终在设备本地转写iOS 26+ 的 SpeechAnalyzer + DictationTranscriber),只有润色后的文本 会发到你选择的云端 LLM。音频永不离开你的手机。

项目内部采用 Flow 会话模型:主 App 维护一个长生命周期的音频会话,键盘扩展只通过 App Group 写入"开始 / 停止"等轻量信号,润色后的文本再由主 App 回传给键盘插入。多次录音之间无需反复跳回主 App


特性

  • 🎙 点按录音 —— Typeless 风格的圆形麦克风按钮,单次上限 3.5 分钟(210 秒)并实时倒计时
  • 🧠 端侧 ASRiOS 26+ SpeechAnalyzer + DictationTranscriber
  • ✍️ AI 润色 —— 自动加结构、补标点、修正语法、可生成列表
  • 🧩 本地 + 云端润色开关 —— 本地模式默认仅在设备上识别;若 iOS 语音识别效果不理想(远场、噪声、方言),可开启「识别后云端润色」,默认走 DeepSeek
  • 🔌 自带 API 接入 —— 兼容任何 OpenAI 兼容协议端点(OpenAI / DeepSeek / Qwen DashScope / Moonshot / 智谱 / 自建服务器 ……)
  • 🔒 隐私优先 —— 音频不离开设备;只有润色文本会发给你选择的 LLM
  • 🎨 原生 SwiftUI —— 暗色主题、毛玻璃、纯 Swift 6 实现,约 3,600 行代码
  • 🪶 零依赖 —— 无 SwiftPM 包、无 CocoaPods、无 Carthage
  • 🔁 Flow 会话 —— 多次录音无需跳回主 App,会话自动维持心跳与续期

快速开始

环境要求

  • macOS + Xcode 26(与 project.yml 中 iOS 26 部署目标对齐)
  • iPhone 运行 iOS 26.0+
  • XcodeGenbrew install xcodegen
  • 一个 OpenAI 兼容 API KeyOpenAI / DeepSeek / Qwen DashScope 任一)。如果一直使用「纯本地 ASR」引擎则无需 Key。

编译与运行

git clone https://github.com/hkgood/OSGKeyboard.git
cd OSGKeyboard
./Scripts/generate-xcodeproj.sh   # 通过 XcodeGen 生成 OSGKeyboard.xcodeproj
open OSGKeyboard.xcodeproj        # 或命令行编译:
xcodebuild -project OSGKeyboard.xcodeproj -scheme OSGKeyboard \
  -destination 'generic/platform=iOS Simulator' build

OSGKeyboard.xcodeproj 不进入版本库,由 Scripts/generate-xcodeproj.shproject.yml 生成。每次 git pull 后若 project.yml 有变更,请重新执行该脚本。

在 iOS 中启用键盘

主 App 会引导你走完 5 步

  1. 欢迎 —— 介绍 OSGKeyboard
  2. 麦克风 —— 申请麦克风权限
  3. 语音识别 —— 申请端侧语音识别权限
  4. 启用键盘 + 完全访问 —— 跳转 iOS 设置添加 OSGKeyboard 并允许完全访问
  5. 引擎 + API —— 选择本地或云端引擎,粘贴 API Key(仅云端 / 识别后云端润色需要)

完成后,在任意输入框点 🌐 切换到 OSGKeyboard,再点圆形麦克风键开始说话,再次点击结束。

"允许完全访问"是必须的。 没有它,iOS 会阻止键盘使用麦克风与网络。我们绝不记录、存储或上传你的击键 —— 见 PrivacyInfo.xcprivacy隐私政策


架构

OSGKeyboard/
├── OSGKeyboard/                 # 主 iOS AppFlow 会话宿主)
│   ├── Services/                # FlowSessionManager、AppPermissions、SpeechHistoryStore、…
│   ├── Views/                   # SwiftUIOnboardingView、HomeView、SettingsView、HistoryView、…
│   ├── OSGKeyboardApp.swift     # @main 入口,持有 FlowSessionManager
│   ├── PrivacyInfo.xcprivacy    # 隐私清单
│   └── OSGKeyboard.entitlements # App Group + Keychain Group
├── OSGKeyboardExt/              # 自定义键盘扩展
│   ├── KeyboardViewController.swift   # 主体类(驱动 SwiftUI
│   ├── Services/                # AppGroupPersistor、HostAppLauncher、AudioCaptureService(旧版,未使用)
│   ├── Views/                   # KeyboardRootView、RecordButton、WaveformView
│   └── PrivacyInfo.xcprivacy
├── OSGKeyboardShared/           # 主 App + 键盘共享 frameworkAPPLICATION_EXTENSION_API_ONLY=YES
│   ├── Services/                # FlowSessionBridge、FlowSessionDarwin、LLMClient、PolishingService、ASRService、Keychain、AppGroupStore、…
│   ├── Models/                  # LLMProvider、ProviderConfig、TranscriptionDelivery、AudioBufferSnapshot、…
│   ├── DesignSystem/            # Theme、ThemedRoot
│   └── Constants/               # AppGroup ID
├── OSGKeyboardTests/            # XCTest 单元测试(LLM、Keychain、ASR、Flow bridge、…)
├── OSGKeyboardExtTests/         # 键盘扩展侧单元测试
├── Scripts/                     # generate-xcodeproj.sh、patch-icon-composer.sh
├── docs/                        # GitHub Pages(隐私政策 + 落地页)
├── project.yml                  # XcodeGen 工程定义(唯一源)
└── .github/workflows/ci.yml     # Lint + 编译 CI

数据流 —— Flow 会话模型

[键盘点按麦克风]
  └─► KeyboardViewController.pressBegan
        └─► FlowSessionBridge.setRecordingState(.recording)  [App Group UserDefaults]
        └─► Darwin 通知:"recordingState changed"
              └─► 主 App 的 FlowSessionManager 收到信号
                    └─► FlowContinuousCapture 持续把 16kHz PCM 喂给 ChunkedUtterancePipeline
                          └─► ASRService.transcribeiOS 26 SpeechAnalyzer
                                └─► ASREvent.partial / .final
                                      └─► UtteranceTranscriptStitcher 拼接
                                            └─► PolishingServiceLLMClient  [可选,由引擎模式决定]
                                                  └─► FlowSessionBridge.storeTranscriptionResult
[键盘轮询 + Darwin 通知]
  └─► KeyboardViewController 拿到结果
        └─► textDocumentProxy.insertText(润色后文本)

引擎模式:

  • cloud(默认)—— 端侧 SpeechAnalyzer 识别,文本发到云端 LLM 润色。
  • local —— 仅端侧 SpeechAnalyzer 识别,原始文本直接插入,不联网。
  • local + 「识别后云端润色」开关(设置 → 引擎)—— 同样走端侧 ASR,但识别完成后送 LLM 润色再插入。适用于 iOS 识别效果不理想的场景。

跨进程管道(主 App ↔ 键盘扩展):

  • App Group group.com.osgkeyboard.shared —— UserDefaults 存放 Flow 会话状态、录音状态、音量、转写投递、绝大部分偏好。
  • 共享 Keychain 组 com.osgkeyboard.shared —— LLM API Key 由主 App「设置」写入,键盘扩展在每次 LLM 调用前读取。
  • Darwin 通知(CFNotificationCenter —— 轻量级"有变化"信号;具体负载仍走 App Group。

新增 LLM 提供商

打开 OSGKeyboardShared/Models/LLMProvider.swift,在 presets 数组里追加一条 LLMProvider 即可。默认的 OpenAICompatibleClient 处理任何实现了 POST /chat/completions 的端点。

LLMProvider(
    id: "groq",
    name: "Groq",
    defaultBaseURL: "https://api.groq.com/openai/v1",
    defaultModel: "llama-3.1-70b-versatile",
    apiKeyURL: URL(string: "https://console.groq.com/keys")
)

仅此而已,无需改动其他代码

如需设为新用户的默认值,还需同步调整 ProviderConfig 中的 defaultProviderId 常量。


已知限制

  • 仅支持 iOS 26+。 我们已移除 26 以下 SFSpeechRecognizer / AVAudioSession 的兼容分支,让 ASR 路径全部走 iOS 26 SpeechAnalyzer
  • 键盘扩展约 60 MB 内存上限(iOS 沙盒)。Flow 会话由主 App 承载,音频缓冲与 ASR 模型都在主 App 侧,不占用扩展内存。
  • 必须「允许完全访问」。否则键盘无法使用麦克风,也无法发起云端润色请求。
  • 密码框与部分 WKWebView 输入框不可用iOS 系统限制,无法绕过)。
  • 单次录音上限 3.5 分钟(210 秒)。到点自动停止并提交识别,下次可立即开始新的录音。
  • 杀掉主 App 后不复活旧会话。灵动岛会立即清理;下次回到主 App 时(权限齐全)自动开启新的语音会话。
  • 单次 utterance ASR 上限 3 分钟。超出后会拆成多个 chunk 拼接识别。
  • 不做端侧 LLM 润色。本地引擎仅做 ASR"AI 润色"始终走云端、可配置。v0.2.0 曾尝试引入端侧模型,v0.2.1 回滚以保持零 SPM 依赖。
  • URL Scheme osgkeyboard:// 任何 App 都可调用。OSGKeyboard 只把它用于"唤醒主 App / 续期 Flow 会话" 传递 API Key 等敏感信息。

开发指南

  • 构建 —— 见本文开头的 编译与运行 节。project.yml 变更后请重新执行 ./Scripts/generate-xcodeproj.sh
  • 测试 —— xcodebuild test -project OSGKeyboard.xcodeproj -scheme OSGKeyboard -destination 'platform=iOS Simulator,name=iPhone 17' 会同时跑 OSGKeyboardTestsOSGKeyboardExtTests 两个 target。
  • CI —— .github/workflows/ci.yml 在每次 push 到 0.1 / 0.2 分支及 PR 时跑 SwiftLint、Debug 干净构建和测试套件。
  • 日志 —— print 仅在 Debug 启用;Release 仅保留少量跨进程状态相关的 NSLog

项目状态


许可

OSGKeyboard 源码可见许可协议 —— 仅限个人学习与非商用本地使用;禁止商用、再分发及公开 fork。商业授权请联系 rocky.hk@gmail.com


致谢