Что работает локально
На Mac с Apple silicon приложение может скачать две модели и запускать их на компьютере: Whisper Large v3 Turbo для расшифровки и Qwen 3 8B для ответов. После загрузки они работают на самом Mac — для сеансов, звук которых не должен покидать комнату.
Выбор между облачной обработкой и локальными моделями делается под каждую задачу. Еженедельный стендап и консультация с адвокатом не требуют одинакового подхода, и выбирать что-то одно для всего не нужно.
Что куда уходит в каждом режиме
Слово «приватно» часто используют расплывчато, поэтому стоит быть точным.
- Облачный сеанс: звук с микрофона — а на Mac по желанию ещё системный звук и захваченный экран — передаётся в Realtime API OpenAI, чтобы получить расшифровку и ответы. Вложения отправляются как контекст.
- Локальный сеанс на Mac: скачанные модели обрабатывают звук и текст на компьютере.
- В обоих случаях расшифровки, ответы, сеансы, задачи и заметки хранятся на устройстве, без синхронизации с облаком.
- Бэкенд приложения хранит аккаунты, покупки, баланс кредитов и записи об использовании. Он не получает и не хранит звук, расшифровки, ответы или вложения.
Компромиссы, честно
Модель, которая помещается на ноутбук, меньше той, что работает в дата-центре. Ответов модели на восемь миллиардов параметров хватает для многого — вычленить решения, объяснить термин, набросать письмо по итогам, — но в широких знаниях и длинных рассуждениях она заметно уступает большой облачной модели.
Загрузка весит несколько гигабайт, а во время работы модели действительно расходуют память и вычислительную мощность. На свежем Mac с Apple silicon это нормально; на старом — медленнее. Поэтому это и функция Mac: у телефона нет такого запаса.
На iPhone и iPad
Большие локальные модели есть только на Mac. На iPhone и iPad расшифровку всё равно может делать распознавание речи Apple на устройстве вместо моделей OpenAI. Ответы при этом по-прежнему приходят от облачной модели: расшифровка ваших слов происходит на телефоне, помощь — нет.
Приватность касается и людей в комнате
Звук, оставленный на компьютере, защищён от третьих лиц. Но это не меняет того, что вы фиксируете слова других людей. Они вправе об этом знать, а во многих местах этого требует и закон — руководство о записи и расшифровке других людей объясняет, что сказать.
Задают достаточно часто, чтобы записать.
На каких Mac работают локальные модели?
На Mac с Apple silicon. Модели скачиваются один раз и работают на компьютере; на более новых Mac — быстрее.
Работают ли локальные модели на iPhone?
Нет. На iPhone и iPad расшифровку может делать распознавание речи Apple на устройстве, но локальная модель для ответов есть только на Mac.
Видят ли серверы приложения мои расшифровки?
Нет. Бэкенд обрабатывает аккаунты, покупки и кредиты; расшифровки и ответы хранятся на вашем устройстве.
Читать дальше
Расшифровка встречи в реальном времени: iPhone, iPad и Mac
Расшифровка встречи в реальном времени: текст появляется, пока идёт разговор. Почему это полезнее записи и как начать сеанс на iPhone, iPad и Mac.
Read session guide →
Можно ли записывать разговор: согласие собеседников и закон
Можно ли записывать разговор, зависит от места: почему расшифровка — тоже запись и как спросить согласия одной фразой. Не юридическая консультация.
Read session guide →