Local LLM runner vs GZ Whisper

Run LLM on your iPhone, 100% local, no network (Network needed once to download a model) Models: • Qwen2.5 0.5B Instruct — ~0.4 GB (4 GB RAM) • Llama 3.2 1B Instruct — ~0.8 GB (4 GB RAM) • Qwen2.5 1.5B Instruct — ~0.9 GB (4 GB RAM) • Llama 3.2 3B Instruct — ~1.9 GB (6 GB RAM) • Qwen3 4B Instruct 2507 — ~2.5 GB (6 GB RAM) • Qwen2.5 7B Instruct — ~4.4 GB (8 GB RAM) Also: • Add your own GGUF (for example, from Hugging Face) • Auto-estimated max context from GPU memory; you can change it Requires iOS 18 or later. Tested on iPhone 11, 14 Pro, 15 Pro with iOS 26. Qwen models © Alibaba Cloud. Licensed under Apache License 2.0. Llama 3.2 is licensed under the Llama 3.2 Community License, Copyright © Meta Platforms, Inc. All Rights Reserved. Built with Llama. On-device inference uses llama.cpp (MIT License).

GZ Whisper — приложение для записи, локальной расшифровки и работы с текстом на iPhone и Apple Watch. Возможности: • записывайте голос, ставьте паузу и добавляйте метки; • получайте текст во время записи в Live: Whisper Small (≈460 МБ) или GigaAM (≈320 МБ) для русского, казахского, кыргызского и узбекского; • выбирайте модель для готовых записей и импортируйте аудио или видео; • пробуйте экспериментальные модели для казахской и азербайджанской речи; • определяйте говорящих, задавайте имена, исправляйте реплики и объединяйте спикеров прямо в транскрипте; • ищите слова с подсветкой и переходом между совпадениями; • слушайте записи с перемоткой и сменой скорости; • создавайте краткие конспекты и обсуждайте текст с необязательным локальным AI-помощником; • работайте с фотографиями и распознавайте текст через Qwen и Apple Vision; • сохраняйте записи в коллекции, редактируйте текст и возвращайтесь к его версиям; • переводите через системные возможности Apple; • экспортируйте аудио и текст в TXT, JSON, SRT и VTT. Apple Watch: Записывайте звук микрофоном часов с паузой и метками. Сохранённая запись передаётся на сопряжённый iPhone для распознавания; часы получают статус и фрагмент текста. Слушайте сохранённое аудио на часах со сменой скорости и перемоткой на 15 секунд. Доступный выход звука зависит от watchOS и модели часов; могут понадобиться Bluetooth-наушники. Добавьте кнопку открытия диктофона на циферблат или в Smart Stack, открывайте его через Siri и «Команды», затем начинайте запись нажатием. С iPhone можно явно сохранить до 8 избранных снимков текста и выжимок для чтения на часах без телефона. При отсутствии связи передача ожидает подключения. На iOS 27 и новее: • в настройках можно включить экспериментальную запись встреч через системный выбор содержимого экрана; по умолчанию она выключена; • создавайте конспект через Apple Intelligence на устройстве, если доступны устройство, системная модель и язык текста; • передавайте полный транскрипт с промптом выбранному AI-приложению или своей команде iOS после просмотра и отдельного разрешения. Обработка у получателя определяется его правилами. Запись встреч сохраняет весь выбранный экран, включая уведомления. Получите согласие участников и право сохранять содержимое. Звук сторонних приложений и звонков может отсутствовать или прерываться; надёжная запись звонков не поддерживается. Экспериментальные действия скрыты на более ранних iOS. Конфиденциальность: Аудио, транскрипции, чаты и выбранные фотографии хранятся и обрабатываются на устройстве. Разработчик не получает доступ к вашей библиотеке. Интернет нужен для загрузки выбранных моделей, системных языковых пакетов и отправки добровольной статистики. На iPhone, Apple Watch и Mac статистика включается независимо после подтверждения уведомления. Она предложена включённой, но до подтверждения не собирается и не отправляется; прежний отказ сохраняется. Передаются ограниченные счётчики функций, категории моделей и ошибок, результаты и диапазоны длительности, платформа и версия. Случайный код меняется каждый день и не связывает разные дни или устройства. Аудио, тексты, фотографии, чаты и имена файлов в статистику не отправляются. Её можно отключить в настройках; неотправленная очередь и ежедневный код удаляются. Модели загружаются отдельно; доступность зависит от ресурсов устройства. Фоновая обработка зависит от разрешённого системой времени. Локальные AI-модели могут ошибаться: проверяйте важные факты по исходной записи.