Отличное приложение для запуска локальных LLM
По мне это лучшее из того, что попадалось для запуска локальных LLM. Первые версии крэшились на моем IPhone 17 pro max, но сейчас работает стабильно и транскрибация и текстовые запросы и даже генерация картинок. Интересно было бы добавить голосовой чат и приложение CarPlay, ну и какую нибудь локальную базу знаний ,чтобы решать специфичные задачи в условиях отсутствия интернета
Show more
Отлично но…
Добавьте Gemma 4 E2B для устройств с 6gb ram
Response from developer
Скачайте обновление, вышла поддержка 14 моделей
Очень удобно
Пока это лучшее что я нашёл. Спасибо.
Не получается работать на iPhone 17 pro max .
Что-то пошло не так: MLX Error: [load_safetensors] Invalid json header length file /private/var/mobile/Containers/Data/Application/BF777B31-6424-4DB7-B113-B518FA8A508F/Library/Caches/models/mlx-community/Qwen3.5-4B-MLX-4bit/model.safetensors at /Users/alexanderkryukov/Library/Developer/Xcode/DerivedData/onLM-dqieinjttiyxsgfnbalepjyjawuu/SourcePackages/checkouts/mlx-swift/Source/Cmlx/mlx-c/mlx/c/io.cpp:64
Show more
Response from developer
Спасибо за фидбек. Скачайте пожалуйста обновление и перекачайте модель
Вылетает
При запросе оффлайн к квэн 3 приложение крашится на вопросе как пожарить шашлыки
Response from developer
Спасибо за отзыв! Проблема с вылетами уже исправлена — обновите приложение до последней версии. Если после обновления что-то всё ещё не работает, напишите — разберёмся. Приносим извинения за неудобства!
Constantly crashes on iPhone 17 Pro and latest iOS!
Buggy app. Constantly crashes on iPhone 17 Pro with basic text prompts on any LLM model shown as supported. Fix it please!
Response from developer
Thanks for the feedback! This issue has been fixed — please update to the latest version. If you still experience any crashes after updating, let me know and I'll look into it. Apologies for the inconvenience!