使えますね
良かった点
・システムプロンプトなどを含めて細かく設定ができる
改善して欲しい点
・UIがかなり不親切
タイルからチャットを選んだらそのままチャット移行でいいです。モデルチェンジもチャット画面から行えば十分
履歴も他のアプリに合わせて左に配置して隠しておけばいいと思います
履歴の名前変更ができないのもイマイチ
今あるローカルLLMでは最適解ですが、UIはまだまだβテストレベルです
・システムプロンプトなどを含めて細かく設定ができる
改善して欲しい点
・UIがかなり不親切
タイルからチャットを選んだらそのままチャット移行でいいです。モデルチェンジもチャット画面から行えば十分
履歴も他のアプリに合わせて左に配置して隠しておけばいいと思います
履歴の名前変更ができないのもイマイチ
今あるローカルLLMでは最適解ですが、UIはまだまだβテストレベルです
Honestly a good idea from Google: Local AI
[TL;DR] Great app, but some bugs need to be addressed. Could use .safetensors model support as well.
I honestly think this app is genius. Let’s say that you’re out in the middle of nowhere and you need to see what type of food is safe to eat. You upload an image, and let the Gemma model do its thing. Or, when you’re back online, you can use the Agentic mode where it can access the internet (with custom plugins).
You might be wondering why this review it only 4 stars. The bad part: the app is super buggy on an iPhone 15. After a second prompt, the app freezes. Want to change the model’s settings? Nope; another crash. And the problem with this app is that you can only use their special litertlm format for the models (the reason why is that it manages the orchestration, kv cache, and memory mapping all in one). It would be great to see safetensors support.
Also the desktop app is bugged as well. It’s just the iPhone app but ported to Mac. So it’s just an iPhone simulator (basically). Just don’t use this on desktop; use ollama, lm studio, or vllm instead.
In conclusion, this app has great potential, but would need some improvements.
I honestly think this app is genius. Let’s say that you’re out in the middle of nowhere and you need to see what type of food is safe to eat. You upload an image, and let the Gemma model do its thing. Or, when you’re back online, you can use the Agentic mode where it can access the internet (with custom plugins).
You might be wondering why this review it only 4 stars. The bad part: the app is super buggy on an iPhone 15. After a second prompt, the app freezes. Want to change the model’s settings? Nope; another crash. And the problem with this app is that you can only use their special litertlm format for the models (the reason why is that it manages the orchestration, kv cache, and memory mapping all in one). It would be great to see safetensors support.
Also the desktop app is bugged as well. It’s just the iPhone app but ported to Mac. So it’s just an iPhone simulator (basically). Just don’t use this on desktop; use ollama, lm studio, or vllm instead.
In conclusion, this app has great potential, but would need some improvements.
Show more
Love the App !
Make search skill and sometimes is crashing
今後の進化に期待(Gemma4 E4Bまでは動作)
iPhone Airで動作確認しました。
Hugging FaceからDLしたGemma4 12Bを手動インストールしましたが、動作はかなり重たく3〜4回のやり取りで爆熱になりました。
アプリ内からDLできるGemma4のE4Bであれば快適に動きますが、精度は大幅に下がりますね。
簡単なチャットなら最低限使えますが、複雑な資料の要約などに使えるようになるにはもう少し進化が必要でしょう。
Hugging FaceからDLしたGemma4 12Bを手動インストールしましたが、動作はかなり重たく3〜4回のやり取りで爆熱になりました。
アプリ内からDLできるGemma4のE4Bであれば快適に動きますが、精度は大幅に下がりますね。
簡単なチャットなら最低限使えますが、複雑な資料の要約などに使えるようになるにはもう少し進化が必要でしょう。
Missing MacOS Support
MacOS app needs to be downloaded from the webpage. It would be great to have it in the MacOS App Store as well.
