Gemma4 + LiteRT-LM 真得有点的东西, e2b 内存仅 2G 左右占用, 在 天玑 的安卓机上跑的飞快.
dacapoday · 12 小时 6 分钟前 · 427 次点击安卓用这个: https://github.com/google-ai-edge/gallery
另外在 m2 mac 上直接跑 cli https://github.com/google-ai-edge/LiteRT-LM
这种性能已经完全可以离线运行 酒馆 小手机 之类的私密场景.
 |
1
ahdw 8 小时 44 分钟前 via iPhone
酒馆、小手机 是什么东西
|
 |
2
James369 7 小时 36 分钟前
模型能联网搜索吗？
|
 |
3
gotoschool 7 小时 35 分钟前
@James369 你得给它 tools 吧
|
Select Language