V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  Leon6868  ›  全部回复第 6 页 / 共 21 页
回复总数  420
1 ... 2  3  4  5  6  7  8  9  10  11 ... 21  
2024-12-02 21:49:14 +08:00
回复了 fid 创建的主题 Local LLM 8x4090 离线部署 Qwen2.5 求助
8x4090 跑 ollama ,不如借给我用()(感兴趣可以联系 cXRiYm9zajVzQG1vem1haWwuY29t ,我可以帮你配置环境)

我个人的推荐是 lmdeploy + Qwen2.5 72B awq int8 ,响应速度很快,支持多卡,在 4xV100 上实跑 72B gptq int4 比 vllm 好用
2024-11-21 16:21:33 +08:00
回复了 Leon6868 创建的主题 程序员 现代化 SSH 客户端求推荐
@cluefly #138 Windterm 似乎不能传递鼠标点击事件
几乎不可能小于 10mb ,你可以试试 Nuitka 但是我觉得应该帮助不大

Python 写 GUI 就是为了方便嘛,大小肯定不占优势的
2024-11-20 14:20:01 +08:00
回复了 NianBroken 创建的主题 程序员 有没有上下文输出长一点的 AI 大模型推荐?
智谱的 LongWrite 可以看看
2024-11-13 20:34:09 +08:00
回复了 crc8 创建的主题 Python 为什么 Python 会有那么多人喜欢用?
@crc8 #6 你确定这不是 PIP 吗?
2024-11-11 15:24:00 +08:00
回复了 zhouhuab 创建的主题 程序员 反向代理后的端口数量限制
@ShuA1 #1

@Livid LLM 回复
@Leon6868 #8 其实 4o 的延迟也不低,而且主要在于 VAD 、模型推理上
我最近正好也在做这个,经过大量选型后我认为最方便的还是 ws+mp3 切片,至少语音延迟在传输上能达到 110ms 的延迟。

感兴趣的话欢迎深入交流,我的邮箱是 cXRiYm9zajVzQG1vem1haWwuY29t
2024-11-10 17:42:58 +08:00
回复了 zuotun 创建的主题 Pixel 大家都是怎么管理国内应用的?
Shizuku + 雹 ,使用雹的“添加到主屏幕”选项,再把“全部冻结”放在顺手处就行
2024-11-04 20:39:35 +08:00
回复了 Gabrielle70 创建的主题 程序员 请问: 如何方便地部署 react 前端 APP 到安卓手机?
codova 应该是最方便的了,调试打包都一条龙
2024-11-04 14:46:47 +08:00
回复了 Leon6868 创建的主题 React 如何将 React Native 打包成 Win32 而不是 Windows APP
@dcsuibian #3 希望做到真正的跨平台
2024-11-03 22:21:27 +08:00
回复了 Leon6868 创建的主题 React 如何将 React Native 打包成 Win32 而不是 Windows APP
@ysc3839 #1 默认就是 Windows APP
@molvqingtai #31 就是说现在无法做到真正的去中心化吗?
@molvqingtai #29 请问为什么抛弃 trystero 呢?
发现 Github README 中 trystero 被划掉了,请问现在用的是什么 P2P 方案呢?
2024-11-01 21:30:20 +08:00
回复了 daishuge 创建的主题 程序员 高一给社团搞的网站,请问有没有什么可以改进的?
作为原生 JS 练手很不错,如果以后要加入网站后端之类的,建议学习框架,比如 Remix 之类的,可以大幅度减少你的时间成本
2024-11-01 02:58:28 +08:00
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@lsearsea #5 v100 四卡
@magicZ #10 我用 4 卡 v100 ,lmdeploy
1 ... 2  3  4  5  6  7  8  9  10  11 ... 21  
关于   ·   帮助文档   ·   自助推广系统   ·   博客   ·   API   ·   FAQ   ·   Solana   ·   956 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 31ms · UTC 20:44 · PVG 04:44 · LAX 12:44 · JFK 15:44
♥ Do have faith in what you're doing.