babyedi31996

babyedi31996

V2EX 第 613998 号会员,加入于 2023-02-14 01:00:52 +08:00
babyedi31996 最近回复了
16 天前
回复了 mazz 创建的主题 NAS 各位爹,企业级 200TB 左右 NAS 求推荐
要稳和单纯存储,群晖是最好的没有之一了.
我的 418PLAY 刚出就买了,到现在都很稳.
如果有其他需求,直接 PVE 按按需安装吧,也有 Raid5
20 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@supemaomao 在阿 B 搜酒馆就有了
20 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@supemaomao 没,跟视频教程一步一步很简单。最麻烦就是弄 cuda
21 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@Hookery 好多佬友都推荐 qwen,这个模型效果好?
21 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@guiyun 7b 效果如何?
21 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@WuDiHaiTai 4090 也才 24G 阿,最多就是玩下 20b 了
21 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@NGGTI api 是不贵,但是审查和隐私问题阿
21 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@LaTero 感谢你的经验分享,"如果我写的东西都不会被封,你也不需要担心……而速度快( command r+ 60 token/s )选项多是实打实的。"我懂这句的含金量了.哈哈
21 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@shuimugan 官翻+员工优惠在哪里可以买到?
21 天前
回复了 babyedi31996 创建的主题 程序员 本地部署大语言模型哪家强?
@yshtcn 是可以的,我看林亦在 b 站的视频,他是用 120G 统一内存的 Mac Studio 跑 120b 量化模型.好像也有 4-5t/s 没记错的话.
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   5137 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 15ms · UTC 09:23 · PVG 17:23 · LAX 01:23 · JFK 04:23
Developed with CodeLauncher
♥ Do have faith in what you're doing.