vpsvps 最近的时间轴更新
vpsvps

vpsvps

V2EX 第 398787 号会员,加入于 2019-04-05 10:32:03 +08:00
今日活跃度排名 3922
根据 vpsvps 的设置,主题列表被隐藏
二手交易 相关的信息,包括已关闭的交易,不会被隐藏
vpsvps 最近回复了
13 小时 20 分钟前
回复了 tog 创建的主题 游戏 看到有人问游戏,正好说下自己心中玩的网游排名
魔兽世界
https://www.bilibili.com/video/BV19b4y1p717

很多人不信 oled 会造成眼睛散光
可以看看这个视频里收集了很多用户反馈
se4 也是 oled 瞎眼屏
真是服了
我也发现京东上很多非自营的假店铺,特别是百亿补贴里面的
18 天前
回复了 snowkylin 创建的主题 分享发现 本地部署 DeepSeek-R1 671B 千亿大模型流程
@uncat 谢谢 我试试
18 天前
回复了 snowkylin 创建的主题 分享发现 本地部署 DeepSeek-R1 671B 千亿大模型流程
@uncat 谢谢回复,是直接 ollama run deepseek-r1:671b 这个就行吗?这个简单些。huginnface 上的版本还得合并,比较麻烦,您说的是指用 unsloth/DeepSeek-R1-GGUF 这个模型文件吗
18 天前
回复了 snowkylin 创建的主题 分享发现 本地部署 DeepSeek-R1 671B 千亿大模型流程
@snowkylin #6 👍,这种方式是不是不能直接使用 ollama run deepseek-r1:671b 从 ollama 上下载,404G 的,而需要在 huginnface 上下载?

Download the model files (.gguf) from HuggingFace (better with a downloader, I use XDM), then merge the seperated files into one
18 天前
回复了 snowkylin 创建的主题 分享发现 本地部署 DeepSeek-R1 671B 千亿大模型流程
@snowkylin #4 谢谢回复,用 ollama 就可以吧,显存用完就会调用内存,
比如 我的服务器有 8 块 4090 ,内存 640G ,能跑得动 671b 404GB 这个,就是速度慢点是吧?
18 天前
回复了 snowkylin 创建的主题 分享发现 本地部署 DeepSeek-R1 671B 千亿大模型流程
请问 1.73-bit 量化版( 158GB 大小的模型)
一个 4090 24G 加上 160G 内存
可以跑起来吗?
不是需要 7 块 4090 吗?
27 天前
回复了 Czzzzzzzzzzr 创建的主题 买买买 今年买的最值的电子产品是什么
Mac mini m4
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   1041 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 14ms · UTC 22:38 · PVG 06:38 · LAX 14:38 · JFK 17:38
Developed with CodeLauncher
♥ Do have faith in what you're doing.