V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
V2EX  ›  coefuqin  ›  全部回复第 1 页 / 共 7 页
回复总数  133
1  2  3  4  5  6  7  
3 小时 47 分钟前
回复了 libasten 创建的主题 Local LLM 100 多号人的企业,想自己部署 deepseek,硬件要哪些?
电费都够你们成本喝一壶了。
或者你把嵌入模型 改成 granite3.2-vision ,然后看看情况。
anythingllm 原生的嵌入模型 all-MiniLM-L6-v2 不是多模态的,并且也没有提到 vision 模型的集成,ds 的 671b 是 moe 专家模型,里面有原生 vision 处理的能力。
4 小时 27 分钟前
回复了 xubingok 创建的主题 Local LLM 打算用 AI 来做企业知识库,最佳的组合是什么?
qwq 32B int 4 + bge-m3 ,并发不大的话 32G vram 够够的。不过得分卡跑。
11 小时 34 分钟前
回复了 skytenlc 创建的主题 问与答 英文 pdf 翻译。
@skytenlc 直接就在翻译出来的中文文档里编辑就 ok 啊。
1 天前
回复了 azev 创建的主题 问与答 大家用哪家大模型的 api?
本地部署 qwq 32b fp16 强的一笔。
1 天前
回复了 skytenlc 创建的主题 问与答 英文 pdf 翻译。
@skytenlc 沉浸式翻译 可以编辑翻译出来的中文的。
按照你的思路,都是 agent 可以做到的,等你自己开发一个出来了。
1 ,肯定是搜,这个技术并不难。等我过几天写一篇详细的博客,纵观全网都没有把这个问题详细系统的讲一下的。
2 ,但是用的搜索引擎可能不同,就算是同一个关键字(有些提示工程做的好,只有本地知识库没有的才去搜,但是搜的关键字都是 llm 自己提供的,每个 llm 每次可能会丢出不同的关键字),用并发去多个搜索引擎跑 2 次,2 次的 top10 结果可能都不同。这个你可以理解哈?往往为了节省资源可能都是并发跑一次,然后聚合一下,至于聚合多少 url ,这个要看各自的 config 。
3 ,快是必须的,能套壳 ds 的厂家的资源解决 search/crawl/embedding 这种简单套路还不是手到擒来,要是搞的慢才丢人。
4 ,和这个无关。
把所有钱都去高档会所花掉。
这都是小问题,最大的问题是回款。
1 天前
回复了 liangkang1436 创建的主题 酷工作 [凉经] 希音存储岗位面试复盘
这些问题讲真用来面试,只能说面试的人水平确实不行,因为很多问题都是需要时间慢慢磨的。高明的面试只需要一个问题,不断的盘对于问题的认知和解决思路。解决问题的思路比具体问题更有价值。
这么惨的吗,这样闪亮的履历还要来 v 站找工作。。。。。。
6 天前
回复了 Phycheez 创建的主题 职场话题 电影行业转/结合 AI 有什么建议?
你看出我头像是出自哪部电影了没?
6 天前
回复了 Phycheez 创建的主题 职场话题 电影行业转/结合 AI 有什么建议?
@Phycheez 电影是光电的艺术,以目前的视频生成技术当然拉胯了,不过这才是你的机会啊。优秀的视频生成模型迟早会出现的,这是最擅长的 100 到 10000 的过程。但是对于垂直领域,需要一些在这个领域里有理解和认知的从业人员来做提示工程(调教)。比如各种经典镜头(升格,打破次面壁...)的技术,可能是在模型预训练阶段无法学会的,那么就得在后训练阶段或者提示工程来实现。这就是你的机会。
6 天前
回复了 Phycheez 创建的主题 职场话题 电影行业转/结合 AI 有什么建议?
这边的建议是干就完了。
摆摊卖炒饭炒粉都比这个实际,当然你要是有点存款,可以考虑找个人流量可以的小区开小超市。我今年 37 ,十几年经验( web 前后端,云计算,ML ),技术实力可以说是常规意义里大家口中的大佬(上市公司,国企,小作坊都待过),没卵用的,失业的第 3 年,boss 上几千的沟通,依然搞不到 offer 。坐吃山空+啃老的第三年。
最直接的还是 langchain 底层搞 search engine 。
1  2  3  4  5  6  7  
关于   ·   帮助文档   ·   博客   ·   API   ·   FAQ   ·   实用小工具   ·   3144 人在线   最高记录 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 31ms · UTC 13:13 · PVG 21:13 · LAX 06:13 · JFK 09:13
Developed with CodeLauncher
♥ Do have faith in what you're doing.