lyang 最近的时间轴更新 lyang 最近的时间轴更新 |
lyangV2EX 第 437626 号会员，加入于 2019-08-23 15:26:53 +08:00 |
lyang 最近回复了
352 天前 回复了 rookie2luochao 创建的主题 › 程序员 › 开源的 API 工具上了阮一峰老师的 weekly 推荐，也没有获得几个 star |
@rookie2luochao 有博客和公众号的，直接搜就能搜到
352 天前 回复了 rookie2luochao 创建的主题 › 程序员 › 开源的 API 工具上了阮一峰老师的 weekly 推荐，也没有获得几个 star |
@huangliu 我之前还以为漏看了，今天看到也跑回来找这个帖子
2024-01-08 08:50:32 +08:00 回复了 askfermi 创建的主题 › 分享创造 › 去中心化的大模型 LLM 服务 |
不太懂去中心化 正确性是否可以多收集几个返回，一致就正确
2023-07-27 10:18:41 +08:00 回复了 nativeBoy 创建的主题 › 程序员 › 想买个 mini 主机在公司里编程，可行吗 |
这方面硬性要求挺难受，我一般选择两台电脑
2023-07-19 12:31:05 +08:00 回复了 lyang 创建的主题 › 程序员 › 大语言模型能单卡多用户访问吗 |
2023-07-17 17:07:35 +08:00 回复了 lyang 创建的主题 › 程序员 › 大语言模型能单卡多用户访问吗 |
@zooo 没有什么特定模型，就是大语言那些
2023-07-17 17:05:28 +08:00 回复了 lyang 创建的主题 › 程序员 › 大语言模型能单卡多用户访问吗 |
@thorneLiu chatglm 这个，我看模型就一个 model ，没有多个实例，https://github.com/THUDM/ChatGLM-6B/blob/main/web_demo.py ，https://huggingface.co/THUDM/chatglm-6b/blob/main/modeling_chatglm.py ，但这个 stream_chat 听别人可以同时回答，这个是并发的吗
2023-07-17 09:04:59 +08:00 回复了 lyang 创建的主题 › 程序员 › 大语言模型能单卡多用户访问吗 |
@lingyidxx 多线程调用接口吗，但后端应该还是一个个排队回答的吧
2023-05-26 15:04:31 +08:00 回复了 lyang 创建的主题 › 程序员 › pytorch 模型怎么获取应该输入的形状 |
2023-05-26 14:15:17 +08:00 回复了 lyang 创建的主题 › 程序员 › pytorch 模型怎么获取应该输入的形状 |
Select Language