GPU 加速正常不会在本机上跑，远程开发系统反倒是不重要了。
macOS 主要是不折腾，大部分技术的 Quick Start 里 macOS 的配置都是较为简洁的，能节省时间就够了。
wsl2 也不是没用过，但是还是有各种各样的内核问题最后放弃了，
用了一年多 M1 ，遇到的障碍其实也就 Java Docker 编译，其他没啥感觉。

对于一台能用几年的生产力工具，再溢价也就几千，省时间比较关键。

可以试试 volta

电费好低，我 222 kwh 扣了 9000+

@zdt3476 模型越大执行越慢

在模型不公开的情况下是无法喂数据的，官方提供 fine-tuning 服务但那是限定几个模型
现在玩的再花终究是前端上的 prompt engineering

应该不同的，我记得官方给的是 GPT2 的 Fast Tokenize 实现

和 7 楼一样, 我以前最类似功能时候也是发现无法在超时情况下直接终结指定 goroutine ，只能分割逻辑到多个 goroutine ，检查上下文是否被 Cancel ，尽量去降低超时后执行的成本。但这样带来的是 goroutine 的一点额外开销，所以如果处理速度很快的任务我觉得不需要这么搞。
不知道有没有 cgo 相关的手段能改善这个问题。

如果只是接触过相关技术, 那这两年所有的自然语言处理和视觉相关的研究方向毕业的研究生都能在这类工作里搬砖.
但大型模型最缺的知识其实是如何稳定训练模型和快速决策调优方向, 这块目前没钱还真没法练手, 有这技术的大部分公司也是藏着掖着不会分享的.

只能说你的这些应届朋友太强了

没必要, 除非天天都在东京核心区域, 5G 不比 4G 快多少, 运营商宣传的地图要看那个颜色最深的部分.

OpenAI API 其实有 Fine-tuning 服务, 只是目前不对 GPT 模型开放罢了.

本来想过针对 Token 试试, 但感觉新的几个 GPT 模型和他提供的 API 也不是一致的, 官网提供的 Token 工具貌似是基于 GPT2 做的. 所以个人感觉 OpenAI 不公布模型原参数的情况下, few-shot 目前阶段是完全做不了的, 要么自研要么等. 提示词的影响终究只有那几千个 Token, GPT4 还没用过, 好像可以多点.

其实也有一年没怎么碰机器学习了, 最近又开始看相关论文学习学习. 数据收集和数据质量是一方面, 目前 OpenAI 和大部队拉开差距的主要是他们能够用很小规模的模型去预测大规模模型训练收敛的情况, 大部分 AI 民工就算能找到数据, 能写出模型, 拉得到算力投资, 可 Loss 估计一训练就飞出太阳系了. 稳定训练是个技术活, 之前不是搞大模型方向的估计够呛.

做了一年的 Copilot 代码审核员, 以下是一些心得

1. Copilot 要用得好, 要把函数拆的很散, 不要给一个函数过多的逻辑.
2. 函数的参数和参数名都是很大的影响, 不要省单词基本上能出的很快.
3. 对于复杂的数据结构, 直接搞一个 sample 数据, 注释好放在文件头部, 在后续函数内部逻辑生成时能自动参阅准确度大大提升.
4. 可以尝试写点伪代码或者 Python 注释掉, 让 Copliot 给你直接生成 C++. (做项目整体移植的时候速度直接起飞!)
5. 尝试给一点简单例子. 比如 -- xxx.yaml -> xxx 他就知道要去掉尾部的拓展名了.

其实这就是一种 prompt engineering 了, 其实还是得去理解如何让模型更加容易感知到你的上下文和核心需求.
不能说全场景都能很智能, 但是如果一直出不了你自己想要的答案那肯定提升空间还是很大的.

goland 自带管理的, 我现在都直接直接用 goland 下载旧版本, 新版本用 brew 保持更新

反过来要是有个律师找程序员做私活, 大部分程序员可不会像在论坛里这么热心的免费服务, 不敲一笔就算不错了.

很好奇这种讨论群真的有人会聊算法模型相关的东西吗

前几年 GPT-3 明明泛化能力也不错, 也就火了一小下.

我 5 月份阳的, 咳嗽 1 个月多点好的, 7 月有个同事阳性, 咳嗽了 3 个月出头才好.

作为熟练的 Copilot 代码审查员, 我觉得注释写的漂亮标准一点非常的重要.

对于外国人来说, 传统日企比起技术, 更在乎你的日语. 国际化的企业英语好优势巨大.
在日本 9 年, 如果你铁了心做游戏行业, 建议别来日本. 我自己校招时候差点就进游戏行业了, 想想都后怕.
在日本做游戏天天加班不说, 拿的还少, 整个日本游戏业界都在压榨员工. 也就 gamefreak 出了名的钱多事少.
建议不要让自己困在游戏的技术栈里, 多扩展扩展.