预训练工程师是什么
预训练(Pre-training)指用海量通用语料从头训练出一个大模型的基座,也就是还没经过指令微调、只学会「预测下一个词」的那个阶段。预训练工程师就是负责这件事的人。
这是整条大模型链路里门槛最高、岗位数量最少的位置。原因很直接:一次预训练动辄需要成百上千张高端计算卡连续跑数周,只有少数公司和研究机构具备这个条件。相应地,这个岗位的招聘要求普遍写到硕士博士,且看重相关论文或实际训练经验。
它和后面几个环节的分工要分清:预训练造基座;微调(SFT)教模型听指令;对齐(RLHF 等)调整模型的偏好与安全边界;再往后才是 RAG、Agent 这些应用层。求职时看到「大模型算法工程师」这类宽泛标题,务必问清楚具体在哪一段——四段的日常工作、所需背景和团队规模差别极大。