AWS Machine Learning· Mijanur Palash·· 4 小时前AI 评分46
在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理
Fine-tuning GPT-OSS-20B for multilingual reasoning on Amazon SageMaker HyperPod
AI 导读
AWS 展示了在 Amazon SageMaker HyperPod 上微调开源权重模型 GPT-OSS-20B 实现多语言推理的方法。针对基座模型在 50 例多语言测试中仅 22% 遵循目标语言推理的问题,团队结合 LoRA、SFT 与 GRPO 强化学习进行了适配优化。实践表明 SFT 负责赋予模型原本缺失的行为,GRPO 则在具备产出概率时进一步提升效果。
来源:AWS Machine Learning · aws.amazon.com