OpenAI 通过无监督学习提升语言理解能力

OpenAI 宣布推出一套可扩展且与任务无关的语言理解系统并予以发布，在多样化的语言任务上取得了 SOTA 成绩。该方法将 Transformer 架构与无监督预训练相结合，展示了监督学习与无监督预训练结合的潜力，并期望推动在更大规模和更多样化数据集上的深入研究。