中文预训练模型研究进展

  文中对中文预训练模型的相关研究成果进行了较为全面的回顾，首先介绍预训练模型的基本概况及其发展历史，对中文预训练模型主要使用的两种经典模型Transformer和BERT进行了梳理，然后根据不同模型所属类别提出了中文预训练模型的分类方法，并总结了中文领域的不同评测基准，最后对中文预训练模型未来的发展趋势进行了展望。中文预训练模型研究进展_up.pdf: https://url39.ctfile.com/f/2501739-808093762-e95329?p=2096 (访问密码: 2096)

参考文献：
[1]中文预训练模型研究进展_up.pdf: https://url39.ctfile.com/f/2501739-808093762-e95329?p=2096 (访问密码: 2096)中文预训练模型研究进展_up.pdf: https://url39.ctfile.com/f/2501739-808093762-e95329?p=2096 (访问密码: 2096)