武汉大学cpt有哪些

星星讲知识 · 2024-12-27 16:03:51

武汉大学开发了一个名为CheeseChat的ChatGPT模型,它基于国家网络安全学院数据智能实验室李晨亮老师团队的Cheese预训练语言大模型。这个模型以中文Alpaca-7B基础模型为底座,拥有70亿参数。在训练过程中,它使用了80G的文本数据,进行Token预测训练,这些数据包括百度百科、武汉大学相关语料信息以及社交媒体语料。此外,CheeseChat还在一百万条指令数据集上进行了全量参数的指令微调。

如果您需要了解更多关于CheeseChat或其他武汉大学相关的信息,请随时告诉我

相关推荐

(c)2008-2025 广知网 All Rights Reserved 鄂ICP备2023002720号-19