# Awesome Pretrained Chinese NLP Models[](https://awesome.re)

在自然语言处理领域中,预训练语言模型(Pretrained Language Models)已成为非常重要的基础技术,本仓库主要收集目前网上公开的一些高质量中文预训练模型、中文多模态模型、中文大语言模型等内容(感谢分享资源的大佬),并将持续更新......
> 国内下载HuggingFace仓库模型推荐使用HuggingFace镜像地址:
## 📑 目录导航
***
## 📚 模型分类索引
### 🤖 大模型系列
| 分类 | 说明 | 链接 |
| :------- | :------------- | :------------------------ |
| 通用基础大模型 | 参数 >7B 的基础语言模型 | [查看](#Base-LLM) |
| 垂直基础大模型 | 金融、医疗、法律等垂直领域 | [查看](#Domain-Base-LLM) |
| 通用对话大模型 | 对话式通用语言模型 | [查看](#chatllm) |
| 垂直对话大模型 | 垂直领域对话模型 | [查看](#domain-chatllm) |
| 多模态对话大模型 | 图文等多模态模型 | [查看](#multimodal-chatllm) |
| 推理类大模型 | 数学、逻辑推理模型 | [查看](#reasoningllm) |
### 🔧 预训练模型系列
| 系列 | 代表模型 | 链接 |
| :------------ | :-------------------------------------------------- | :------------------------ |
| **NLU系列** | BERT · RoBERTa · ALBERT · ERNIE · MacBERT · ELECTRA | [查看全部 29 个](docs/nlu-models.md) |
| **NLG系列** | GPT · GPT-3 · T5 · BART · CPM · RWKV | [查看全部 18 个](docs/nlg-models.md) |
| **NLU-NLG系列** | UniLM · GLM · CPT · SimBERT | [查看全部 9 个](docs/nlu-nlg-models.md) |
| **多模态系列** | WenLan · CogView · Chinese-CLIP · OFA | [查看全部 13 个](docs/multimodal-models.md) |
### 📦 资源与工具
[📊 大模型评估基准](#大模型评估基准) · [📦 开源模型库平台](#开源模型库平台) · [📚 开源数据集库](#开源数据集库) · [📝 中文指令数据集](docs/chinese-instruct-datasets.md) · [🎯 Embedding](#Embedding) · [🔗 Other-Awesome](docs/other-awesome.md)
***
**📌 备注说明**
> **ND:** Non-Causal Decoder (非因果解码器) | **CD:** Causal Decoder (因果解码器) | **ED:** Encoder-Decoder (编码器-解码器)
***
## Base-LLM
> 大规模基础模型:表格中只罗列出参数量`大于7B`以上模型。[查看完整列表 →](docs/base-llm.md)
| 模型 | 大小 | 时间 | 语言 | 架构 | 下载 | 项目 | 机构 | 备注 |
| :--- | :--- | :--- | :--- | :--- | :--- | :--- | :--- | :--- |
| XVERSE-MoE | 255B / A36B | 2024-09 | 中英 | MoE | [🤗HF](https://huggingface.co/xverse/XVERSE-MoE-A36B) | [GitHub](https://github.com/xverse-ai/XVERSE-MoE-A36B) | xverse-ai | - |
| Qwen-2.5 | 0.5\~72B (7档) | 2024-09 | 中英 | CD | [🤗HF](https://huggingface.co/collections/Qwen/qwen25-66e81a666513e518adb90d9e) | [GitHub](https://github.com/QwenLM/Qwen2.5) | QwenLM | [Blog](https://qwenlm.github.io/blog/qwen2.5/) |
| Tele-FLM | 52B / 102B / 1TB | 2024-07 | 多语 | CD | [🤗HF](https://huggingface.co/CofeAI) | - | CofeAI | [Paper](https://arxiv.org/pdf/2404.16645) |
| meta-llama-3.1 | 8B / 70B / 405B | 2024-07 | 多语 | CD | [🤗HF](https://huggingface.co/meta-llama) | [GitHub](https://github.com/meta-llama/llama3) | meta-llama | - |
| internlm2.5-Base | 7B | 2024-07 | 中英 | CD | [🤗HF](https://huggingface.co/internlm) | [GitHub](https://github.com/InternLM/InternLM) | InternLM | [Technical Report](https://arxiv.org/abs/2403.17297) |
> 📋 查看全部 40+ 个模型请访问 [Base-LLM 完整列表 →](docs/base-llm.md)
[Back to Top]
## Domain-Base-LLM
> 各个垂直领域开源基础模型。[查看完整列表 →](docs/domain-base-llm.md)
| 模型 | 大小 | 时间 | 语言 | 领域 | 下载 | 项目地址 | 机构/个人 | 架构 | 文献 | 备注 |
| :-----------------: | :-------: | ------- | :-: | -- | :-----------------------------------------------------------------------------------: | :-------------------------------------------------------------------------------: | :------------------------------------------------------------: | :-: | :---------------------------------------------------------------------------------: | ------ |
| Qwen-2.5 | 1.5/7B | 2024-09 | 中英 | 代码 | [🤗HF](https://huggingface.co/collections/Qwen/qwen25-coder-66eaa22e6f99801bf65b0c2f) | [Qwen2.5](https://github.com/QwenLM/Qwen2.5) | [QwenLM](https://github.com/QwenLM) | CD | [Blog](https://qwenlm.github.io/blog/qwen2.5/) |
| Qwen-2.5 | 1.5/7/72B | 2024-09 | 中英 | 数学 | [🤗HF](https://huggingface.co/collections/Qwen/qwen25-math-66eaa240a1b7d5ee65f1da3e) | [Qwen2.5](https://github.com/QwenLM/Qwen2.5) | [QwenLM](https://github.com/QwenLM) | CD | [Blog](https://qwenlm.github.io/blog/qwen2.5/) |
| Tongyi-Finance-Base | 14B | 2023-11 | 中文 | 金融 | [ModelScope](https://modelscope.cn/models/TongyiFinance/Tongyi-Finance-14B/summary) | [通义金融-14B](https://modelscope.cn/models/TongyiFinance/Tongyi-Finance-14B/summary) | [通义金融大模型](https://modelscope.cn/organization/TongyiFinance) | CD |
| ChiMed-GPT | 13B | 2023-10 | 中文 | 医疗 | \[[🤗HF\]](https://huggingface.co/SYNLP/ChiMed-GPT-1.0) | [ChiMed-GPT](https://github.com/synlp/ChiMed-GPT) | [中国科学技术大学](https://github.com/synlp) | CD | [Paper](https://arxiv.org/abs/2311.06025) |
| CodeShell-base | 7B | 2023-10 | 中英 | 代码 | \[[🤗HF\]](https://huggingface.co/WisdomShell/CodeShell) | [codeshell](https://github.com/WisdomShell/codeshell) | [WisdomShell](https://github.com/WisdomShell) | CD |
> 📋 查看全部 13 个模型请访问 [Domain-Base-LLM 完整列表 →](docs/domain-base-llm.md)
[Back to Top]
## ChatLLM
> 具备问答和对话等功能的大型语言模型。[查看完整列表 →](docs/chat-llm.md)
| 模型 | 大小 | 时间 | 架构 | 下载 | 项目 |
| :--- | :--- | :--- | :--- | :--- | :--- |
| GLM-4.6 | A32/355B | 2025-10 | MoE | [🤗HF](https://huggingface.co/zai-org/GLM-4.5-Base) | [GLM-4.5](https://github.com/zai-org/GLM-4.5) |
| Ling-1T | 1T | 2025-10 | CD | [🤗HF](https://huggingface.co/inclusionAI/Ling-1T) | / |
| Qwen3-Next | A3/80B | 2025-09 | MoE | [🤗HF](https://huggingface.co/Qwen/Qwen3-Next-80B-A3B-Instruct) | [Qwen3](https://github.com/QwenLM/Qwen3) |
| Kimi-k2 | A32B/1T | 2025-08 | MoE | [HF](https://huggingface.co/moonshotai/Kimi-K2-Instruct) | [Kimi-K2](https://github.com/MoonshotAI/Kimi-K2) |
| ERNIE-4.5 | A47/300B A3/21B | 2025-07 | MoE | [🤗HF](https://huggingface.co/baidu) | / |
| Qwen-3 | 4/14/30/235B | 2025-05 | CD/MoE | [🤗HF](https://huggingface.co/collections/Qwen/qwen3-67dd247413f0e2e4f653967f) | [Qwen3](https://github.com/QwenLM/Qwen3) |
| MiMo | 7B | 2025-05 | CD | [🤗HF](https://huggingface.co/XiaomiMiMo) | [MiMo](https://github.com/XiaomiMiMo/MiMo) |
| deepseek-v3 | 671B | 2024-12 | MoE | [🤗HF](https://huggingface.co/deepseek-ai/DeepSeek-V3) | [DeepSeek-V3](https://github.com/deepseek-ai/DeepSeek-V3) |
| Hunyuan-Large | A52/389B | 2024-11 | MoE | [🤗HF](https://huggingface.co/tencent/Tencent-Hunyuan-Large) | [Tencent-Hunyuan-Large](https://github.com/Tencent/Tencent-Hunyuan-Large) |
| Qwen-2.5 | 0.5/1.5/3/7/14/32/72B | 2024-09 | CD | [🤗HF](https://huggingface.co/collections/Qwen/qwen25-66e81a666513e518adb90d9e) | [Qwen2.5](https://github.com/QwenLM/Qwen2.5) |
| MiniCPM3 | 4B | 2024-09 | CD | [🤗HF](https://huggingface.co/openbmb/MiniCPM3-4B) | [MiniCPM](https://github.com/OpenBMB/MiniCPM) |
> 📋 查看全部 180+ 个模型请访问 [ChatLLM 完整列表 →](docs/chat-llm.md)
## Domain-ChatLLM
> 各个垂直领域开源对话模型。[查看完整列表 →](docs/domain-chat-llm.md)
| 模型 | 大小 | 时间 | 领域 | 下载 | 项目 |
| :--- | :--- | :--- | :--- | :--- | :--- |
| Qwen3-Coder-Next | / | 2026-02 | 代码 | [🤗HF](https://huggingface.co/Qwen) | [Qwen3](https://github.com/QwenLM/Qwen3) |
| Skywork-SWE | 32B | 2025-06 | 软件工程 | [🤗HF](https://huggingface.co/Skywork/Skywork-SWE-32B) | / |
| Kimi-Dev | / | 2025-06 | 代码 | [🤗HF](https://huggingface.co/moonshotai) | / |
| Qwen3-Coder | / | 2025-08 | 代码 | [🤗HF](https://huggingface.co/Qwen) | [Qwen3](https://github.com/QwenLM/Qwen3) |
| DeepSeek-Coder-V2 | A21/236B | 2024-06 | 代码 | [🤗HF](https://huggingface.co/deepseek-ai/DeepSeek-Coder-V2-Instruct) | [DeepSeek-Coder-V2](https://github.com/deepseek-ai/DeepSeek-Coder-V2) |
| CodeGeeX4 | 9B | 2024-07 | 代码 | [🤗HF](https://huggingface.co/THUDM/codegeex4-all-9b) | [CodeGeeX4](https://github.com/THUDM/CodeGeeX) |
| Yi-Coder | 1.5/9B | 2024-09 | 代码 | [🤗HF](https://huggingface.co/01-ai) | [Yi-Coder](https://github.com/01-ai/Yi-Coder) |
| OpenCoder | 1.5/8B | 2024-11 | 代码 | [🤗HF](https://huggingface.co/infly/OpenCoder) | [OpenCoder](https://github.com/OpenCoder-4/OpenCoder) |
> 📋 查看全部 60+ 个模型请访问 [Domain-ChatLLM 完整列表 →](docs/domain-chat-llm.md)
## MultiModal-ChatLLM
> 收集包含中文的多模态大模型,具备对话等功能。[查看完整列表 →](docs/multimodal-chat-llm.md)
| 模型 | 大小 | 时间 | 领域 | 下载 | 项目 |
| :--- | :--- | :--- | :--- | :--- | :--- |
| MiniMax-Music3 | ≈11B | 2026-08 | 文音 | [🤗HF](https://huggingface.co/MiniMaxAI/MiniMax-Music3) | [MiniMax-Music3](https://github.com/MiniMax-AI/MiniMax-Music3) |
| MiniMax-H3 | 33B | 2026-07 | 音视频 | [🤗HF](https://huggingface.co/MiniMaxAI/MiniMax-H3) | [MiniMax-H3](https://github.com/MiniMax-AI/MiniMax-H3) |
| HY-World-2.0 | 1.2B | 2026-04 | 3D世界 | [🤗HF](https://huggingface.co/tencent/HY-World-2.0) | [HY-World-2.0](https://github.com/Tencent/HY-World-2.0) |
| Gemma-4-IT | E2B~31B | 2026-04 | 通用 | [🤗HF](https://huggingface.co/collections/google/gemma-4) | - |
| Qianfan-OCR | 4B | 2026-03 | 文档 | [🤗HF](https://huggingface.co/baidu/Qianfan-OCR) | [GitHub](https://github.com/baidubce/Qianfan-VL) |
> 📋 查看全部 90+ 个模型请访问 [MultiModal-ChatLLM 完整列表 →](docs/multimodal-chat-llm.md)
## ReasoningLLM
> 收集推理能力比较突出的中文大模型。[查看完整列表 →](docs/reasoning-llm.md)
| 模型 | 大小 | 时间 | 架构 | 下载 | 项目 |
| :--- | :--- | :--- | :--- | :--- | :--- |
| Hy4-preview | A49/770B | 2026-08 | MoE | [🤗HF](https://huggingface.co/tencent/Hy4-preview) | [Hy4-preview](https://github.com/Tencent-Hunyuan/Hy4-preview) |
| GLM-5.3-Flash | A18/320B | 2026-08 | MoE | [🤗HF](https://huggingface.co/zai-org/GLM-5.3-Flash) | [GLM-5](https://github.com/zai-org/GLM-5) |
| GLM-5.3 | / | 2026-08 | MoE | [🤗HF](https://huggingface.co/zai-org/GLM-5.3) | [GLM-5](https://github.com/zai-org/GLM-5) |
| Qwen3.8-Flash-Next | A6/180B | 2026-08 | MoE | [🤗HF](https://huggingface.co/Qwen/Qwen3.8-Flash-Next) | [Qwen3.8-Flash-Next](https://github.com/QwenLM/Qwen3.8-Flash-Next) |
| Ornith-1.5-35B-A3B | A3/35B | 2026-08 | MoE | [🤗HF](https://huggingface.co/ornith-ai/Ornith-1.5-35B-A3B) | / |
> 📋 查看全部 50+ 个模型请访问 [ReasoningLLM 完整列表 →](docs/reasoning-llm.md)
### Embedding
> MTEB排行榜: [镜像](https://hf-mirror.com/spaces/mteb/leaderboard) [查看完整列表 →](docs/embedding.md)
| 模型 | 大小 | 时间 | 语言 | 领域 | 下载 | 项目地址 | 机构/个人 | 文 |
| :----------------: | :-------: | ------- | :-: | :-: | :-------------------------------------------------------------------: | :----------------------------------------------------------: | :------------------------------------------------------------------: | :--------------------------------------------------: |
| WeMM-Embedding-2B | 2B | 2026-08 | 中英 | 通用 | [\[🤗HF\]](https://huggingface.co/tencent/WeMM-Embedding-2B) | [WeMM-Embedding](https://github.com/Tencent/WeMM-Embedding) | [Tencent](https://github.com/Tencent) | [Arxiv](https://arxiv.org/abs/2608.24053),通用多模态 Embedding,支持文本/图像/视频/视觉文档,2048 维,支持 MRL |
| Qwen3-Embedding | 0.6/4/8B | 2025-06 | 多语 | 通用 | [\[🤗HF\]](https://huggingface.co/Qwen/Qwen3-Embedding-0.6B) | [Qwen3-Embedding](https://github.com/QwenLM/Qwen3-Embedding) | [QwenLM](https://github.com/QwenLM) | [Arxiv](https://arxiv.org/abs/2506.05176) |
| JinaColBERT V2 | large | 2024-08 | 多语 | 通用 | \[[🤗HF\]](https://huggingface.co/jinaai/jina-colbert-v2) | / | [Jina AI](https://huggingface.co/jinaai) | [Paper](https://arxiv.org/abs/2408.16672) |
| Conan-embedding-v1 | large | 2024-08 | 中文 | 通用 | \[[🤗HF\]](https://huggingface.co/TencentBAC/Conan-embedding-v1) | / | [TencentABC](https://huggingface.co/TencentBAC) | [Paper](https://arxiv.org/abs/2408.15710) |
| xiaobu-v2 | large | 2024-07 | 中文 | 通用 | \[[🤗HF\]](https://huggingface.co/lier007/xiaobu-embedding-v2) | / | [lier007](https://huggingface.co/lier007) |
> 📋 查看全部 16 个模型请访问 [Embedding 完整列表 →](docs/embedding.md)
## 大模型评估基准
### 1. C-Eval
C-Eval 是一个全面的中文基础模型评估套件。它包含了13948个多项选择题,涵盖了52个不同的学科和四个难度级别,查看[论文](https://arxiv.org/abs/2305.08322)了解更多细节。
\[[官方网站](https://cevalbenchmark.com/)] \[[Github](https://github.com/SJTU-LIT/ceval)] \[[论文](https://arxiv.org/abs/2305.08322)]
### 2. FlagEval
FlagEval是一个面向AI基础模型的评测工具包。我们的目标是探索和集合科学、公正、开放的基础模型评测基准、方法及工具,对多领域(如语言、语音、视觉及多模态)的基础模型进行多维度(如准确性、效率、鲁棒性等)的评测。我们希望通过对基础模型的评测,加深对基础模型的理解,促进相关的技术创新及产业应用。
\[[官方网站](https://cevalbenchmark.com/)] \[[Github](https://github.com/FlagOpen/FlagEval)]
### 3. SuperCLUElyb
SuperCLUE琅琊榜,这是一个中文通用大模型对战评价基准,它以众包的方式提供匿名、随机的对战。在本文中,我们发布了初步的结果和基于Elo评级系统的排行榜,Elo评级是国际象棋和其他竞技游戏中广泛使用的评级系统。我们邀请整个社区加入这项工作,贡献新的模型,并通过提问和投票选出你最喜欢的答案来评估它们。
\[[官方网站](https://www.superclueai.com/)] \[[Github](https://github.com/CLUEbenchmark/SuperCLUElyb)]
### 4. XiezhiBenchmark
该基准包括来自13个不同学科的516个学科的220,000个多项选择题,以及15,000个来自单一学科和多个学科的问题。我们对47个最新的大型语言模型在Xiezhi上进行了评估,结果表明在科学、工程、农学、医学和艺术等领域,大型语言模型的表现超过了人类的平均水平,但在经济学、法学、教育学、文学、历史和管理学等领域,人类的表现仍然远远超过了大型语言模型。
\[[官方网站]()] \[[Github](https://github.com/mikegu721/xiezhibenchmark)] \[[论文](https://arxiv.org/abs/2306.05783)]
### 5. Open LLM Leaderboard
由HuggingFace组织的一个LLM评测榜单,目前已评估了较多主流的开源LLM模型,以英文为主。主要目标是跟踪、排名和评估最新的大语言模型和聊天机器人,让所有人方便的观察到开源社区的进展和评估这些模型。这个排行榜有一个关键优势,社区中的任何成员都可以提交模型,并在 Hugging Face 的 GPU 集群上自动评估。
\[[官方网站](https://huggingface.co/spaces/HuggingFaceH4/open_llm_leaderboard)]
### 6. 中文大模型安全评测平台
大模型安全测评依托于一套系统的安全评测框架,涵盖了仇恨言论、偏见歧视言论、犯罪违法、隐私、伦理道德等八大类别,包括细粒度划分的40余个二级安全类别。
\[[官方网站](http://coai.cs.tsinghua.edu.cn/leaderboard/)] \[[Github](https://github.com/thu-coai/Safety-Prompts)] \[[论文](https://arxiv.org/abs/2304.10436)]
### 7. OpenCompass大语言模型评测
OpenCompass 是一款开源、高效、全面的评测大模型体系及开放平台。我们提供完整开源可复现的评测框架,支持大语言模型、多模态模型各类模型的一站式评测。利用分布式技术,即使面对千亿参数模型也能在数小时内完成评测。基于多个不同维度的高认可度数据集开放多样化的评测方式,包括零样本评测、小样本评测和思维链评测,全方位量化模型各个维度能力。
\[[官方网站](https://opencompass.org.cn/)] \[[Github](https://github.com/open-compass/opencompass)]
## 开源模型库平台
1. 🤗[HuggingFace](https://huggingface.co/): The AI community building the future.
- 模型下载地址:
1. [ModelScope](https://modelscope.cn/home): ModelScope平台是以模型为中心的模型开源社区
- 模型下载地址:
1. [flagopen](https://flagopen.baai.ac.cn/#/home): flagopen飞智大模型技术开源体系
- 模型下载地址:
1. [始智AI](https://wisemodel.cn/home): 中国AI开源创新社区
- 模型下载地址:
## 开源数据集库
1. huggfaceing数据集仓库:
- 包含了自然语言处理、计算机视觉、语音、多模态等数据集,内置100多个多语言公共数据集下载
1. ModelScope数据集仓库:
- 提供了覆盖自然语言处理、计算机视觉、语音、多模态等数据集,更有阿里巴巴集团贡献的专业领域数据集,
1. flagopen数据集仓库:
- 内置公共数据集下载,可下200G大规模预训练语料[WuDaoCorpora](https://data.baai.ac.cn/details/WuDaoCorporaText)
1. cluebenchmarks数据集仓库:
- 多个中英文NLP数据集,并可申请下载100GB的高质量中文预训练语料[CLUECorpus2020](https://github.com/CLUEbenchmark/CLUECorpus2020)
1. [MNBVC](https://github.com/esbatmop/MNBVC): Massive Never-ending BT Vast Chinese corpus
- 超大规模中文语料集
1. OpenDataLab数据集仓库:
- OpenDataLab 是有影响力的数据开源开放平台,公开数据集触手可及。
1. [OSCAR](https://oscar-project.org/): Open Super-large Crawled Aggregated coRpus, 多语言数据集
- 最新版本包含1.4T的中文语言数据集
## 🔧 预训练模型系列
> 中文预训练语言模型系列,涵盖 NLU、NLG、NLU-NLG 和多模态四大类。
| 系列 | 说明 | 代表模型 | 详情 |
| :--- | :--- | :--- | :--- |
| **NLU系列** | 自然语言理解 | BERT · RoBERTa · ALBERT · ERNIE · MacBERT · ELECTRA 等 29 个 | [查看完整列表 →](docs/nlu-models.md) |
| **NLG系列** | 自然语言生成 | GPT · GPT-3 · T5 · BART · CPM · RWKV 等 18 个 | [查看完整列表 →](docs/nlg-models.md) |
| **NLU-NLG系列** | 理解与生成 | UniLM · GLM · CPT · SimBERT 等 9 个 | [查看完整列表 →](docs/nlu-nlg-models.md) |
| **多模态系列** | 多模态预训练 | WenLan · CogView · Chinese-CLIP · OFA 等 13 个 | [查看完整列表 →](docs/multimodal-models.md) |
## Other-Awesome
> 其他优质 Awesome 资源列表
| 名称 | 说明 | 作者/组织 | 地址 |
| :--- | :--- | :--- | :--- |
| Awesome-OPD | 使用 On-Policy Distillation (OPD) 和 On-Policy Self-Distillation (OPSD) 训练 LLM/VLM/Agent/Draft Model 的开源仓库和论文精选列表 | thinkwee | [GitHub](https://github.com/thinkwee/AwesomeOPD) |
| Awesome-Claude-Skills | Claude技能、资源和工具 | ComposioHQ | [GitHub](https://github.com/ComposioHQ/awesome-claude-skills) |
| Awesome-Claude-Code | Claude Code相关技能和工具 | hesreallyhim | [GitHub](https://github.com/hesreallyhim/awesome-claude-code) |
| Awesome-OpenClaw-Skills | OpenClaw社区构建的技能 | VoltAgent | [GitHub](https://github.com/VoltAgent/awesome-openclaw-skills) |
| Awesome-Agents | 开源AI Agent工具和产品 | kyrolabs | [GitHub](https://github.com/kyrolabs/awesome-agents) |
[查看完整列表(共 52 个)→](docs/other-awesome.md)
## 更新
- 2026.08.30 增加[Hy4-preview, GLM-5.3, GLM-5.3-Flash, Qwen3.8-Flash-Next, Qwen3.8-27B, Ornith-1.5-35B-A3B, Kimi-K3](docs/reasoning-llm.md),Hy4-preview 是腾讯混元 770B/A49B MoE 旗舰,Gated DSA 稀疏注意力+IndexCache,1M 上下文,Apache-2.0 开源;GLM-5.3 与 GLM-5.2 同底座,开放权重编码 SOTA;GLM-5.3-Flash 是 GLM-5 首个原生多模态模型(320B/A18B),稀疏+线性注意力混合,MIT 开源;Qwen3.8-Flash-Next 是 Qwen4 架构预览(125B/A6B+51B N-gram Embedding),QSA 稀疏注意力;Qwen3.8-27B 是 27B 稠密原生视觉语言模型;Ornith-1.5-35B-A3B 是端到端自改进 agentic 模型(A3/35B);Kimi-K3 是全球首个开放 3T 级模型(2.8T/A104B),KDA+AttnRes 架构,1M 上下文
- 2026.08.30 增加[MiniMax-Music3, MiniMax-H3](docs/multimodal-chat-llm.md),MiniMax-Music3 是音乐生成模型,支持歌词+描述细粒度控制与最长 5 分钟完整歌曲生成,32kHz 立体声;MiniMax-H3 是通用全模态生成系统,统一理解文本/图像/视频/音频,生成最高 2K、15 秒视频并输出原生立体声
- 2026.08.30 增加[WeMM-Embedding-2B](docs/embedding.md),腾讯开源的通用多模态 Embedding 模型,基于 Qwen3.5-2B,支持文本/图像/视频/视觉文档与交错多模态输入,输出 2048 维向量并支持 MRL
- 2026.06.19 增加[GLM-5.2](docs/reasoning-llm.md),zai-org 最新旗舰推理模型,专为长程任务设计,支持稳定 1M Token 上下文,采用 IndexShare 稀疏注意力架构与 MTP 推测解码,MIT 开源许可证
- 2026.06.16 增加[Kimi-K2.7-Code](docs/reasoning-llm.md)、[MiniMax-M3](docs/reasoning-llm.md),Kimi-K2.7-Code 是基于 Kimi K2.6 构建的代码领域 agentic 模型,MoE 架构(1T / 32B),上下文 256K,thinking-token 较 K2.6 降低约 30%;MiniMax-M3 是原生多模态模型,A23/428B,支持 1M 上下文,采用 MiniMax Sparse Attention (MSA) 实现 9× prefill / 15× decode 加速,在编码与长程 agentic 协作任务上达前沿水平
> 📋 查看完整更新日志请访问 [更新日志 →](docs/changelog.md)
### Contributors
### Misc
#### ↳ Stargazers
[](https://github.com/lonePatient/awesome-pretrained-chinese-nlp-models/stargazers)
#### ↳ Forkers
[](https://github.com/lonePatient/awesome-pretrained-chinese-nlp-models/network/members)
#### ↳ Star History
[](https://star-history.dera.page/#lonePatient/awesome-pretrained-chinese-nlp-models&Date)
