Chinese-LLaMA-Alpaca-3: 新一代中文开源大语言模型

Chinese-LLaMA-Alpaca-3: 新一代中文开源大语言模型

随着人工智能技术的快速发展,大语言模型(Large Language Model, LLM)已成为自然语言处理领域的重要研究方向。近日,由中国科学院计算技术研究所自然语言处理研究组开发的Chinese-LLaMA-Alpaca-3项目正式发布,这是继Chinese-LLaMA-Alpaca一期和二期项目之后的第三期重要成果。本文将详细介绍这一新一代中文开源大语言模型的特点、应用场景以及相关评测结果。

项目背景与模型特点

Chinese-LLaMA-Alpaca-3项目是基于Meta最新发布的开源大模型Llama-3开发而来。该项目开源了中文Llama-3基座模型和中文Llama-3-Instruct指令精调大模型。这些模型在原版Llama-3的基础上使用了大规模中文数据进行增量预训练,并且使用精选指令数据进行精调,进一步提升了中文基础语义和指令理解能力,相比二代相关模型获得了显著性能提升。

Chinese-LLaMA-Alpaca-3的主要特点包括:

使用原版Llama-3词表:Llama-3相比其前两代显著扩充了词表大小,由32K扩充至128K,并且改为BPE词表。初步实验发现Llama-3词表的编码效率与扩充词表的中文LLaMA-2相当,效率约为中文LLaMA-2词表的95%。

长上下文长度由二代4K扩展至8K:Llama-3将原生上下文窗口长度从4K提升至8K,能够进一步处理更长的上下文信息。用户也可通过PI、NTK、YaRN等方法对模型进行长上下文的扩展,以支持更长文本的处理。

使用分组查询注意力机制:Llama-3采用了Llama-2中大参数量版本应用的分组查询注意力(GQA)机制,能够进一步提升模型的效率。

全新的指令模板:Llama-3-Instruct采用了全新的指令模板,与Llama-2-chat不兼容,使用时应遵循官方指令模板。

模型版本与下载

Chinese-LLaMA-Alpaca-3项目提供了多个版本的模型供用户选择:

Llama-3-Chinese-8B:基座模型,适用于文本续写等任务。Llama-3-Chinese-8B-Instruct:指令模型,适用于问答、写作、聊天、交互等任务。Llama-3-Chinese-8B-Instruct-v2:指令模型的改进版本。Llama-3-Chinese-8B-Instruct-v3:指令模型的最新版本,在多项任务上表现最佳。

这些模型均提供了完整版、LoRA版和GGUF版供下载。完整版可直接用于训练和推理,无需其他合并步骤。LoRA版需要与基模型合并才能转为完整版模型。GGUF版是llama.cpp推出的量化格式,适配ollama等常见推理工具,推荐只需要做推理部署的用户下载。

用户可以根据自己的需求和应用场景选择合适的模型版本。如果需要进行聊天交互,建议选择Instruct版本的模型。如无明确偏好,推荐优先使用Instruct-v3版本,该版本在多项评测中表现最佳。

推理与部署方法

Chinese-LLaMA-Alpaca-3项目支持多种推理和部署方式,以满足不同用户的需求:

llama.cpp:提供丰富的GGUF量化选项和高效本地推理,支持CPU和GPU,具有GUI界面和API。