资讯

当前开源Chat 类型模型越来越多,PaddleNLP 已经集成了 Llama、Qwen、ChatGLM等系列模型,也支持多轮对话 Prompt Template 推理,只需要调用apply_chat_template 函数即可构造将对话历史和用户最新 query 按照模型指定规则拼接到一起,实现不同模型的定制化 Prompt 规则推理。