deepseek 模型 思维链未正确输出 think 标签
deepseek 模型 思维链未正确输出 think 标签
·
解决方法一
增加参数
--enable-reasoning |
--reasoning-parser deepseek_r1 |
响应肉容将分为两部分:
- reasoning_content
- content
解决方法二
修改 chat template
增加启动参数
--chat-template /path/to/deepseek_r1.template
deepseek_r1.template
{% if not add_generation_prompt is defined %}{% set add_generation_prompt = false %}{% endif %}{% set ns 更多推荐



所有评论(0)