vllm/vllm-openai镜像只进入容器，不启动模型
·
docker run -it --gpus all --network=host --ipc=host --rm --name qwen3.5-test \
-v /home/vllm-models/Qwen3___5-35B-A3B:/home/vllm-models/Qwen3___5-35B-A3B \
-v /etc/localtime:/etc/localtime:ro \
-v /etc/timezone:/etc/timezone:ro \
--entrypoint /bin/bash \
vllm/vllm-openai
vllm/vllm-openai 这个镜像有个特殊机制：它默认会强制执行 vllm 命令，直接跟 bash 没用！
vllm/vllm-openai 镜像内置了默认启动命令，会强制跑 vllm，你直接加 bash 会被当成模型名字
必须用 --entrypoint /bin/bash 强制覆盖默认命令，才能真正进入终端！
欢迎加入DeepSeek 技术社区。在这里，你可以找到志同道合的朋友，共同探索AI技术的奥秘。
更多推荐
5
0- 0
已为社区贡献3条内容
所有评论(0)