确保Docker容器在运行
docker ps -a | grep ollama-server-cpu如果没找到,或者之前停了,就用下面这个命令新建并启动一个:
docker run -d --name ollama-server-cpu -p 11434:11434 -v /home/docker/ollama:/root/.ollama --restart unless-stopped ollama/ollama从魔塔社区拉取镜像
docker exec -it ollama-server-cpu ollama run modelscope.cn/Tencent-Hunyuan/HY-MT1.5-1.8B-GGUF检查镜像目录
docker exec -it ollama-server-cpu ollama list运行结果参考
[root@ah-ipv6 ~]# docker exec -it ollama-server-cpu ollama list
NAME ID SIZE MODIFIED
modelscope.cn/Tencent-Hunyuan/HY-MT1.5-1.8B-GGUF:latest b31d15fc8de8 1.1 GB 7 minutes ago
[root@ah-ipv6 ~]# 卸载这个模型
docker exec -it ollama-server-cpu ollama rm modelscope.cn/Tencent-Hunyuan/HY-MT1.5-1.8B-GGUF:latest检查是否卸载成功
docker exec -it ollama-server-cpu ollama list调用模型
docker exec -it ollama-server-cpu ollama run ali6parmak/hy-mt1.5:1.8bdocker exec -it ollama-server-cpu ollama run deepseek-r1:7b或者
time curl -s http://localhost:11434/api/generate -d '{
"model": "ali6parmak/hy-mt1.5:1.8b",
"prompt": "将以下文本翻译为英文:人工智能正在改变世界。",
"stream": false
}'安全测试命令
docker exec -i ollama-server-cpu curl -s http://localhost:11434/api/generate -d '{
"model": "qwen3.5:4b",
"prompt": "在这里放入你的问题",
"stream": false,
"options": {
"num_ctx": 2048,
"num_predict": 200
}
}'参考结果
评论 (0)