一、引言

1、什么是Docker

Docker：就像一个“打包好的App”

想象一下，你写了一个很棒的程序，在自己的电脑上运行得很好。但当你把它发给别人，可能会遇到各种问题：
“这个软件需要 Python 3.8，但我只有 Python 3.6！”
“我没有你用的那个库，安装失败了！”
“你的程序要跑在 Linux，我的电脑是 Windows！”

Docker 的作用：它就像一个“打包好的 App”，把你的软件、依赖、环境、系统配置等 **全部封装到一个“容器”**里，别人拿到这个容器，就能直接运行，而不用关心它内部的细节。

把 Docker 想象成“集装箱”

• 传统运输 vs. 集装箱运输

  • 以前（传统部署）：

    • 货物（程序）需要不同的包装方式（运行环境）

    • 货物可能损坏（环境不兼容）

    • 装卸麻烦（程序迁移难）

  • 有了 Docker（容器部署）：

    • 货物装进标准化集装箱（Docker 容器）

    • 不管运到哪里，集装箱里东西不变（程序环境一致）

    • 码头和船只可以直接装卸（轻松部署到不同系统）

Docker 让软件像“集装箱”一样标准化、可移植、易部署！

2、什么是Ollama

Ollama是一个本地运行大语言模型（LLM）的工具，它可以让你 在自己的电脑上直接运行 AI 模型，而不需要连接云端服务器。

简单来说：Ollama 让你像运行普通软件一样，轻松在本地使用 ChatGPT、Llama、Mistral、Gemma 等大语言模型。

Ollama 的核心特点

• 本地运行

  • 你不需要联网，也不用担心隐私问题，所有计算都在你的电脑上完成。

• 支持多种开源模型

  • 可以运行 Llama 3、Mistral、Gemma、Code Llama 等不同的大模型。

• 易于安装和使用

  • 只需要几条命令，就能下载并运行 AI 模型。

• 轻量化优化 ⚡

  • 适配 Mac（Apple Silicon）、Linux 和 Windows，支持 GPU 加速，让模型运行更快。

• 离线推理

  • 适合不想依赖 OpenAI API 或其他云端 AI 服务的用户。

二、准备工作

1、操作系统

这里我们使用的操作系统为 Centos 7.9，配置为 4核8G，大家也可以使用其他的 Linux 发行版本，或者使用 Windows。

2、镜像准备

如果已经安装了 Docker，可以提前准备好镜像ollama/ollama，镜像比较大，拉取会耗一些时间。

三、安装

1、安装Docker

1. 关闭防火墙

systemctl stop firewalld
systemctl disable firewalld

2. 关闭 SELinux

setenforce 0
# 并建议修改 /etc/selinux/config 文件中的 SELINUX=disabled

3. 更换 yum 源

rm -f /etc/yum.repos.d/*
curl -o /etc/yum.repos.d/CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-7.repo
yum clean all && yum makecache

4. 安装依赖项

yum install -y yum-utils device-mapper-persistent-data lvm2

5. 添加 Docker 源

yum-config-manager --add-repo https://download.docker.com/linux/centos/docker-ce.repo

6. 安装 Docker

yum install docker-ce -y

7. 添加 Docker 镜像加速器
   编辑/etc/docker/daemon.json文件：

vim /etc/docker/daemon.json

添加如下内容（可根据需要选择合适的镜像源）：

{
  "registry-mirrors": [
    "https://docker.m.daocloud.io",
    "https://noohub.ru",
    "https://huecker.io",
    "https://dockerhub.timeweb.cloud",
    "https://0c105db5188026850f80c001def654a0.mirror.swr.myhuaweicloud.com",
    "https://5tqw56kt.mirror.aliyuncs.com",
    "https://docker.1panel.live",
    "http://mirrors.ustc.edu.cn/",
    "http://mirror.azure.cn/",
    "https://hub.rat.dev/",
    "https://docker.ckyl.me/",
    "https://docker.chenby.cn",
    "https://docker.hpcloud.cloud",
    "https://docker.m.daocloud.io"
  ]
}

8. 启动 Docker

systemctl start docker
systemctl enable docker

2、启动 Ollama

1. 启动 Ollama 容器

docker run -itd -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

• docker run: 运行一个新的 Docker 容器

  • -itd: 组合选项 (-i 保持标准输入, -t 分配终端, -d 后台运行)

  • -v ollama:/root/.ollama: 挂载数据卷，确保数据持久化

  • -p 11434:11434: 端口映射，宿主机可通过http://localhost:11434访问

  • --name ollama: 指定容器名称

  • ollama/ollama: 使用的 Docker 镜像

  • 如果是使用 GPU 运行，则需要使用特定的命令（原文未提供完整命令）

2. 查看 Ollama 容器

docker ps

3、拉取 Deepseek 大模型

1. 进入到容器中

docker exec -it ollama bash

2. 拉取模型

ollama pull deepseek-r1
# 注意：原文命令为 ollama pull deepseek-r，但根据描述和图片，实际拉取的是 deepseek-r1

在官网中，有许多 Deepseek 的模型，这里主要是演示，所以拉取了一个较小的模型。
官网地址：deepseek-r1(推测链接)

3. 查看模型

ollama list

4、启动 Deepseek

ollama run deepseek-r1
# 注意：应与实际拉取的模型名称一致