DeepSeek R1 本地安装部署,保姆级教程(超简单)

外国人已经用DeepSeek做了很多应用级项目,如果你也想拥抱DeepSeek,那么从此AI这种高大上概念,你也能轻松玩转。如果能将DeepSeek部署在你自己电脑里面,那么就可以训练自己的专属AI资料库。

今天我们就来看看,怎么在本地部署DeepSeek,适用于Mac、Windows 还是 Linux。按照步骤简单,适合初学者。

一、什么是DeepSeek

DeepSeek R1 ,是一个开源 AI 模型,可与 OpenAI 的 o1 和 Claude 3.5 Sonnet 等顶级模型相媲美,尤其是在数学、编程和推理等任务方面。他是一个免费的、私密的,并且可以在自己的硬件上离线运行

DeepSeek R1 其版本范围从轻量级的 1.5B 参数模型到强大的 70B 参数版本。从技术上讲,该模型是 Qwen 7B 架构的精简版本,这意味着它在保持强大性能的同时,还针对效率进行了优化。

DeepSeek真正的亮点是可与一些最好的商业模型相媲美,但完全开源,可以在本地运行,可以不依赖云服务器,可以完全控制你的数据。

二、为什么要在本地运行?

在本地运行 AI 模型具有以下优势:

  • 隐私:你的数据保留在你的机器上 — — 不存在共享敏感信息的风险;
  • 成本: DeepSeek R1 可免费使用,无需订阅费或使用费;
  • 控制:无需外部依赖即可进行微调和实验。

三、硬件要求

部署DeepSeek对电脑硬件有要求,以下是收集的信息:

(1)MAC

(2)Windows

考虑到每个人的硬件不同,如果按照顶配来编写 DeepSeek本地安装教程,很多人可能跑不起来,还浪费大家时间,那这篇教程就是篇垃圾教程。

我们结合Quora、Reddit、Substack、知乎、CSDN上各大神的安装贴,选择一个对硬件要求最低,用CPU也能跑起来的R1版本来演示。

四、安装步骤

步骤1、安装Ollama

为了在本地运行 DeepSeek R1,我们将使用Ollama,这是一种专门为用户在自己的电脑上运行 AI 模型而设计的工具。

下载Ollama后,根据以下步骤安装:

安装后,Ollama 提供了一种直接从终端提取和运行模型的简便方法。

步骤二、拉取 DeepSeek R1 模型

Ollama 支持 DeepSeek R1 的多个版本。模型越大越智能,但所需的 GPU 也越大。

具体有以下版本:

  • 1.5B(最小)
  • 8B
  • 14B
  • 32B
  • 70B(最大、最智能)
1.5B version (smallest):
ollama run deepseek-r1:1.5b

8B version:
ollama run deepseek-r1:8b

14B version:
ollama run deepseek-r1:14b

32B version:
ollama run deepseek-r1:32b

70B version (biggest/smartest):
ollama run deepseek-r1:70b

选择版本时,请根据自己硬件条件来安装,已经跑通过的大神,心得感受如下:

本教程就安装一个基础级的,各位根据自己实际情况部署。

ollama部署的都是量化版本。因此对显存的要求大幅降低,一般来说,8G显存可以部署8B级别模型;24G显存可以刚好适配到32B的模型。

如果你只有集显也想试试,可以试试下载lm-studio软件。软件内也内置了模型下载,对新手更加友好。

运行 1.5B或者7B 模型

  • 首先,打开你的终端:

MAC使用 command + space(空格),输入terminal 打开终端;

WIN使用Win + R,在运行对话框中输入“cmd”;或者Win + X,选择“Windows PowerShell”或“命令提示符”来打开终端窗口。

  • 运行以下指令:
ollama run deepseek-r1:1.5b

此命令会提取 1.5B 模型并将其设置为本地运行。

  • 如果报错,可以使用以下指令:
ollama run deepseek-r1

这个指令默认下载的是7B大小的模型。

看网速,我的网速不好,等了20分钟左右。

完成下载后,模型即可运行。

步骤 3、安装聊天框

上面步骤完成,说明你已经在自己电脑部署好了DeepSeek,可以通过终端与 DeepSeek R1 进行交互,但如果想要一个更流畅的交互体验,可以使用 GUI。

一般使用Chatbox与本地模型集成,这是一个免费且注重隐私的桌面客户端。

  • 安装完成后,在选择配置API模型那里选择“Ollama API”;
  • 将 API 主机设置为:http://127.0.0.1:11434
  • 选择 DeepSeek R1 作为活动模型
  • 保存

完成后就是这样:

到这里就部署成功了,你可以根据自己的需求训练DeepSeek,将DeepSeek训练成自己的私有资料库。

五、演示

可以试试DeepSeek的能力,比如让他用Python写一个吃豆人的游戏代码;

Prompt: Make a Pac-Man game in Python.

你会得到这样的输出:

import pygame
import random

# Initialize Pygame
pygame.init()

# Game window dimensions
WIDTH = 800
HEIGHT = 600
window = pygame.display.set_mode((WIDTH, HEIGHT))
pygame.display.set_caption("Pac-Man Game")

# Colors
BLACK = (0, 0, 0)
WHITE = (255, 255, 255)
RED = (255, 0, 0)

# Pac-Man properties
pacman_size = 20
speed = 3

# Directions: up, down, left, right
directions = [(-1, 0), (1, 0), (0, -1), (0, 1)]

# Game clock
clock = pygame.time.Clock()

# Initialize game loop
running = True

while running:
# Fill the window with black color
window.fill(BLACK)

# Clear previous frames
pygame.display.flip()

# Move Pac-Man
for event in pygame.event.get():
if event.type == pygame.QUIT:
running = False
elif event.type == pygame.KEYDOWN:
key_direction = None

if event.key == pygame.K_UP and pacman_y - pacman_size >= 0:
key_direction = (-1, 0)
elif event.key == pygame.K_DOWN and pacman_y + pacman_size <= HEIGHT:
key_direction = (1, 0)
elif event.key == pygame.K_LEFT and pacman_x - pacman_size >= 0:
key_direction = (0, -1)
elif event.key == pygame.K_RIGHT and pacman_x + pacman_size <= WIDTH:
key_direction = (0, 1)

if key_direction is not None:
direction = key_direction
move_count += 1

# Check for wall collisions
new_pacman_pos = (pacman_x + direction[0] * move_count,
pacman_y + direction[1] * move_count)

if new_pacman_pos in walls:
continue

pacman_x, pacman_y = new_pacman_pos

# Draw Pac-Man
pygame.draw.circle(window, WHITE, (pacman_x, pacman_y), pacman_size)

# Update the display
pygame.display.flip()

# Limit the frame rate to 60 FPS
clock.tick(60)

# Quit Pygame
pygame.quit()

以上就是今天全部教程,无论你是 AI 爱好者、开发者,还是只是对本地 AI 感到好奇,都可以尝试一下 DeepSeek R1。借助 Ollama 和 Chatbox 等工具,设置非常简单,而且效果也非常不错。(作者:加密狗)

分享给他人

你也许会喜欢

+ There are no comments

Add yours