近期,DeepSeek 凭借先进算法和卓越能力迅速走红,成为现象级 AI 产品,凭一己之力推动了国内 AI 大模型的跨越式发展,用户量激增。但由于服务器遭受攻击,频繁出现繁忙状况,此时将其部署在本地电脑使用会更加便捷。
那么如何将它部署到本地电脑上呢?只需要以下简单的三步:
一、第一步,下载 Ollama
Ollama,一个 轻量级的大模型推理框架,可以快速下载、运行大语言模型,并提供 API 供其他程序调用。
直接进入Ollama官网去下载合适自己电脑的版本,官网下载地址: https://ollama.com/download
下载完成之后直接双击运行安装即可,如果在导航栏看见这个图标说明安装成功:
二、第二步,下载deepseek-r1模型
Ollama 已经支持 deepseek 的全尺寸版本,比如说 1.5b、7b、8b、14b、32b 等,本地建议安装 7b 版本,体积大小最合适。
1、找到左下角Windows【开始菜单】鼠标放上去,鼠标右键之后点击【终端管理员】
输入下面的命令之后回车(后面的7b表示模型的大小,可以选择其他版本):ollama run deepseek-r1:7b
等待下载完成之后就可以使用了,直接在控制台提出问题
通过上面的操作,已经部署好DeepSeek,但每次使用都要在终端管理员里操作,相当繁琐。这里可以借助Chatbox,实现网页或客户端操作。
三、下载安装Chatbox
Chatbox官网:chatboxai.app/zh
直接下载安装好对应你系统的版本,安装好之后打开Chatbox:
点击设置,选择Ollama API
点击保存就部署完成了,然后就可以开始使用了。
注意:本文归作者所有,未经作者允许,不得转载