deepseek本地部署及可视化输入

news/2025/2/13 4:39:51/

deepseek本地部署及可视化输入

  • 0 引言
  • 1 安装ollama
  • 2 下载并运行DeepSeek模型
  • 3 在Chatbox中接入Deepseek
  • 4 结语


0 引言

💻💻AI一下💻💻
先了解下什么是deepseek

  DeepSeek 是一家专注于人工智能技术研发的公司,致力于打造高性能、低成本的 AI 模型。它的目标是让 AI 技术更加普惠,让更多人能够用上强大的 AI 工具。

  DeepSeek具有国产化、开源、普惠 AI的特点。它是自主研发的 AI 模型,打破了国外技术垄断,为国内企业和开发者提供了更多选择;它支持本地部署,让开发者可以自由定制和优化模型;相比国外模型(如 GPT-4o),它的使用成本更低,适合中小企业和个人开发者。

  性能上DeepSeek-V3模型有 6710 亿个参数(671B),虽然只激活了 370 亿参数(37B),但它的表现已经非常接近国际顶尖模型。在知识问答、长文本处理、代码生成、数学能力等方面,DeepSeek-V3 都展现出了强大的实力。

  本篇结合网上资料,整理并分享本地部署deepseek的过程。在部署之前可以在deepseek官网先了解下deepseek AI大模型。官网支持在线提问,提供手机app下载方式,方便在移动端使用deepseek资源。进入官网如下图界面,直接点击开始对话就开始提问,利用AI帮你解惑。



ollama_36">1 安装ollama

(1)进入ollama官网,下载安装程序,该安装程序下载过程较,有需要的可以在资源中获取;


(2)安装Ollama,最简单的方法是双击OllamaSetup.exe,Ollama会被自动安装到系统盘中 [推荐] 。如果系统盘内存不足,可以使用下面命令将Ollama安装到自定义位置。安装完成后在安装目录中能看到下面文件。

(1) win+R进入cmd窗口
(2) cd 到OllamaSetup.exe所在的路径
(3) 执行命令 OllamaSetup.exe /DIR="自定义安装位置"

(3) 安装完成之后通过命令(ollama -v),查看安装是否成功,当成功显示ollama的版本号时说明ollama已经安装完成,可以开始下一步操作了。


2 下载并运行DeepSeek模型

  还是在ollama官网,点击Models标签,然后找到并进入我们需要的大模型,这里选择下图的deepseek-r1


  进到下面界面后,根据自己电脑的配置选择一种模型,然后复制对应语句,在CMD窗口回车执行;

示例语句:ollama run deepseek-r1:1.5b


  执行完成之后就实现了deepseed与ollama关联,就可以在命令窗口中进行一些提问了。deepseed是具有推理能力的一种模型,所给的提问具体,得到的结果准确。


3 在Chatbox中接入Deepseek

  每次在黑框框中进行提问前都要先用命令启动deepseek模型,不符合大众使用习惯,所以这一部分,在Chatbox中接入Deepseek API,充分发挥Chatbox和Deepseek的优势,提高提问效率。下面是主要过程:

(1) 获取Chatbox: 打开Chatbox网站,界面如下,直接免费下载需要的版本。


(2) Chatbox安装:安装较为简单,没有特别需要注意的地方,可以将软件安装到自定义路径。


(3) 打开软件,界面如下。左下角点击 “设置”, 切换到“模型”标签。在模型提供方选择 “OLLAMA API”,填写对应的 API 域名(选择模型后会自动填充 )。从模型下拉菜单中选定 deepseek - r1:7b”,并根据需求调整上下文消息数量上限(如设为 20)和严谨与想象程度(Temperature,如设为 0.7),完成后点击 “保存”。


(4) 上面设置完成后,在对话窗口中就可以开始提问了。如果在ChatBox中进行提问时长时间未反映,可以将deepseek的更换为占用较小deepseek - r1:1.5b”。如果出现deepseek API调用失败的问题,需要对流程进行重新尝试。


4 结语

  本篇简单梳理了deepseed本地部署的有关过程,进行了尝试可以在本地进行提问。希望对你有所助。






😜
😜😜
😜😜😜😜


http://www.ppmy.cn/news/1569465.html

相关文章

使用 Redis Streams 实现高性能消息队列

1. 引言 在后端开发中,消息队列是一个常见的组件,主要用于解耦系统、提高吞吐量以及实现异步处理。常见的消息队列包括 Kafka、RabbitMQ 以及 ActiveMQ,但 Redis Streams 作为 Redis 5.0 引入的新特性,也提供了一种高效、轻量的消…

如何在Arduino上使用NodeMCU

要在 Arduino IDE 中烧录 NodeMCU,可以按照以下步骤进行: 准备工作 硬件准备: 一根 USB 数据线,用于连接电脑和 NodeMCU 开发板。NodeMCU 开发板(CH340 驱动版)。 软件准备: 安装 Arduino IDE…

pytorch实现变分自编码器

人工智能例子汇总:AI常见的算法和例子-CSDN博客 变分自编码器(Variational Autoencoder, VAE)是一种生成模型,属于深度学习中的无监督学习方法。它通过学习输入数据的潜在分布(Latent Distribution)&…

对比JSON和Hessian2的序列化格式

在分布式系统中,数据的序列化和反序列化是关键环节。不同的序列化格式在性能、可读性和跨语言兼容性上存在显著差异。本文将详细对比JSON和Hessian2这两种序列化格式,以帮助开发者在不同的应用场景中做出更好的选择。 JSON 概述 JSON(Java…

阻尼与共振:从理论到工程实践的深度解析

目录 一、阻尼(Damping)的本质与分类 1. 阻尼的物理意义 2. 阻尼的数学表达 3. 阻尼的四大类型 二、共振(Resonance)的原理与危害 1. 共振的产生条件 2. 共振的数学描述(单自由度系统) 3. 共振的工…

OpenCV4,快速入门,目录篇

文章目录 1. 摘要2. 课程目录参考 1. 摘要 本系列博客为OpenCV4初学开发者提供系统化实战教程,通过30讲内容从基础到进阶全面掌握图像与视频处理核心技能。内容概览: 基础操作:图像读取、显示、色彩空间转换(RGB/HSV等&#xff…

基于STM32的智能安防监控系统

1. 引言 随着物联网技术的普及,智能安防系统在家庭与工业场景中的应用日益广泛。本文设计了一款基于STM32的智能安防监控系统,集成人体感应、环境异常检测、图像识别与云端联动功能,支持实时报警、远程监控与数据回溯。该系统采用边缘计算与…

【Linux】进程状态和优先级

个人主页~ 进程状态和优先级 一、进程状态1、操作系统进程状态(一)运行态(二)阻塞态(三)挂起态 2、Linux进程状态(一)R-运行状态并发执行 (二)S-浅度睡眠状态…