如何在本地部署Ollama大模型并使用Python进行简单访问
如何在本地部署Ollama大模型并使用Python进行简单访问 简介 Ollama是一个强大的大型语言模型平台，它允许用户轻松地下载、安装和运行各种大型语言模型。在本文中，我将指导你如何在你的本地机器上部署Ollama，并展示如何使用Python进行简单的API调用以访问这些模型。 步骤1：下载和安装Ollama 首先，访问Ollama官网下载Ollama。安装过程非常简单，只需遵循安装向导的指示即可。默认情况下，Ollama会安装在系统的默认路径下。 更改模型保存路径 如果你想更改模型的保存路径，可以通过设置系统环境变量来实现。创建一个名为OLLAMA_MODELS的环境变量，并将其值设置为你希望保存模型的路径。 步骤2：验证Ollama安装 安装完成后，打开命令提示符（cmd）并输入ollama来验证Ollama是否安装成功。如果安装成功，你将看到Ollama的启动界面。 步骤3：选择并下载模型 接下来，访问Ollama模型库来浏览和选择你需要的模型。在这个例子中，我选择了llama3.2模型。复制模型页面上提供的代码ollama run...
使用Docker搭建Ollama DeepSeek和Open Web UI的步骤
一、准备工作 安装Docker： 确保你的系统中已经安装了Docker。如果尚未安装，可以从Docker官方网站下载并安装适合你操作系统的Docker版本。 拉取镜像： 从Docker Hub或其他镜像仓库中拉取Ollama、DeepSeek（通常作为Ollama的一个模型存在）和Open Web UI的镜像。 对于不同操作系统，重启命令可能有所不同。 例如，在Ubuntu/Debian系统上，可以使用systemctl daemon-reload和systemctl restart ollama命令；在CentOS系统上，则可能需要使用sudo yum update、sudo yum install lsof、stop ollama、lsof -i :11434、kill 和ollama serve等命令组合。 二、部署Ollama 拉取Ollama镜像： 1docker pull...
大模型ollama命令详解大全
一、启动与停止服务 启动Ollama服务 ollama serve：启动Ollama服务器，以便运行模型和处理请求。首次启动可能会生成ssh私钥文件，并提示服务端口状态。如果服务已在运行中，可以通过netstat -tulpn | grep 11434命令进行确认。 重启Ollama服务 对于不同操作系统，重启命令可能有所不同。例如，在Ubuntu/Debian系统上，可以使用systemctl daemon-reload和systemctl restart ollama命令；在CentOS系统上，则可能需要使用sudo yum update、sudo yum install lsof、stop ollama、lsof -i :11434、kill 和ollama serve等命令组合。 二、模型管理 创建模型 ollama create [Modelfile路径]：使用包含模型信息的Modelfile来创建一个新模型。 显示模型信息 ollama show：显示特定模型的详细信息，如模型名称、版本等。 列出模型 ollama...
Windows11下安装Docker
一、准备工作 先下载以下资源，暂时不要安装： Docker安装包 Wsl2安装包 二、开始安装 1.打开主板BIOS的虚拟化选项，可以在任务管理器中确实是否已经打开 2.勾上虚拟机平台所有选项（建议完成这一步骤重启） 3.用管理员身份打开PowerShell，执行下面命令启动wsl 1dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart 4.执行下面命令启动虚拟机给功能 1dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart 5.安装之前下载的安装包【wsl_update_x64.msi】（建议完成这一步骤重启） 6.将WSL2设置为默认版本 1wsl --set-default-version 2 7.安装docker安装包【Docker Desktop Installer.exe】 ...
Qt中手动配置MSVC2017环境
1. 安装MSVC2017 首先安装VS2017（过程略） 2. 安装Qt 5.14.2 下载Qt 5.14.2，点击安装包，勾选MSVC 2017 64-bit、MinGW 7.3.0 64-bit，点击下一步进行安装。 3. 通过Visual Studio安装MSVC2017编译器以及window10 SDK工具 1）下载Visual studio 2022安装包：下载地址 勾选C桌面开发以及Windows 10 SDK、MSVC 2017 C，然后下一步开始安装。 2）配置Windows10调试工具包： 在应用程序中找到Windows kit 右键更改，再点击Repair，将图中的选项勾选 配置成功后退出，并重启qtcreator。 3）在qtcreator中配置msvc2017编译器： 按照上面步骤安装完成后，进入到qtcreator配置Kit界面，会发现新增加了编译器： 点击右边添加按钮，再点击MSVC，选择C++： 新建一个MSVC，依次配置相关参数，下图中红色方框中参数为： 64位系统 SDK版本号 -vcvars_ver=...
QT5构建套件检测不到MSVC2017解决方法
前言 记录一下 QT5构建套件检测不到 MSVC2017 解决方法 。Qt Creator + MSVC开发环境搭建（Qt Creator 集成工具 + MSVC编译） 一、本地环境 电脑操作系统：Win11 Qt 版本：Qt 5.14.2 二、现象 如下图所示，MSVC2017 32bit 和 MSVC2017 64bit 的前面都有一个黄色的感叹号 将鼠标移至黄色感叹号的位置，可以看到警告信息为：工具包中没有设置编译器 三、解决办法 1、打开 Visual Studio Installer 2、点击修改 3、选择单个组件，勾选 MSVC v141-VS 2017 C++ x64/x86 Spectre 缓解库(v14.16) 和 MSVC v141-VS2017 C++ x64/x86生成工具(v14.16)，选择修改 4、安装 msvc...
Windows搭建Docker+K8s
修改 Docker Desktop 的默认安装路径（Optional） 确保 C:\Program Files 路径中没有 Docker 文件夹 在想要的安装路径中新建 Docker 文件夹 管理员模式打开 Windows Terminal 创建目录链接，其中 F:\Docker 为想要安装的位置 1mklink /j "C:\Program Files\Docker" "F:\Docker" 下载并运行安装包 安装完成后，可以发现 C 盘占用没有发生变化 安装Docker Desktop 从官网下载，然后直接安装即可，过程很简单，一直Next就行。 有一点需要注意就是要看好对应的版本，因为后边涉及到版本的问题。 https://www.docker.com/products/docker-desktop 安装完成，双击图标，打开桌面程序，就可以看到左下角有一个绿色的鲸鱼标识，注意，这个时候只有一个： 中间的打马赛克的默认也是没有的，这是我已经安装好的。 ...
K8s的资源组件介绍
引言 这篇重点介绍K8s的资源组件和相关配置使用。 1. Node & Pod Node: 是 Pod 真正运行的主机，可以是物理机，也可以是虚拟机。为了管理 Pod，每个 Node 节点上至少要运行 container runtime（比如 docker, rkt, containerd）、kubelet 和 kube-proxy 服务。 Pod: 是一组紧密关联的容器集合（也可以是单个容器），它们共享 IPC（进程间通信） ， Network namespace 和 文件存储（需挂载到容器），是 Kubernetes 调度的基本单位。 Node和Pod的关系如下图所示： 上图中的Node中共有4个Pod，分别为： 2. Namespaces 是对一组资源和对象的抽象集合，相当于给k8s系统内部的对象划分一些命名空间。常见的 pods, services, replication controllers 和 deployments 等都是属于某一个 namespace 的（默认是...
ROS2简介与基本使用
1. ROS2 介绍与安装 1.1 ROS2 的历史 ROS（Robot Operating System，机器人操作系统），但 ROS 本身并不是一个操作系统，而是可以安装在现在已有的操作系统上（Linux、Windows、Mac）的软件库和工具集 ROS 出生于 2007 年，ROS 的出现解决了机器人各个组件之间的通信问题，同时基于 ROS 完善的通信机制，越来越多的优秀的机器人算法集成到了 ROS 中来 现在的 ROS 功能已经变得非常的丰富和强大。但随着对 ROS 功能上要求越来越多，一些原始的架构和设计不能够满足目前的使用需求，这也是 ROS2 出现的原因 1.1.1 ROS 的作用 做一个机器人需要涉及到多个部分，而且这些部分之间还要进行通信，如果想要整个机器人可以跑起来，那么必须要有一个东西将下面的几个部分合理的连接到一起，这个东西就是 ROS 感知部分：激光雷达、深度相机、IMU、里程计、碰撞感知、建图 决策部分：路径规划（navigation）算法、定位算法 控制部分：轮子驱动 1.1.2 为什么需要 ROS2 2007 年 ROS...
c++之组合、继承、聚合及依赖
在学习c++的过程中相信大家对这几个概念都不陌生。 c++中一些常用的设计模式都是由这几种特性组合而成。本文再从整体对这个概念或者特性进行简要的介绍。 组合 c++中类之间的一种关系叫做"has-a"的关系。这种关系表示的是一个类中包含另一类的对象，体现了“有一个”的关系。这个被包含的类一般以实例对象的形式存在，而非指针对象的形式存在。请看下面的示例: 12345678910111213141516171819class Engine{ public: void start() { cout<<"引擎启动"<<endl; }}class car{private: Engine engine; //这里以实例的形式存在，而非指针，在类关系中是组合的关系public: void startCar() { engine.start(); //启动引擎 }} ...
