本文主要是 翻译简化个人评读，原文请参考：vLLM V1: A Major Upgrade to vLLM’s Core Architecture vLLM V1 开发背景 2025年1月27日，vLLM 开发团队推出 vLLM V1 alpha 版本，这是对框架核心架构的里程碑式升级。基于过去一年半的…

1 ollama 的安装与设置 ollama官网链接：https://ollama.com/ 在左上角的【Models】中展示了ollama支持的模型在正中间的【Download】中课可以下载支持平台中的安装包。   其安装和模型路径配置操作流程如下： ollama的安装 这里选择命令安装curl -fsSL …

v2论文：[2405.04434] DeepSeek-V2: A Strong, Economical, and Efficient Mixture-of-Experts Language Model v3论文：[2412.19437] DeepSeek-V3 Technical Report v3源码：https://github.com/deepseek-ai/DeepSeek-V3 1、技术报告 1.1 D…

新建一个集合 在 Postman 中创建一个测试集合 DeepSeek API Test，并创建一个关联的测试环境 DeepSeek API Env，同时定义两个变量 base_url 和 api_key 的步骤如下： 1. 创建测试集合 DeepSeek API Test 打开 Postman。点击左侧导航栏中的 Co…

环境 windows visual studio 2019 visual studio 2019创建cmake工程 1. 静态库.lib 1.1 静态库编译生成 以下是我创建的cmake工程文件结构，只关注高亮文件夹部分 libout 存放编译生成的.lib文件libsrc 存放编译用的源代码和头文件CMakeLists.txt 此次编译CMak…

Docker部署 本小节，讲解如何将前端 后端项目，使用 Docker 容器，部署到 dev 开发环境下的一台 Mac 电脑上。 1 环境准备 需要安装如下环境： Docker：容器MySQL：数据库Redis：缓存Nginx&#x…

什么是 Node.js Node.js 是一个基于 Chrome V8 JavaScript 引擎的 JavaScript 运行时环境，它允许你在服务器端运行 JavaScript。传统上，JavaScript 主要用于浏览器中的前端开发，而 Node.js 使得 JavaScript 也能够在服务器上执行，…

如果在PyCharm中创建Django项目 1. 打开PyCharm，选择新建项目 2.左侧选择Django，并设置项目名称 3.查看项目解释器初始配置 4.新建应用程序 执行以下操作之一： 转到工具| 运行manage.py任务或按CtrlAltR 在打开的manage.pystartapp控制台…