本文分类:news发布日期:2025/2/22 2:14:23
相关文章
基于 vLLM 搭建 DeepSeek-V2 Chat 服务
直奔主题。
安装vLLM
官方实现的代码还没有 merge 到 vLLM 主分支,所以直接 git clone DeepSeek 的分支。
git clone https://github.com/zwd003/vllm.git
cd vllm
pip install -e .源码安装大概耗时 10 分钟。
OpenAI 接口规范启动
官方 Github 放的是单条推理…
建站知识
2025/2/20 5:16:48
shell编程-结构化命令
1、if-then语句
如果command命令执行成功(退出状态码为0),then部分的命令就会执行 if comand then commands fi 或 if comand: then commands fi
例如: #!/bin/bash if date who then echo this is test …
建站知识
2025/2/21 15:53:49
Python 全栈体系【四阶】(五十二)
第五章 深度学习
十二、光学字符识别(OCR)
2. 文字检测技术
2.1 CTPN(2016)
2.1.1 概述
CTPN全称Detecting Text in Natural Image with Connectionist Text Proposal Network(基于连接文本提议网络的自然图像文本…
建站知识
2025/2/17 11:35:40
《intel开发手册卷3》读书笔记2
IA-32架构的内存管理分为两个部分:分段和分页。分段提供了一种隔离每个进程 或者任务代码、数据和栈模块的机制,保证多个进程或者任务能够在同一个处理器上运 行而不会互相干扰。分页机制实现了传统请求调页的虚拟内存系统,在这种系统中, 程序…
建站知识
2025/2/16 13:08:21
「项目」负载均衡在线OJ(ONLINE_JUDGE)系统
🐶博主主页:ᰔᩚ. 一怀明月ꦿ ❤️🔥专栏系列:线性代数,C初学者入门训练,题解C,C的使用文章,「初学」C,linux 🔥座右铭:“不要等到什么都没有了…
建站知识
2025/2/18 0:15:50