共1篇
文章标签:模型部署
大模型推理部署
模型 API 生态:是谁在提供接口?
开发者日常接触的 API 主要是三种:Chat Completions(对话导向)、Responses API(Agent 导向)、Messages API(Claude 特有)。它们各自解决什么问题?用 vLLM 部署模型后那个 API 到底是谁提供的?本文...
开发者日常接触的 API 主要是三种:Chat Completions(对话导向)、Responses API(Agent 导向...
昨日热榜
- Chrome 浏览器插件离线下载与安装指南
- 用 kkFileView 搭一个文件在线预览服务
- 主流 AI Agent 技能与配置加载机制横评
- new-api 网关改写实战:param_override 与 header_override 的两个坑
- 使用pip下载python依赖包whl文件并进行离线安装
- 大模型命名规则完全指南:一眼看懂模型名
- 飞牛 NAS 安装 MoonTV
- Mac 下 AccessClient(堡垒机)适配踩坑与解决全记录
- new-api 分流与重试降级实战:三个免费渠道如何做到逐级兜底
- new-api 协议转换后 Codex 报错两连:会话头缺失与 developer role
文章分类
标 签 云
Django
Docker
Nginx
后端开发
Linux
Go
踩坑
容器化
工作经验
docker-compose
Python爬虫
shell
ChatGPT
Requests
MySQL
CI/CD
Jenkins
Redis
Git
PVE
Agent
数据库
SSH
pip
Celery
定时任务
ITSM
AI
API网关
new-api
Virtualenv
多线程
CentOS
markdown
MongoDB
SSL证书
AGENTS.md
最佳实践
Gunicorn
crontab
Vue.js
YAML
GitHub Actions
DevOps
OpenAI
Prometheus
Grafana
图床
Github
NPM
查看更多 ...