New API 一站式部署指南从源码到生产环境的完整实践【免费下载链接】new-apiA unified AI model hub for aggregation distribution. It supports cross-converting various LLMs into OpenAI-compatible, Claude-compatible, or Gemini-compatible formats. A centralized gateway for personal and enterprise model management. 项目地址: https://gitcode.com/gh_mirrors/ne/new-apiNew API 是一款基于 One API 二次开发的新一代大模型网关与 AI 资产管理系统提供了全新的 UI 界面、多语言支持、在线充值功能等丰富特性。本文将通过详细的步骤指导帮助您从零开始完成 New API 的源码获取、环境配置、编译部署到生产验证的全过程。项目定位与核心价值New API 的核心定位是统一 AI 模型中心支持将各种大语言模型LLM转换为 OpenAI 兼容、Claude 兼容或 Gemini 兼容的格式。作为一个集中式网关它为个人和企业提供了一站式的模型管理解决方案。主要功能特性多模型统一接口将不同厂商的 API 转换为标准化格式智能渠道管理支持渠道加权随机分配和负载均衡完整计费系统按次数收费和配额管理现代化管理界面直观的 Web 控制台和 API 管理多语言支持国际化界面和文档在线支付集成支持多种支付方式环境准备与系统要求在开始部署前请确保您的系统满足以下要求组件最低要求推荐配置说明操作系统Linux/Windows/macOSLinux支持主流操作系统内存512MB2GB根据并发量调整存储1GB10GB用于数据库和缓存数据库SQLiteMySQL 5.7.8/PostgreSQL 9.6生产环境建议使用远程数据库Docker可选Docker 20.10容器化部署需要快速环境检查使用以下命令检查您的系统环境# 检查操作系统版本 uname -a # 检查内存和存储 free -h df -h # 检查 Docker 版本如使用容器部署 docker --version docker-compose --version源码获取与项目结构解析克隆项目仓库首先获取 New API 的源码# 克隆项目到本地 git clone https://gitcode.com/gh_mirrors/ne/new-api.git cd new-api # 查看项目结构 ls -la核心模块解析New API 采用模块化设计主要目录结构如下common/- 公共功能模块API类型定义、常量、工具函数controller/- 业务控制器处理HTTP请求和业务逻辑model/- 数据模型数据库结构和操作relay/- 中继模块第三方模型API适配器middleware/- 中间件认证、缓存、限流等service/- 服务层业务逻辑实现New API 项目架构示意图三种部署方案详解方案一Docker Compose 部署推荐这是最快捷的部署方式适合大多数生产环境。配置 Docker Compose编辑docker-compose.yml文件version: 3.8 services: new-api: image: calciumion/new-api:latest container_name: new-api restart: always ports: - 3000:3000 environment: - TZAsia/Shanghai - SQL_DSNroot:passwordtcp(db:3306)/oneapi - SESSION_SECRETyour-session-secret-here - CRYPTO_SECRETyour-crypto-secret-here volumes: - ./data:/data - ./logs:/app/logs depends_on: - db networks: - new-api-network db: image: mysql:8.0 container_name: new-api-db restart: always environment: - MYSQL_ROOT_PASSWORDpassword - MYSQL_DATABASEoneapi volumes: - ./mysql-data:/var/lib/mysql networks: - new-api-network redis: image: redis:alpine container_name: new-api-redis restart: always volumes: - ./redis-data:/data networks: - new-api-network networks: new-api-network: driver: bridge启动服务# 启动所有服务 docker-compose up -d # 查看服务状态 docker-compose ps # 查看日志 docker-compose logs -f new-api方案二宝塔面板部署对于习惯使用图形化管理界面的用户宝塔面板提供了更便捷的部署方式。安装步骤安装宝塔面板9.2.0版本及以上在应用商店中搜索 New API点击安装并按照向导配置设置数据库连接和域名绑定配置要点确保/data目录有正确的读写权限配置反向代理到 3000 端口设置 SSL 证书启用 HTTPS方案三源码编译部署适合需要自定义修改或深度集成的场景。编译环境准备# 安装 Go 1.19 环境 wget https://golang.org/dl/go1.21.0.linux-amd64.tar.gz sudo tar -C /usr/local -xzf go1.21.0.linux-amd64.tar.gz echo export PATH$PATH:/usr/local/go/bin ~/.bashrc source ~/.bashrc # 验证安装 go version编译项目# 下载依赖 go mod download # 编译项目 go build -o new-api main.go # 查看编译结果 ls -lh new-api编译完成后会生成new-api可执行文件大小约为 30-40MB。配置环境变量创建.env配置文件# 基础配置 PORT3000 GIN_MODErelease TZAsia/Shanghai # 数据库配置 SQL_DSNroot:passwordtcp(localhost:3306)/oneapi?charsetutf8mb4parseTimeTruelocLocal # 安全配置 SESSION_SECRETyour-session-secret-here CRYPTO_SECRETyour-crypto-secret-here # Redis 缓存可选但推荐 REDIS_CONN_STRINGredis://localhost:6379/0 MEMORY_CACHE_ENABLEDtrue # 功能配置 GENERATE_DEFAULT_TOKENfalse STREAMING_TIMEOUT300启动服务# 设置环境变量 export $(cat .env | xargs) # 启动服务 ./new-api # 或使用 systemd 服务管理 sudo cp new-api.service /etc/systemd/system/ sudo systemctl daemon-reload sudo systemctl enable new-api sudo systemctl start new-api环境变量配置详解New API 通过环境变量进行配置以下是最重要的配置项环境变量默认值说明生产环境建议PORT3000服务监听端口保持不变SQL_DSNSQLite数据库连接字符串使用 MySQL/PostgreSQLSESSION_SECRET空会话加密密钥必须设置CRYPTO_SECRET空数据加密密钥必须设置REDIS_CONN_STRING空Redis 连接字符串启用缓存GENERATE_DEFAULT_TOKENfalse为新用户生成初始令牌根据需求设置STREAMING_TIMEOUT300流式响应超时时间根据模型调整多机部署关键配置对于多机部署场景以下配置至关重要# 多机部署必须配置 SESSION_SECRETyour-unique-session-secret CRYPTO_SECRETyour-unique-crypto-secret # Redis 共享配置 REDIS_CONN_STRINGredis://redis-cluster:6379/0 MEMORY_CACHE_ENABLEDfalse服务验证与功能测试基础健康检查部署完成后通过以下方式验证服务状态# 检查服务端口 curl -I http://localhost:3000 # 检查 API 端点 curl http://localhost:3000/api/v1/health # 检查数据库连接 curl http://localhost:3000/api/v1/db/status预期返回结果{ status: healthy, timestamp: 2024-01-01T12:00:00Z, version: 1.0.0 }管理界面访问打开浏览器访问http://localhost:3000您将看到 New API 的管理登录界面。New API 现代化管理界面API 功能测试测试基本的聊天功能# 获取管理员令牌首次部署后 # 在管理界面创建令牌或使用默认令牌 # 测试聊天接口 curl -X POST http://localhost:3000/v1/chat/completions \ -H Content-Type: application/json \ -H Authorization: Bearer sk-your-token-here \ -d { model: gpt-3.5-turbo, messages: [ {role: user, content: Hello, New API!} ], stream: false }预期响应{ id: chatcmpl-123, object: chat.completion, created: 1677858242, model: gpt-3.5-turbo, choices: [{ index: 0, message: { role: assistant, content: Hello! How can I assist you today? }, finish_reason: stop }], usage: { prompt_tokens: 10, completion_tokens: 9, total_tokens: 19 } }高级配置与优化渠道管理与负载均衡New API 支持智能渠道管理配置方法如下在管理界面进入渠道管理添加上游 API 提供商OpenAI、Claude、Gemini 等设置权重和优先级配置失败重试策略缓存策略优化为了提高性能建议启用 Redis 缓存# 在环境变量中配置 REDIS_CONN_STRINGredis://localhost:6379/0 CACHE_TTL3600 CACHE_MAX_ITEMS10000监控与日志配置日志和监控# 日志级别配置 LOG_LEVELinfo LOG_FORMATjson # 性能监控 ENABLE_PPROFtrue METRICS_PORT9090访问http://localhost:9090/debug/pprof/查看性能数据。故障排查指南常见问题及解决方案问题现象可能原因解决方案服务无法启动端口被占用更改端口或停止占用进程数据库连接失败连接字符串错误检查 SQL_DSN 格式登录状态丢失SESSION_SECRET 未设置设置唯一密钥并重启API 调用超时上游服务响应慢调整 STREAMING_TIMEOUT内存使用过高缓存配置不当调整缓存策略和 TTL日志分析技巧# 查看实时日志 docker-compose logs -f new-api # 搜索错误日志 grep -i error\|fatal\|panic logs/app.log # 分析性能日志 tail -f logs/access.log | awk {print $1, $4, $7, $9, $10}安全最佳实践生产环境安全配置启用 HTTPS配置 Nginx 反向代理和 SSL 证书设置防火墙限制访问 IP 范围定期备份自动化备份数据库和配置文件监控告警设置资源使用告警阈值更新策略定期更新到最新版本密钥管理建议# 使用环境变量文件不提交到版本控制 echo SESSION_SECRET$(openssl rand -hex 32) .env.production echo CRYPTO_SECRET$(openssl rand -hex 32) .env.production # 使用密钥管理服务 # 如 HashiCorp Vault、AWS Secrets Manager 等性能调优建议数据库优化-- 创建索引提高查询性能 CREATE INDEX idx_channels_status ON channels(status); CREATE INDEX idx_tokens_user_id ON tokens(user_id); CREATE INDEX idx_logs_channel_id ON logs(channel_id);缓存策略# Redis 配置优化 maxmemory: 1gb maxmemory-policy: allkeys-lru timeout: 300 tcp-keepalive: 60并发处理# 调整 Go 运行时参数 GOMAXPROCS4 GODEBUGgctrace1扩展与集成自定义模型支持New API 支持扩展新的模型提供商参考relay/目录下的现有实现添加新模型适配器在relay/channel/下创建新目录实现标准接口参考relay/relay_adaptor.go配置模型映射更新model/相关配置文件Webhook 集成配置 Webhook 接收事件通知# 环境变量配置 WEBHOOK_URLhttps://your-webhook-server.com/events WEBHOOK_SECRETyour-webhook-secret WEBHOOK_EVENTSchannel.status,token.usage,user.created总结与展望通过本文的详细指导您应该已经成功部署了 New API 并了解了其核心功能。New API 作为新一代大模型网关提供了强大的模型管理能力和灵活的部署选项。关键收获灵活部署支持 Docker、源码编译、宝塔面板多种方式强大功能统一接口、智能渠道、完整计费系统易于扩展模块化设计支持自定义开发生产就绪包含监控、日志、安全等企业级特性后续步骤探索管理界面的高级功能配置多个上游模型提供商设置自动化监控和告警集成到现有业务系统中New API 持续更新和改进建议定期关注项目更新获取最新功能和安全修复。通过合理的配置和优化New API 能够成为您 AI 应用架构中的核心组件提供稳定可靠的模型服务网关。【免费下载链接】new-apiA unified AI model hub for aggregation distribution. It supports cross-converting various LLMs into OpenAI-compatible, Claude-compatible, or Gemini-compatible formats. A centralized gateway for personal and enterprise model management. 项目地址: https://gitcode.com/gh_mirrors/ne/new-api创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考