Nginx 进行转发设置
JACIN6 分钟阅读
AI 摘要
这份笔记给出了一段面向火山引擎 Ark 服务的 Nginx 反向代理配置,用本地 8010 端口承接 `/doubao/` 路径请求,并转发到 `ark.cn-beijing.volces.com:443`。配置的核心目标是降低代理链路中的连接建立和首包等待成本:通过 `upstream` 与 `keepalive 256` 保留上游空闲长连接,配合 `proxy_http_version 1.1` 和清空 `Connection` 头避免请求后立即关闭连接。它还关闭 `proxy_buffering`、开启 `tcp_nodelay`,让响应数据尽快透传给客户端,适合对流式输出或 TTFB 敏感的 AI 接口调用场景。TLS 部分强制使用 TLS 1.3、开启会话复用,并配置 SNI 与上游 Host,确保到 Ark 域名的 HTTPS 握手和路由能够正常工作。文中同时给出 `proxy_socket_keepalive`、真实 IP 透传以及 300 秒读写超时等参数,用于减少空闲连接被中间设备切断、长时间生成过程中断的问题。需要注意的是,配置中为了追求速度关闭了上游证书校验,这会削弱 HTTPS 身份验证安全性,只适合在明确可信的转发链路和可接受风险的场景下使用。整体上,它更像是一份针对 AI 服务反代的低延迟配置清单,适合需要用 Nginx 统一入口、隐藏上游地址或优化接口访问稳定性的后端与运维读者参考。
text
# ============================================================
# 1. 连接池 (复用核心)
# ============================================================
upstream volces_backend {
# 强制指定 443 端口
server ark.cn-beijing.volces.com:443;
# 保持大量空闲长连接,宁可空着也不要关,确保随时可用
keepalive 256;
}
server {
listen 8010;
server_name _;
# ============================================================
# 2. 内核级网络优化 (减少包传输延迟)
# ============================================================
# 禁用 Nagle 算法,有数据(哪怕一个字节)立刻发出去
tcp_nodelay on;
# 禁用 Nginx 缓冲,让数据流直通客户端 (降低 TTFB)
proxy_buffering off;
# ============================================================
# 3. 路由逻辑
# ============================================================
location /doubao/ {
# 使用 upstream 连接池
proxy_pass https://volces_backend/;
# --------------------------------------------------------
# [速度核心 A]:强制保持 HTTP/1.1 长连接
# --------------------------------------------------------
proxy_http_version 1.1;
proxy_set_header Connection ""; # 砍掉 "close" 头,死死抓住连接不放
# --------------------------------------------------------
# [速度核心 B]:SSL 握手极限优化
# --------------------------------------------------------
# 强制只用 TLS 1.3 (0-RTT/1-RTT),拒绝慢速的 1.2
proxy_ssl_protocols TLSv1.3;
# 开启会话复用 (Session Resumption)
proxy_ssl_session_reuse on;
# [黑科技] 关闭上游证书校验
# 既然是你自己的转发,为了省那几毫秒的 CA 校验时间,直接信任
# (注意:这会降低安全性,但为了极限速度可以接受)
proxy_ssl_verify off;
# SNI 必须配置,否则握手失败
proxy_ssl_server_name on;
proxy_ssl_name ark.cn-beijing.volces.com;
# --------------------------------------------------------
# [速度核心 C]:TCP Socket 优化
# --------------------------------------------------------
# 开启 TCP Keepalive 心跳,防止中间防火墙掐断空闲连接
proxy_socket_keepalive on;
# --------------------------------------------------------
# [必要参数]:伪装与传递
# --------------------------------------------------------
proxy_set_header Host ark.cn-beijing.volces.com;
# 传递真实 IP (可选,视需求而定,不影响速度)
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
# 超时设置 (防止 AI 生成到一半断开)
proxy_read_timeout 300s;
proxy_send_timeout 300s;
}
}
评论
还没有评论,来发第一个吧