博客 70% 的请求都在拉音乐封面:一次接口被刷的排查与治理

博客 70% 的请求都在拉音乐封面:一次接口被刷的排查与治理

admin
2026-11-18 / 0 评论 / 5 阅读
一个个人博客,日请求 3.3 万条,其中 2.3 万条都是在拉音乐播放器的封面图。本文记录从发现异常到定位根因、再到用 Nginx 限流 + 缓存头治理的完整过程,附可直接复用的配置。

一、起因:一个 813MB 的日志文件

例行巡检时看了眼服务器磁盘,发现站点访问日志已经累积到 813 MB。一个日均真实访客几十人的个人博客,这个体积明显不正常。

先做最基础的统计——今天到底有多少请求、都打在哪:

L=/www/wwwlogs/www.inspirecl.asia.log
D=$(date +%d/%b/%Y)

# 今日总请求
awk -v d=$D '$4 ~ d' $L | wc -l
# 33659

# 今日 /yoduapi 请求
awk -v d=$D '$4 ~ d && $7 ~ /yoduapi/' $L | wc -l
# 23413

23413 / 33659 ≈ 69.6%,也就是近七成请求都指向同一个接口:/yoduapi——我的音乐播放器插件 YoduPlayer 的后端。

再细看类型分布:

awk -v d=$D '$4 ~ d && $7 ~ /yoduapi/ {
  if ($7 ~ /type=pic/) print "pic"
  else if ($7 ~ /type=url/) print "url"
  else print "other"
}' $L | sort | uniq -c
22899 pic     # 封面图
  305 url     # 音频地址
  209 other

问题非常明确了:2.3 万条几乎全是封面图请求。

二、是谁在请求

统计今日请求量 Top IP:

awk -v d=$D '$4 ~ d {print $1}' $L | sort | uniq -c | sort -rn | head -6

结果很有意思:

IP请求数归属
88.99.48.18612452德国 Hetzner 机房
195.201.168.795019德国 Hetzner 机房
168.119.80.1261959德国 Hetzner 机房
34.96.45.1351394Google Cloud
219.144.88.218223国内宽带(真实访客)
219.144.89.178207国内宽带(真实访客)

四个机房 IP 就占了 91%,真实访客加起来不到 9%。

再看时间分布,就更清楚了:

awk '$1=="88.99.48.186" && $4 ~ d {split($4,t,":"); print t[2]":"t[3]}' $L | sort | uniq -c
   4876 16:42
   5915 16:43
   1664 16:44

三分钟打了 1.2 万次,平均每秒 60+ 个请求。 UA 还伪装成 ChromeOS 的浏览器,但行为完全不是人类——这是典型的渲染型爬虫或批量抓取工具。

而且这不是偶发:翻更早的日志,同一个 IP 在几个月前也来过一次,同样的一秒钟十几条并发。

三、根因:一个没有缓存头的 302

为什么抓一次页面,会变成成千上万次接口请求?答案在播放器插件的接口实现里(usr/plugins/YoduPlayer/jx.php):

case 'pic':
    $data = json_decode($api->pic($id, 90))->url;
    break;
...
if (in_array($type, ['url', 'pic'])) {
    header('Location: ' . $data);   // 302 跳转
}

这段逻辑的意思是:每次请求封面,都实时调用一次网易云 API 拿地址,然后 302 跳到图片 CDN。

插件其实留了缓存开关,但默认配置是:

define('CACHE', true);        // 文件缓存
define('CACHE_TIME', 86400);
define('APCU_CACHE', false);  // APCu 缓存关闭

而文件缓存只给 playlist(歌单)用了,pic 完全没有缓存。

更关键的是这行 header('Location: ...') 发出的 302 响应,没有携带任何缓存头。实测响应头:

HTTP/1.1 302 Moved Temporarily
Location: https://p3.music.126.net/.../54975581405156.jpg?param=90y90
Access-Control-Allow-Origin: *

没有 Cache-Control,没有 Expires,也没有 ETag。按 HTTP 规范,302 默认是不可缓存的(除非显式声明),所以浏览器和爬虫每次都需要重新来问服务器。

而那个跳转目标,是网易 CDN 上的固定地址——没有签名、没有时效参数,本来完全可以缓存一个月。

于是就形成了这样的放大链条:

爬虫渲染一次页面
  → 播放器加载封面
    → 请求 /yoduapi?type=pic(无缓存,必须回源)
      → PHP 启动 + 调网易 API + 302
        → 重复 380 次 ≈ 一张封面 380 条日志、380 次 PHP 执行

日志里同一批封面 ID 每个被请求 380 次左右,和"歌单 33 首 × 循环十几轮"完全对得上。

四、三层治理

第一层:给 302 加上缓存头

最小改动,收益最大。在 return_data() 里对 pic 类型补一个缓存头:

function return_data($type, $data)
{
    if (in_array($type, ['url', 'pic'])) {
        // 封面地址是网易 CDN 的固定链接(无时效签名),缓存这次 302
        if ($type == 'pic') {
            header('Cache-Control: public, max-age=2592000');
        }
        header('Location: ' . $data);
    } else {
        echo $data;
    }
    exit;
}

注意只给 pic 加,url(音频地址)带时效签名,不能缓存。

效果:遵守缓存的客户端 30 天内只会请求一次封面,不再反复回源。

第二层:Nginx 精准限流

缓存头能治正常客户端,但爬虫往往不理会缓存。所以还要在 Nginx 层拦住爆发式请求。

难点在于:只能限 /yoduapi,不能影响整站。直接在 server 级挂 limit_req 会把所有页面一起限了。

这里用一个 map 技巧——给非目标请求一个空 key,Nginx 对空 key 的请求不计入限流:

# nginx.conf 的 http 块内(要放在 include vhost 之前)
map $request_uri $yoduapi_key {
    default "";
    ~^/(index\.php/)?yoduapi $binary_remote_addr;
}

limit_req_zone $yoduapi_key zone=yoduapi:10m rate=10r/s;

然后在站点的 server 块里(宝塔可以放在 vhost/nginx/extension/<站点名>/*.conf,重写 vhost 也不会丢):

limit_req zone=yoduapi burst=20 nodelay;
limit_req_status 429;

参数含义:

  • rate=10r/s:单 IP 每秒 10 个请求,正常访客切歌频率远低于此
  • burst=20 nodelay:允许 20 个突发(页面初次加载可能并发拉几张封面),超出立即拒绝
  • limit_req_status 429:返回 429 而不是默认的 503,语义更准确

压测验证(同 IP 制造并发):

场景结果
/yoduapi 120 请求 / 60 并发69 个 302,51 个 429
普通页面 20 请求 / 20 并发全部 200,零影响

调参时有个小插曲:一开始设成 20r/s + burst 40,压测 60 并发居然一个 429 都没有——阈值太宽松,限流形同虚设。改成 1r/s 才验证到机制确实生效,最后定在 10r/s + burst 20 这个平衡点。

第三层:日志切割

顺手把历史包袱也解决掉,/etc/logrotate.d/inspirecl-blog:

/www/wwwlogs/www.inspirecl.asia.log /www/wwwlogs/www.inspirecl.asia.error.log {
    daily
    rotate 7
    missingok
    notifempty
    compress
    delaycompress
    copytruncate
    dateext
    dateformat -%Y%m%d
}

copytruncate 的好处是不用 reload Nginx(Nginx 会一直持有文件句柄,直接 mv 会导致新日志继续写进旧文件)。

执行一次后:

文件之前之后
访问日志813 MB0(归档压缩后 22 MB)
错误日志11 MB0(归档 341 KB)

五、意外收获:一个 Typecho 1.2 的兼容 Bug

排查时顺手看了错误日志,发现另一类高频报错:

PHP Fatal error: Uncaught Error: Call to undefined method
Typecho\Widget\Response::sendHeaders() in .../core/route.php:553

累计 239 次。用 PHP 确认了一下:

php -r 'require "var/Typecho/Widget/Response.php";
        echo method_exists("Typecho\Widget\Response", "sendHeaders") ? "有" : "没有";'
# 没有

原因很清楚:sendHeaders() 是 Typecho 1.1 时代 Widget\Response 的方法,1.2 重构后这个类只剩 setStatus() / setHeader() / throwContent() 等方法,发头的动作交给内部的 Typecho\Response 完成。主题代码是老版本迁移过来的,一直踩在这个坑上——平时不触发,只有图片代理拉取失败走到错误分支时才 fatal,导致本该返回 502 的请求变成 500 白屏。

修复方式是绕开框架,直接用原生响应:

if (!$info) {
    http_response_code(502);
    header('Cache-Control: no-store');
    exit;
}
http_response_code(200);
header('Content-Type: ' . $info['mime']);
header('Content-Length: ' . strlen($image));
header('Cache-Control: public, max-age=86400');
header('X-Content-Type-Options: nosniff');
echo $image;
exit;

顺带补上了 Content-Length,浏览器能直接显示图片加载进度。

六、小结

这次问题不复杂,但很典型,几条经验值得记下来:

  1. 日志是最诚实的排查入口。 磁盘告警 → 日志体积 → 按 IP/路径/时间聚合,四步就能从 3 万条请求里揪出 2.3 万条异常。
  2. 302 也要认真对待缓存。 跳转本身不产生流量,但"每次都要回源问一次"的成本会随请求量线性放大。如果跳转目标是固定地址,一个 Cache-Control 就能把请求量降一个数量级。
  3. 限流要精准到接口。 用 map + 空 key 的技巧,可以把限流范围精确锁定在某个 URI 上,既能挡住爬虫,又不影响任何正常页面。
  4. 升级框架后记得 grep 废弃 API。 Typecho 1.1 → 1.2 这类重构,最容易留下"平时不报错、一进错误分支就白屏"的隐患。错误日志里的 Call to undefined method 就是最好的线索。
  5. 调参一定要压测。 限流阈值设得太大等于没设,只有实测出 429 才算真的生效。

治理之后,同一个爬虫再来的话,绝大多数请求会被挡在 Nginx 层,不再消耗 PHP 和第三方 API 额度;日志量也回到了正常水平,每天几 MB 而不是持续膨胀。

0

评论 (0)

取消
0:00