
结论先给:独立站被谷歌“看见”卡住,八成不在文章数量,而在三个抓取指标——日抓取页数、TTFB、渲染延迟。把它们查清楚,再谈收录率。
一、为什么“收录率 92%”常常是自己骗自己
多数独立站看到的收录率,来自 Search Console 的网页报告或第三方工具抽样。它回答的是“提交过的页面里有多少进了索引”,不回答“谷歌多久来一次”“来了之后有没有等到 JS 跑完”。
这是钧笠营销在审计里反复遇到的场景:一个 4,200 个 URL 的外贸站,索引覆盖率显示 92%,看上去相当健康。把服务器原始日志拉出来,Googlebot 在 30 天里只到访 4 次,单次抓取 60 页上下,全站爬完一轮要 17 天。新品页平均要等 8.5 天才被第一次抓取。
这时“92%”只是一个存量数字。真正决定新品能不能赶上采购季的,是抓取频次、单次抓取深度和渲染等待时间这三个变量。
二、日志里值得盯的 3 个抓取指标
先说清楚抓取预算由什么决定。谷歌官方文档把它拆成两个变量:抓取速率限制(crawl rate limit)和抓取需求(crawl demand)。前者看服务器能扛住多快的抓取,后者看页面是否值得被反复抓取。响应慢会压低前者,更新少、外链少会压低后者。多数独立站的问题是前者——不是谷歌不想来,是来一趟成本太高。
1. 日抓取页数(Daily Crawled Pages)
Search Console 的“抓取统计信息”报告给出谷歌官方口径的三条曲线:每日抓取的页面总数、下载单个页面耗时、抓取响应状态分布。把它和服务器日志对照,如果日志里 Googlebot 请求数远高于报告里的抓取页数,多出来的请求多半消耗在重定向、被 robots 拦掉的 URL 和参数变体上。
2. TTFB(首字节时间)
谷歌官方建议 TTFB 控制在 0.8 秒以内。我们统计自有样本发现:TTFB 从 1.9 秒压到 0.6 秒之后,同一个站的日均抓取页数在两周内涨了约 40%——爬虫单位时间能拿走的页数变多,抓取预算自然松动。这也是我们在谷歌SEO优化项目里优先动服务器、而不是先改文案的原因。
3. 渲染延迟(Render Wait)
Googlebot 抓取分两段:先取 HTML 源码,再排队等渲染。JS 重的站点,第二段可能拖到数秒甚至更久。判断方法很朴素:用 Search Console 的“网址检查 → 测试实际网页 → 查看已抓取的页面”,对比源码里的正文和渲染后 HTML 里的正文。如果核心卖点段落只出现在后者,说明这段内容对爬虫来说是“迟到”的。
三、一组对照:两个站,同一支内容团队
| 维度 | A 站(模板站) | B 站(定制站) |
|---|---|---|
| URL 总数 | 4,200 | 3,800 |
| Googlebot 月访问次数 | 4 | 19 |
| 单次抓取页数 | 60 | 210 |
| TTFB | 1.9s | 0.5s |
| 新品首次被抓等待 | 8.5 天 | 1.6 天 |
两站内容产出节奏几乎一样,差别只发生在服务器响应、站点地图更新频率和参数 URL 治理上。B 站没有多写一篇文章,只是让爬虫来得更勤、每次拿得更多。
四、14 天复检清单,可以照抄执行
- 第 1–2 天:导出服务器日志,筛出 Googlebot 的 UA,统计日请求数、去重 URL 数、状态码分布。
- 第 3–4 天:在抓取统计信息报告里抄下三条基线曲线,与日志对照找差值。
- 第 5–7 天:处理 3xx 跳转链条、软 404 页面、带参数的重复 URL。
- 第 8–10 天:压 TTFB——换 CDN 节点、优化数据库查询、首屏不需要的第三方脚本延后加载。
- 第 11–12 天:检查渲染差异,把正文与关键参数挪进服务端渲染的 HTML。
- 第 13–14 天:重新提交站点地图,对比日志里的抓取页数是否上升。
判定标准很简单:14 天后,Googlebot 的月访问次数与单次抓取页数至少要有一个出现 20% 以上的变化。两个都不动,说明瓶颈不在抓取侧,得回头看内容质量与外链。
五、什么情况该做一次完整审计
站点只要命中下面任意一条,靠零散优化很难翻盘:URL 超过 3,000 个且半年内做过改版;多语言站点各语种互相抢收录;改版后自然流量下滑但排名没动。这类问题的排查顺序、指标阈值和回滚阀门,我们在谷歌SEO优化服务里拆成了一份按天推进的执行表。
还有一种常被误判的情况:把流量下滑一股脑归因于谷歌算法更新。翻一下日志就能分辨——如果 Googlebot 的访问次数和抓取页数同期也掉了,问题多半在站点侧,而不是排序规则变了。算法更新影响的是排序,不会让你的抓取频次腰斩。这一个区分能省掉大量返工时间。
钧笠营销做这块两年,服务过 100 多家出海客户,团队在上海临港新片区。需要现场对着日志一条条过的话,可以直接联系 18001580822。





