太长不看版: 上万篇的网站做内容剪枝,第一步是用 Search Console 16 个月的数据把文章分成三层:A 核心(近 90 天有点击,或贡献前 80% 流量)只准加强、不准动。B 有流量的维持。C 零展现的再拆成“其他引擎或镜像还有流量”和“哪里都没流量”两种,只有后者的旧文才是候选。处理手段是按 ID 名单、只对 Google 加 noindex,不删文章、不批量返回 410。重复内容的合并依据是视频 hash 完全相同,标题相似不算:我们在一个 1 万多篇的视频内容站按标签配对抽查 50 组,真正同主题的只有约 6 组。剪枝本身不会带来流量,它做的是把抓取预算让给值得排名的页面,这一点要在报告里先讲清楚。

剪枝解决什么问题,不解决什么问题
1 万多篇的站里有 9,528 篇 16 个月零展现:内容剪枝解决的就是这类低价值网址占走抓取额度的问题,它把抓取资源移到有价值的页面,但不会直接让点击上升。
网址量一大,抓取预算就成了瓶颈。Google 在大型网站抓取预算说明↗里讲得很直白:爬虫花在低价值网址上的时间,就是没花在重要网址上的时间。上万篇的内容站,收录率天生偏低,也不可能逐页人工处理,只能用规则分批决定哪些页面值得被抓、哪些页面该让位。
我们接手的一个 1 万多篇的视频内容站,Google 16 个月都没给过任何展现的文章有 9,528 篇。也就是说,这个站大部分页面在 Google 眼里等于不存在。比例到这个程度,任何“再多发一点”的计划都只是在加重同一个问题。
但剪枝的效果要讲准。它的作用是把抓取资源从零价值页面挪到有价值的页面,不会直接让点击上涨。如果报告里写“剪枝后预计流量提升 X%”,就是在承诺一个没有证据的结果,以后流量没动,整套做法会被一起否掉。我们在报告里固定写的是:剪掉多少、让出来的是哪一层、接下来看哪几个指标、看多久。
分层要用 16 个月数据,不靠直觉
内容剪枝的分层要用 Search Console 最长的 16 个月数据,分成 A 核心、B 有流量、C 零曝光三层。
分层依据是 Search Console 能拉到的最长区间,也就是 16 个月。只看 3 个月会把季节性内容误判成死页。只凭“感觉没人看”更危险,印象和排名经常对不上。三层定义如下:
| 层 | 定义 | 处理方式 |
|---|---|---|
| A 核心 | 近 90 天有点击,或贡献全站前 80% 流量 | 保护名单:不改网址、不 noindex、不合并;只做加强(内链、内容) |
| B 有流量 | 16 个月内有一定点击 | 维持,视情况优化 |
| C 零展现 | 16 个月内 Google 从未展现 | 再拆 C1/C2,见下一节 |
A 层的门槛故意放宽成“或”:近 90 天有点击的页面,哪怕只有一两次,说明还有真人在找它。前 80% 流量的页面就算最近安静,也是站的骨架。两个条件满足任意一个就进保护名单。保护名单的意思是连“顺手整理一下网址”都不行,网址一变,积累的信号就要从头再来。
看流量要看绝对值,别只看比例。搜索结果页跌 50% 可能只少 500 次点击,文章页跌 10% 却可能少 2 万次。分层也是同样的逻辑:A 层篇数可能很少,扛的却是整个站的流量,任何可能碰到它的操作都要先过一遍名单。
C 层还要再拆一次
“Google 零展现”不等于“没人看”。这类大型内容站通常不只靠 Google,Yandex、Bing、百度各有分量,镜像域名上也可能有用户。所以 C 层还要再拆:
- C1:Google 零展现,但在其他搜索引擎或镜像域名有流量 → 不动。
- C2 旧文:哪里都没有流量,而且已经上线一段时间 → 候选“只对 Google noindex”。
- C2 新文:哪里都没有流量,但刚上线不久 → 先观察,还在被评估的页面不适合下判断。
前面那个 1 万多篇的站,C 层 9,528 篇拆完是 C1 4,977 篇、C2 旧文 3,105 篇、C2 新文 1,350 篇。如果不拆,直接对 9,528 篇动手,超过一半其实在别的引擎有人看的页面会被一起处理掉。真正进入候选的只有三千多篇,大约是 C 层的三分之一。
C 层抽查还有一个发现:大约一半是“已收录,但没有任何展现”。也就是说,它们的问题是收录了却排不上去,并不是 Google 不知道这些页面。这会影响手段的选择:没收录的页面补 sitemap 或内链可能有用,已收录零展现的页面再怎么提交索引也不会变。
剪枝的四条红线
内容剪枝有四条红线:不删文章、不整批 noindex、不碰 A 层名单、不承诺剪枝会带来流量。
这四条是我们在大型站上不会越过的线,每一条都对应一种很难回头的后果。
一、不删文章,不批量返回 410/404。 大批错误页本身就是负面信号。一次让几千个网址变成 404,爬虫看到的是一个突然坏掉一大块的站。而且删掉的页面里只要有一页其实还在排名,就等于亲手把那份流量送进错误页。删了再想恢复,等于重新发一遍文。
二、不整批加 noindex。 要做就按 ID 名单,而且只对 Google。整批套用的规则(比如“某个分类全部 noindex”)一定会扫到 A 层或 C1 的页面,下一节会讲为什么范围还要限定在 Google。
三、A 层名单上的页面一律不碰。 不改网址、不合并、不 noindex。剪枝的任何批次在执行前,都要先和 A 层名单比对一次,命中就剔除。
四、不承诺剪枝会带来流量。 这一条写在报告第一段。剪枝让出的是抓取预算,预算被拿去抓哪些页面、那些页面能不能排上去,是另外的问题。
为什么只对 Google noindex,而不是整批加 meta robots
内容剪枝只对 Google 加 noindex,因为普通 noindex 会连镜像站的 Yandex、百度流量一起弄掉。
这个做法是踩过坑才定下来的。同一个视频内容站有镜像域名,主站和镜像共用一个后台,在主站加的 meta 标签会同时出现在镜像上。如果 C 层直接加 <meta name="robots" content="noindex">,镜像那边的 Yandex、百度流量会一起掉,而这部分流量正是 C1 的来源。
解法是只把指令给 Google 的爬虫:
<meta name="googlebot" content="noindex, follow">
Google 的 robots meta 标签文档↗说明了 googlebot 这个名称只作用于 Google 的爬虫。Bing、Yandex、百度读的是 robots 或各自的名称,不受影响。Yandex 的规则可以对照它的 meta robots 说明↗。保留 follow 是为了让页面上的链接继续传递,这些旧文往往还链着 A 层页面。
另外,noindex 和 robots.txt 屏蔽不能同时用在同一批页面上:爬虫要能抓到页面,才读得到 noindex。
说实话,“只对 Google noindex”对抓取预算的实际效果,我们目前还没验证完,要等那个站的 C2 旧文名单实施之后持续跟踪才知道。数据出来之前,我们不会把它写成已知有效的做法。
视频 hash 相同,才算重复内容
重复内容只有在视频 hash 完全相同时才能合并。标题、标签或上传账号相似,只能当作去查证的线索。
大型视频内容站最常见的误判,是看标题相似就合并。我们在同一个站按标签配对抽查了 50 组“看起来重复”的文章,真正同一个主题的只有约 6 组。其余的大致是这几种:
- 不同日期的榜单,标题几乎一样,内容是不同周期。
- 同一支长视频切出的不同片段,标题只差片段编号。
- 换了细节的不同视频,标题沿用同一个模板。
合并的依据因此是视频 hash 完全相同,也就是文件本身一样。标题、标签、上传账号相似,都只能当成“去查”的线索,不能当成“去合并”的依据。文字站也是同一个道理:要有内容层面的证据,不能只看标题。
确认重复之后的处理:
- 来源页 301 到目标页,目标选主网址,不选排序页或筛选页。302 不行,302 告诉搜索引擎这是临时的,信号不会合并。
- 来源页从 sitemap、列表页、相关推荐里全部移除,别让站内还有链接指向 301。
- 连载系列不合并。每一集都有各自的搜索需求,改成上一集/下一集互链。
- 从源头拦:运营发布前先查重,比事后合并省事得多。
Google 在合并重复网址的说明↗里把 301、canonical、sitemap 都列为信号,其中 301 最强。我们在已确认重复的页面上用 301,canonical 留给“两页都得存在、但只想让一页参与排名”的情况。sitemap 里只放返回 200、可索引的网址,格式规范见 sitemaps.org 协议↗。
权重集中:把让出来的预算导回 A 层
剪枝让出抓取预算后,要给 A 层补同主题内链,并在首页与分类页只放 A 层标签的入口,预算才不会被平均分掉。
剪枝只做完了一半。让出抓取预算之后,要让爬虫和用户更容易走到 A 层,否则省下来的预算只是被平均分给剩下的页面。
我们的做法是两件事。第一件是给 A 层补内链:从同主题文章链过去,配对方式是看两篇文章是否共用同一个人物或事件标签。相关推荐也改成“同标签优先”,不再随机或单纯按时间排。第二件是在首页和分类页加一个“热门标签”入口,入口里只放 A 层的标签。
“只放 A 层”这个限制很关键。首页的链接是全站分量最重的,把它分给零展现的标签,等于把最好的位置让给最不需要的页面。
做完之后怎么判断、怎么写报告
剪枝报告要先写数据变化再写判断,原因分成四级标示,所有状态都用 curl 请求正式站确认,不以延迟的报表为准。
剪枝报告最容易犯的错是先下结论。我们的顺序是固定的:数据变化、变化范围、具体页面、具体关键词、页面现状,最后才是判断。原因分四级写:已确认(有技术、数据或页面证据)、高概率(多个维度互相印证)、待验证(只有相关性)、已排除(查过可以排除)。“算法波动”这种没有证据的说法不写。
状态一律以线上为准。noindex 有没有真的出现在页面上、301 是不是 301 而不是 302、sitemap 里是否已移除,都用 curl 直接请求正式站确认。Search Console、Bing、Yandex 的报表有几天到几周的延迟,拿来推断“现在”的状态一定会误判。
如果只有一个搜索引擎出现异常,就只做那个引擎的专项,不要因此动全站的剪枝规则。另外,“暂不调整”是有效方案,前提是写清楚为什么不改、观察什么、观察多久、出现什么条件才动手。C2 新文那 1,350 篇就属于这一类:先观察,不动手。Bing 的网站管理员指南↗对低质量和重复内容的态度与 Google 接近,如果 Bing 流量对你的站有分量,观察指标里也要把它算进去。
如果你的站也是上万篇、收录率偏低,想先弄清楚 A/B/C 各有多少篇,这类分层盘点我们在 SEO 建站与代运营服务里会先做一次,各方案的范围写在价格页。盘点做完之后要不要剪、剪多少,再按你站点的实际流量结构一起定,这部分也包含在 SEO 建站与代运营的范围里。
这篇是大型网站 SEO 指南的其中一章,六个工作面的全貌和接手第一周的处理顺序都整理在那里。
常见问题
内容剪枝一定要删文章吗?
不用,大型站也不建议删。大批 404/410 本身就是负面信号,删完才发现其中有页面还在排名,也救不回来。我们的做法是按 ID 名单、只对 Google 加 noindex,页面对用户和其他搜索引擎照常存在。
为什么分层要用 16 个月,不用 3 个月?
16 个月是 Search Console 能拉到的最长区间。短区间会把季节性或周期性内容判成零展现,误剪掉每年固定会回来的页面。
Google 零展现的页面可以直接处理吗?
要先拆。我们的例子里,9,528 篇 Google 零展现的文章,有 4,977 篇在其他搜索引擎或镜像域名有流量,直接处理会把这部分流量一起拿掉。真正进候选的是哪里都没流量的旧文。
标题很像的文章算重复内容吗?
不一定。我们按标签配对抽查 50 组看起来重复的文章,只有约 6 组真正同主题。视频站的合并依据是视频 hash 完全相同,文字站也要有内容层面的证据,标题相似只能当调查线索。
剪枝之后多久能看到流量变化?
剪枝本身不直接带来流量,它让出的是抓取预算。能不能转化成流量,要看让出的预算有没有导向 A 层、A 层页面本身够不够好。所以报告里写的是观察指标和观察期,不写预估的流量涨幅。你的剪枝报告里,写的是观察期还是流量预估?
相关文章
- strategyAI 批量发文的质量关卡:发布前 12 项检查、前台验收与修后再查每天几十篇 AI 辅助产出的文章,错误几乎都是模板性的,一错就是十几篇。这篇整理我们实际在用的发布前 12 项检查、发布后的前台验收步骤、自动修正为什么一定要配修后检查,以及验证时最常被误判的三件事:原始 HTML、UA 与非当前标签页。
- strategy大型网站索引管理:页型规范表、sitemap 四条规矩、镜像与多域名怎么处理网址几十万的内容站,收录率低多半不是内容不够,而是该进索引的页和不该进的页混在一起。本文整理我们实际在用的页型规范表、sitemap 四条规矩、canonical 与 301 的写法、镜像域名三种处理方式,以及只对 Google noindex 的做法和风险。
- strategy大型网站 SEO 怎么做:六个共同特征、六条原则,和一套能照着走的方法网址上万、镜像域名一堆、Google 之外还要顾 Yandex 和 Bing、标签页失控、每天批量发文、改动要靠别人排期。这篇整理大型网站 SEO 的共同特征与六条基本原则,再用六章摘要带你找到索引、剪枝、标签、诊断、分工、发文质量的完整做法。