跳到主要内容
返回博客strategy

内容剪枝怎么做:大型网站的 A/B/C 分层、四条红线与重复内容合并

RedClaw Performance Team
RedClaw Performance Team
Date
Reading time
13 min read

太长不看版: 上万篇的网站做内容剪枝,第一步是用 Search Console 16 个月的数据把文章分成三层:A 核心(近 90 天有点击,或贡献前 80% 流量)只准加强、不准动。B 有流量的维持。C 零展现的再拆成“其他引擎或镜像还有流量”和“哪里都没流量”两种,只有后者的旧文才是候选。处理手段是按 ID 名单、只对 Google 加 noindex,不删文章、不批量返回 410。重复内容的合并依据是视频 hash 完全相同,标题相似不算:我们在一个 1 万多篇的视频内容站按标签配对抽查 50 组,真正同主题的只有约 6 组。剪枝本身不会带来流量,它做的是把抓取预算让给值得排名的页面,这一点要在报告里先讲清楚。

内容剪枝怎么做:大型网站的 A/B/C 分层、四条红线与重复内容合并
内容剪枝怎么做:大型网站的 A/B/C 分层、四条红线与重复内容合并

剪枝解决什么问题,不解决什么问题

1 万多篇的站里有 9,528 篇 16 个月零展现:内容剪枝解决的就是这类低价值网址占走抓取额度的问题,它把抓取资源移到有价值的页面,但不会直接让点击上升。

网址量一大,抓取预算就成了瓶颈。Google 在大型网站抓取预算说明↗里讲得很直白:爬虫花在低价值网址上的时间,就是没花在重要网址上的时间。上万篇的内容站,收录率天生偏低,也不可能逐页人工处理,只能用规则分批决定哪些页面值得被抓、哪些页面该让位。

我们接手的一个 1 万多篇的视频内容站,Google 16 个月都没给过任何展现的文章有 9,528 篇。也就是说,这个站大部分页面在 Google 眼里等于不存在。比例到这个程度,任何“再多发一点”的计划都只是在加重同一个问题。

但剪枝的效果要讲准。它的作用是把抓取资源从零价值页面挪到有价值的页面,不会直接让点击上涨。如果报告里写“剪枝后预计流量提升 X%”,就是在承诺一个没有证据的结果,以后流量没动,整套做法会被一起否掉。我们在报告里固定写的是:剪掉多少、让出来的是哪一层、接下来看哪几个指标、看多久。

内容分三层:先分层,再决定怎么处理
内容分三层:先分层,再决定怎么处理

分层要用 16 个月数据,不靠直觉

内容剪枝的分层要用 Search Console 最长的 16 个月数据,分成 A 核心、B 有流量、C 零曝光三层。

分层依据是 Search Console 能拉到的最长区间,也就是 16 个月。只看 3 个月会把季节性内容误判成死页。只凭“感觉没人看”更危险,印象和排名经常对不上。三层定义如下:

层定义处理方式
A 核心近 90 天有点击,或贡献全站前 80% 流量保护名单:不改网址、不 noindex、不合并;只做加强(内链、内容)
B 有流量16 个月内有一定点击维持,视情况优化
C 零展现16 个月内 Google 从未展现再拆 C1/C2,见下一节

A 层的门槛故意放宽成“或”:近 90 天有点击的页面,哪怕只有一两次,说明还有真人在找它。前 80% 流量的页面就算最近安静,也是站的骨架。两个条件满足任意一个就进保护名单。保护名单的意思是连“顺手整理一下网址”都不行,网址一变,积累的信号就要从头再来。

看流量要看绝对值,别只看比例。搜索结果页跌 50% 可能只少 500 次点击,文章页跌 10% 却可能少 2 万次。分层也是同样的逻辑:A 层篇数可能很少,扛的却是整个站的流量,任何可能碰到它的操作都要先过一遍名单。

C 层还要再拆一次

“Google 零展现”不等于“没人看”。这类大型内容站通常不只靠 Google,Yandex、Bing、百度各有分量,镜像域名上也可能有用户。所以 C 层还要再拆:

  • C1:Google 零展现,但在其他搜索引擎或镜像域名有流量 → 不动。
  • C2 旧文:哪里都没有流量,而且已经上线一段时间 → 候选“只对 Google noindex”。
  • C2 新文:哪里都没有流量,但刚上线不久 → 先观察,还在被评估的页面不适合下判断。

前面那个 1 万多篇的站,C 层 9,528 篇拆完是 C1 4,977 篇、C2 旧文 3,105 篇、C2 新文 1,350 篇。如果不拆,直接对 9,528 篇动手,超过一半其实在别的引擎有人看的页面会被一起处理掉。真正进入候选的只有三千多篇,大约是 C 层的三分之一。

C 层抽查还有一个发现:大约一半是“已收录,但没有任何展现”。也就是说,它们的问题是收录了却排不上去,并不是 Google 不知道这些页面。这会影响手段的选择:没收录的页面补 sitemap 或内链可能有用,已收录零展现的页面再怎么提交索引也不会变。

剪枝的四条红线

内容剪枝有四条红线:不删文章、不整批 noindex、不碰 A 层名单、不承诺剪枝会带来流量。

这四条是我们在大型站上不会越过的线,每一条都对应一种很难回头的后果。

一、不删文章,不批量返回 410/404。 大批错误页本身就是负面信号。一次让几千个网址变成 404,爬虫看到的是一个突然坏掉一大块的站。而且删掉的页面里只要有一页其实还在排名,就等于亲手把那份流量送进错误页。删了再想恢复,等于重新发一遍文。

二、不整批加 noindex。 要做就按 ID 名单,而且只对 Google。整批套用的规则(比如“某个分类全部 noindex”)一定会扫到 A 层或 C1 的页面,下一节会讲为什么范围还要限定在 Google。

三、A 层名单上的页面一律不碰。 不改网址、不合并、不 noindex。剪枝的任何批次在执行前,都要先和 A 层名单比对一次,命中就剔除。

四、不承诺剪枝会带来流量。 这一条写在报告第一段。剪枝让出的是抓取预算,预算被拿去抓哪些页面、那些页面能不能排上去,是另外的问题。

为什么只对 Google noindex,而不是整批加 meta robots

内容剪枝只对 Google 加 noindex,因为普通 noindex 会连镜像站的 Yandex、百度流量一起弄掉。

这个做法是踩过坑才定下来的。同一个视频内容站有镜像域名,主站和镜像共用一个后台,在主站加的 meta 标签会同时出现在镜像上。如果 C 层直接加 <meta name="robots" content="noindex">,镜像那边的 Yandex、百度流量会一起掉,而这部分流量正是 C1 的来源。

解法是只把指令给 Google 的爬虫:

<meta name="googlebot" content="noindex, follow">

Google 的 robots meta 标签文档↗说明了 googlebot 这个名称只作用于 Google 的爬虫。Bing、Yandex、百度读的是 robots 或各自的名称,不受影响。Yandex 的规则可以对照它的 meta robots 说明↗。保留 follow 是为了让页面上的链接继续传递,这些旧文往往还链着 A 层页面。

另外,noindex 和 robots.txt 屏蔽不能同时用在同一批页面上:爬虫要能抓到页面,才读得到 noindex。

说实话,“只对 Google noindex”对抓取预算的实际效果,我们目前还没验证完,要等那个站的 C2 旧文名单实施之后持续跟踪才知道。数据出来之前,我们不会把它写成已知有效的做法。

视频 hash 相同,才算重复内容

重复内容只有在视频 hash 完全相同时才能合并。标题、标签或上传账号相似,只能当作去查证的线索。

大型视频内容站最常见的误判,是看标题相似就合并。我们在同一个站按标签配对抽查了 50 组“看起来重复”的文章,真正同一个主题的只有约 6 组。其余的大致是这几种:

  • 不同日期的榜单,标题几乎一样,内容是不同周期。
  • 同一支长视频切出的不同片段,标题只差片段编号。
  • 换了细节的不同视频,标题沿用同一个模板。

合并的依据因此是视频 hash 完全相同,也就是文件本身一样。标题、标签、上传账号相似,都只能当成“去查”的线索,不能当成“去合并”的依据。文字站也是同一个道理:要有内容层面的证据,不能只看标题。

确认重复之后的处理:

  1. 来源页 301 到目标页,目标选主网址,不选排序页或筛选页。302 不行,302 告诉搜索引擎这是临时的,信号不会合并。
  2. 来源页从 sitemap、列表页、相关推荐里全部移除,别让站内还有链接指向 301。
  3. 连载系列不合并。每一集都有各自的搜索需求,改成上一集/下一集互链。
  4. 从源头拦:运营发布前先查重,比事后合并省事得多。

Google 在合并重复网址的说明↗里把 301、canonical、sitemap 都列为信号,其中 301 最强。我们在已确认重复的页面上用 301,canonical 留给“两页都得存在、但只想让一页参与排名”的情况。sitemap 里只放返回 200、可索引的网址,格式规范见 sitemaps.org 协议↗。

权重集中:把让出来的预算导回 A 层

剪枝让出抓取预算后,要给 A 层补同主题内链,并在首页与分类页只放 A 层标签的入口,预算才不会被平均分掉。

剪枝只做完了一半。让出抓取预算之后,要让爬虫和用户更容易走到 A 层,否则省下来的预算只是被平均分给剩下的页面。

我们的做法是两件事。第一件是给 A 层补内链:从同主题文章链过去,配对方式是看两篇文章是否共用同一个人物或事件标签。相关推荐也改成“同标签优先”,不再随机或单纯按时间排。第二件是在首页和分类页加一个“热门标签”入口,入口里只放 A 层的标签。

“只放 A 层”这个限制很关键。首页的链接是全站分量最重的,把它分给零展现的标签,等于把最好的位置让给最不需要的页面。

做完之后怎么判断、怎么写报告

剪枝报告要先写数据变化再写判断,原因分成四级标示,所有状态都用 curl 请求正式站确认,不以延迟的报表为准。

剪枝报告最容易犯的错是先下结论。我们的顺序是固定的:数据变化、变化范围、具体页面、具体关键词、页面现状,最后才是判断。原因分四级写:已确认(有技术、数据或页面证据)、高概率(多个维度互相印证)、待验证(只有相关性)、已排除(查过可以排除)。“算法波动”这种没有证据的说法不写。

状态一律以线上为准。noindex 有没有真的出现在页面上、301 是不是 301 而不是 302、sitemap 里是否已移除,都用 curl 直接请求正式站确认。Search Console、Bing、Yandex 的报表有几天到几周的延迟,拿来推断“现在”的状态一定会误判。

如果只有一个搜索引擎出现异常,就只做那个引擎的专项,不要因此动全站的剪枝规则。另外,“暂不调整”是有效方案,前提是写清楚为什么不改、观察什么、观察多久、出现什么条件才动手。C2 新文那 1,350 篇就属于这一类:先观察,不动手。Bing 的网站管理员指南↗对低质量和重复内容的态度与 Google 接近,如果 Bing 流量对你的站有分量,观察指标里也要把它算进去。

如果你的站也是上万篇、收录率偏低,想先弄清楚 A/B/C 各有多少篇,这类分层盘点我们在 SEO 建站与代运营服务里会先做一次,各方案的范围写在价格页。盘点做完之后要不要剪、剪多少,再按你站点的实际流量结构一起定,这部分也包含在 SEO 建站与代运营的范围里。

这篇是大型网站 SEO 指南的其中一章,六个工作面的全貌和接手第一周的处理顺序都整理在那里。

常见问题

内容剪枝一定要删文章吗?

不用,大型站也不建议删。大批 404/410 本身就是负面信号,删完才发现其中有页面还在排名,也救不回来。我们的做法是按 ID 名单、只对 Google 加 noindex,页面对用户和其他搜索引擎照常存在。

为什么分层要用 16 个月,不用 3 个月?

16 个月是 Search Console 能拉到的最长区间。短区间会把季节性或周期性内容判成零展现,误剪掉每年固定会回来的页面。

Google 零展现的页面可以直接处理吗?

要先拆。我们的例子里,9,528 篇 Google 零展现的文章,有 4,977 篇在其他搜索引擎或镜像域名有流量,直接处理会把这部分流量一起拿掉。真正进候选的是哪里都没流量的旧文。

标题很像的文章算重复内容吗?

不一定。我们按标签配对抽查 50 组看起来重复的文章,只有约 6 组真正同主题。视频站的合并依据是视频 hash 完全相同,文字站也要有内容层面的证据,标题相似只能当调查线索。

剪枝之后多久能看到流量变化?

剪枝本身不直接带来流量,它让出的是抓取预算。能不能转化成流量,要看让出的预算有没有导向 A 层、A 层页面本身够不够好。所以报告里写的是观察指标和观察期,不写预估的流量涨幅。你的剪枝报告里,写的是观察期还是流量预估?


了解我们的广告策略与投放服务 →

让你的广告预算发挥最大效益

从帐号养成到数据追踪,一站式搞定。

  • 专属客户经理,实时优化投放策略
  • 完整追踪架构,每一分钱花得明明白白
  • 跨平台投放经验,Meta / Google / TikTok

免费获取您的广告健检报告

让我们的专家分析您的广告账户,找出浪费预算的关键问题。

100% 免费48 小时内回复无绑约

订阅电子报

每周一封,投放实战、行业趋势、工具教程。不灌水,纯干货。

我们不会分享你的 Email。随时可以取消订阅。