首页 / 网站优化 / SEO如何研究搜索引擎排名规律:爬取、索引、召回、粗排、精排、重排

SEO如何研究搜索引擎排名规律:爬取、索引、召回、粗排、精排、重排

作者:秋凉星转百斗

  01

搜索引擎基本概念:爬取、索引、召回、粗排、精排、重排

爬取 & 索引

搜索引擎爬取全网海量页面 → 进行基本的质量评分 → 过滤出小部分质量较佳的网页 → 创建倒排索引(能够通过关键词查询文档)

召回

用户发起搜索请求 → 搜索引擎先对关键词进行纠错处理 → 拆成多个词项 → 去索引中查找能够命中这些词项的文档,可能就是这个数

粗排

但是文档的实在数量太多了,一股脑的都推给用户显然很二逼,用户不可能都看完,只会看其中极小的一部分,另外也没法保证质量。

所以要从海量召回的文档中,删除其中内容高度重复的文档,并筛选与搜索词最相关的760个文档,展现给用户。

这个环节属于海选,需要大量计算,为了不让用户等待过长,一般用快捷优先且相对简单的处理方式,比如BM25、TF-IDF、LDA,具体还有啥咱也不知道。

精排

之后就是对760篇文档排序的过程,最终的目的是让排序结果最大概率符合用户预期的结果,这样用户才更有可能点进去了解详情,从而提升搜索的业务价值。

这部分比海选要复杂的多,涉及一大堆数据挖掘、机器学习、用户行为分析、用户意图识别等算法,大概包括:

通过用户搜索词和前N次搜索词,结合历史日志中其他搜索该词的用户浏览行为,来揣测用户可能的搜索意图

文档的更新时间

文档的历史点击率

文档浏览后终结搜索的比例

用户的网络维度特征(IP、网络类型、地域....)

与搜索词文本匹配度最高的TopN条文档

与搜索词潜在意图覆盖率最高的TopN条文档

....太多了咱也不知道

上述过程,对应着搜索引擎中,爬取、索引、召回、粗排、精排的几个阶段,属于搜索引擎系统入门级的常识。

重排

现在精排后面,还有重排,根据用户的搜索场景(网络、设备、近期点击行为等)和媒体热点,实时调整排序,比如:

你用wifi跟手机网络,搜索结果可能有所不同

今天上午点击的某个结果,下午再次搜索时排名就上去了

上午媒体爆料一个叫GoGo闯神秘人和迪丽热巴约会了

,然后下午GoGo闯的搜索结果,就跟上午完全不同了

02

如何研究排名(一家之言)

研究收录 vs 研究排名

在16年以前,本渣觉得研究「排名」是最难的,后来搞了一堆单页站群、泛站群、资讯站群和少数几个单站,大概前后10万域名出头,发现「搞定收录」其实比「搞定排名」麻烦的多,甚至应付广告主没事总tm扣量、跑路不结算、域名被停止解析....,我觉得都比研究排名麻烦。

因为在16年以前,本渣接触的都是大站,日UV百万级的,所以收录的问题不大,一般就是某个目录收录率低,但不存在完全不收录,或收录极其缓慢的问题。

毕竟,大站参与760名排序的概率很大的,But一堆海量小站,参与召回的机会都没有。

研究大站 vs 研究小站

所以,本渣觉得,大站与小站,研究排名,是两种路线:

大站研究的是,做的词怎样上首页。

小站研究的是,做哪些词能上首页。

研究的方法有两种:正推 和 逆推

03

正推

正推就是假设一堆条件,挨个去测试,能否达到自己预期的结果。比如快排的开发,大部分都是正推的,需要大量测试

逆推就是通过分析已有的结果,找出其中共同的规律,需要大量观察

仅研究百度SEO排名规律上,正推的门槛极高。

比如,很久以前,本渣抓了1000个词(同一个词根)的搜索结果,把每个词的760个结果对应的网页全弄下来,最后我记得就不到40万篇,接近50%的搜索结果都是重复的。

然后我把这批网页导入到xunsearch(一个开源的搜索引擎,并不是说这个好,而是本渣当时只会这个,还不知道有elasticsearch这个东西)并建立倒排索引。

同时我还把默认词库整理了下,让这部分行业词分词更准确。

我的想法是:

第一步:在xunsearch和baidu,同时搜索一个词,通过调整xunsearch搜索参数,调整出跟百度很接近的结果,比如top10文档大部分一样,只是顺序略有差别。

第二步:我就修改自己网页的内容,推到xunsearch更新下索引,再次xunsearch搜索下,如果top10能出来,线上网页就按本次修改的上线。如果没出来,就修改其他地方,直到能在Top10出现。

理想丰满,现实骨感。

反正第一步始终没出来,毕竟商业搜索引擎,和开源搜索引擎,很多地方是不同的。

但是这只能代表百度,因为其他搜索入口,如研究微信搜一搜、知乎、小红书的排名规律就容易的多,首先这些平台不存在收录的问题,内容不违规即是收录,二是影响排序的因子比百度少很多。

anyway,正推我是放弃了

04

逆推

下面说说当时做的逆推的思路,相对来讲,逆推比正推省事很多。

长尾关键词

long long time ago,在做站群的时候,当时开发的还不是泛解析程序,能承载无限个关键词的。是库里有多少词,这个程序就生成多少对应数量的页面,或二级域名。

这意味着,如果库里面塞了一堆根本不可能排在首页的关键词,这是浪费系统资源的,毕竟新域名收录有限,自然希望收录的页面,都是大概率能上排名的页面。

一个流量词呢,在搜索结果表现,有4种特征:

Top10结果爱站权重很高(平均权重>7)

Top10结果爱站权重很低(平均权重<2)

搜索结果数很低(搜索结果数<1000)

有高有低(平均权重2-4)

第一种可能这个词竞争度很大,或者本身是比较敏感的词,比如医疗养生类的,所以百度特意分流给了一些信任度高的大站

第二种可能这个词是违禁的,但百度有没来得发现,也可能这个词还没被很多人发现。这个可以根据搜索结果的标题,是否完全命中关键词来判断,能命中是前者,不能命中是后者

第三种是这个词是违禁的,且已经被百度发现删除

第四种是正常的词,比如不算热门的小说、漫画名啥的

已排名优先的清洗关键词措施,是找出第1种和第3种词,然后删除掉。

所以当时找词,比如从爱站导出来的竞品网站关键词,会先按如上方法洗词,洗完之后在上线。同等域名数量的情况下,能多出25%的流量。

以上是研究长尾词能够大概率上首页的问题,下面来聊聊核心词的排名。

独立核心词排名

以前有一种刷词方法,比如核心词是「SEO」,会去同时刷创造出来的新词,比如「SEO流量贩子」,同时title也改成这个词。

经过 “恰如其分的刷量比例 & 时间拉长”,「SEO」与「SEO流量贩子」会产生关联,「SEO流量贩子」是「SEO」搜索意图中的一种

这样「SEO流量贩子」排名到首页后,在加大「SEO」的点击,这样核心词「SEO」上首页的概率,比直接硬点概率要大一些。

所以之前,SEO这个词,在百度指数的下拉,或百度搜索框的下来,总有一些烂七八糟的词

判断网页与核心词的真实相关性(排除点击加权)

当然,这个不是绝对,同时也跟百度认为网页本身与核心词有多大相关性有关。

比如很多刷快排的站,网页做的乱七八糟,可以说不符合SEO友好性,存在排名很大程度是点击加权,而非相关性,这样快排有点波动就容易被干。

识别这种情况,可以在搜索词后加个无关紧要的符号,比如「华为工资 。」

搜索引擎对用户的Query,会先纠错在分词召回,纠错过程就包含去除烂七八糟的符号,之后再排序。

but,「华为工资 。」这个词的排序没有点击加权因素在里面,因为没人点击这个词,同时这个符号对核心词“华为工资”相关性排序的影响很低,因为每篇文档都有一大堆句号。

所以你看「华为工资 。」与「华为工资」的排序,几乎一样的。但对比「seo 。」与「seo」的搜索结果,就非常奇妙了。

或者,也可以把主词拆开来搜索,比如「华为工资 华为 工资」,或者输入两次「华为工资 华为工资」

海量核心词排名

但如果有很多核心词怎么办?

比如某类词根,如:

关于XXX的作文

{城市}公司

{古诗名称}

....

long long time ago,本渣的做法是:

1)把这批词,全部扔到百度搜索框,依次提取下拉框的词

2)计算每个后缀的出现频次

3)选择频次最高&标题完全命中关键词搜索结果少的词缀,作为网页title的补充

举个例子,比如{城市}公司,标题只写「{XX}公司」,有些浪费,因为这个词后面有人搜:

{XX}公司大全

{XX}公司名录

{XX}公司黄页

{XX}公司排行

{XX}公司排名

{XX}公司代办

......

但是又不能所有后缀都加上,所以疑问是:添加哪个后缀,能大概率让「{XX}公司」和「{XX}公司{后缀}」都有排名?

全国300多个县级市,60%+城市,其下拉框都会出现“排名”,其实“名录”、“黄页”的出现频次也不少,跟“排名”差不多,但是这两个词缀做的人太多了,也就是搜索结果标题完全命中的数量比较多,所以最后用了“排名”,即title为:“北京公司排名”

结果是,二三线城市差不多都上去了。

一线城市没上去是因为,搜索需求太丰富,比如:代办、摇号、转让...

本文来自网络,本站仅提供信息存储空间服务。文中观点不代表网推实训营立场,转载请注明出处:https://www.shixunying.com/13959.html
上一篇
下一篇

为您推荐

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注

1条评论

返回顶部