搜索引擎如何抓取页面(如何使用搜索引擎查找页面)

搜索引擎如何抓取页面,如何使用搜索引擎查找页面

内容导航：

搜索引擎是如何抓取网页

搜索引擎如何抓取互联网页面

如何禁止搜索引擎爬虫（Spider）抓取网站页面

怎样提高网站页面被搜索引擎抓取的几率

一、搜索引擎是如何抓取网页

?熬迪裢?场保ㄍ?车哪谌萃耆?嗤??醇尤魏涡薷模┗颉白?赝?场保╪ear-
replicas，主题内容基本相同但可能有一些额外的编辑信息等，转载网页也称为“近似镜像网页”）的消除，链接分析和网页重要程度的计算。1.
关键词的提取，取一篇网页的源文件（例如通过浏览器的“查看源文件”功能），我们可以看到其中的情况纷乱繁杂。从认识和实践来看，所含的关键词即为这种特征最好的代表。于是，作为预处理阶段的一个基本任务，就是要提取出网页源文件的内容部分所含的关键词。对于中文来说，就是要根据一个词典Σ，用一个所谓“切词软件”，从网页文字中切出Σ所含的词语来。在那之后，一篇网页主要就由一组词来近似代表了，p
= {t1, t2, …,
tn}。一般来讲，我们可能得到很多词，同一个词可能在一篇网页中多次出现。从效果（effectiveness）和效率（efficiency）考虑，不应该让所有的词都出现在网页的表示中，要去掉诸如“的”，“在”等没有内容指示意义的词，称为“停用词”（stop
word）。这样，对一篇网页来说，有效的词语数量大约在200个左右。2.
重复或转载网页的消除，与生俱来的数字化和网络化给网页的复制以及转载和修改再发表带来了便利，因此我们看到Web上的信息存在大量的重复现象。这种现象对于广大的网民来说是有正面意义的，因为有了更多的信息访问机会。但对于搜索引擎来说，则主要是负面的；它不仅在搜集网页时要消耗机器时间和网络带宽资源，而且如果在查询结果中出现，无意义地消耗了计算机显示屏资源，也会引来用户的抱怨，“这么多重复的，给我一个就够了”。因此，消除内容重复或主题内容重复的网页是搜索引擎抓取网页阶段的一个重要任务。3、链接分析，大量的HTML标记既给网页的预处理造成了一些麻烦，也带来了一些新的机遇。从信息检索的角度讲，如果系统面对的仅仅是内容的文字，我们能依据的就是“共有词汇假设”（shared
bag of words），即内容所包含的关键词集合，最多加上词频（term frequency
或tf、TF）和词在文档集合中出现的文档频率（document frequency
或df、DF）之类的统计量。而TF和DF这样的频率信息能在一定程度上指示词语在一篇文档中的相对重要性或者和某些内容的相关性，这是有意义的。有了HTML标记后，情况还可能进一步改善，例如在同一篇文档中，和之间的信息很可能就比在和之间的信息更重要。特别地，HTML文档中所含的指向其他文档的链接信息是人们近几年来特别关注的对象，认为它们不仅给出了网页之间的关系，而且还对判断网页的内容有很重要的作用。4、网页重要程度的计算，搜索引擎实际上追求的是一种统计意义上的满意。人们认为Google目前比baidu好，还是baidu比google好，参照物取决于多数情况下前者返回的内容要更符合用户的需要，但并不是所有情况下都如此。如何对查询结果进行排序有很多因素需要考虑。如何讲一篇网页比另外一篇网页重要？人们参照科技文献重要性的评估方式，核心想法就是“被引用多的就是重要的”。“引用”这个概念恰好可以通过HTML超链在网页之间体现得非常好，作为Google创立核心技术的PageRank就是这种思路的成功体现。除此以外，人们还注意到网页和文献的不同特点，即一些网页主要是大量对外的链接，其本身基本没有一个明确的主题内容，而另外有些网页则被大量的其他网页链接。从某种意义上讲，这形成了一种对偶的关系，这种关系使得人们可以在网页上建立另外一种重要性指标。这些指标有的可以在抓取网页阶段计算，有的则要在查询阶段计算，但都是作为在查询服务阶段最终形成结果排序的部分参数。

二、搜索引擎如何抓取互联网页面

先说说搜索引擎的原理吧。
搜索引擎是把互联网上的网页内容存在自己的服务器上，当用户搜索某个词的时候，搜索引擎就会在自己的服务器上找相关的内容，这样就是说，只有保存在搜索引擎服务器上的网页才会被搜索到。
哪些网页才能被保存到搜索引擎的服务器上呢?只有搜索引擎的网页抓取程序抓到的网页才会保存到搜索引擎的服务器上，这个网页抓取程序就是搜索引擎的蜘蛛.整个过程分为爬行和抓取。
一、 蜘蛛 搜索引擎用来爬行和访问网站页面的程序被称为蜘蛛，也可称之为机器人。
蜘蛛访问浏览器，就和我们平时上网一个样子，蜘蛛同样会申请访问，得到允许后才可以浏览，可是有一点，搜索引擎为了提高质量和速度，它会放很多蜘蛛一起去爬行和抓取。
蜘蛛访问任何一个网站时，都会先去访问网站根目录下的文件。
如果文件禁止搜索引擎抓取某些文件或目录，蜘蛛将遵守协议，不抓取被禁止的网址。
和浏览器一样，搜索引擎蜘蛛也有表明自己身份的代理名称，站长可以在日志文件中看到搜索引擎的特定代理名称，从而辨识搜索引擎蜘蛛。
二、 跟踪链接 为了抓取网上尽量多的页面，搜索引擎蜘蛛会跟踪页面上的链接，从一个页面爬到下一个页面，就好像蜘蛛在蜘蛛网上爬行一样。
整个互联网是有相互链接的网站及页面组成的。
当然，由于网站及页面链接结构异常复杂，蜘蛛需要采取一定的爬行策略才能遍历网上所有页面。
最简单的爬行的策略有：深度优先和广度优先。
1、 深度链接
深度优先指当蜘蛛发现一个链接时，它就会顺着这个链接指出的路一直向前爬行，直到前面再也没其他链接，这时就会返回第一个页面，然后会继续链接再一直往前爬行。
2、 广度链接
从seo角度讲链接广度优先的意思是讲的蜘蛛在一个页面发现多个链接的时候，不是跟着一个链接一直向前，而是把页面上所有第一层链接都爬一遍，然后再沿着第二层页面上发现的链接爬向第三层页面。
从理论上说，无论是深度优先还是广度优先，只要给蜘蛛足够的时间，都能爬完整个互联网。
在实际工作中，没有什么东西是无限的，蜘蛛的带宽资源和蜘蛛的时间也是一样都是有限的，也不可能爬完所有页面。
实际上最大的搜索引擎也只是爬行和收录了互联网的一小部分。
3.吸引蜘蛛 蜘蛛式不可能抓取所有的页面的，它只会抓取重要的页面，那么哪些页面被认为比较重要呢?有以下几点： (1) 网站和页面权重 (2) 页面更新度
(3) 导入链接 (4) 与首页点击距离 4.地址库
搜索引擎会建立一个地址库，这么做可以很好的避免出现过多抓取或者反复抓取的现象，记录已经被发现还没有抓取的页面，以及已经被抓取的页面。
地址库中的URL有以下几个来源： (1) 人工录入的种子网站。
(2) 蜘蛛抓取页面后，从HTML中解析出新的链接URL，与地址库中的数据进行对比，如果是地址库中没有的网址，就存入待访问地址库。
(3) 搜索引擎自带的一种表格提供站长，方便站长提交网址。
搜索引擎如何抓取互联网页面?每个独立的搜索引擎都有自己的网页抓取程序（spider）。
Spider顺着网页中的超链接，连续地抓取网页。
被抓取的网页被称之为网页快照。
由于互联网中超链接的应用很普遍，理论上，从一定范围的网页出发，就能搜集到绝大多数的网页。
抓取网页信息需要有高性能的“网络蜘蛛”程序(Spider)去自动地在互联网中搜索信息。
一个典型的网络蜘蛛工作的方式，是查看一个页面，并从中找到相关信息,然后它再从该页面的所有链接中出发，继续寻找相关的信息，以此类推，直至穷尽。
网络蜘蛛要求能够快速、全面。
网络蜘蛛为实现其快速地浏览整个互联网，通常在技术上采用抢先式多线程技术实现在网上聚集信息。
通过抢先式多线程的使用，你能索引一个基于URL链接的Web页面，启动一个新的线程跟随每个新的URL链接，索引一个新的URL起点。
当然在服务器上所开的线程也不能无限膨胀，需要在服务器的正常运转和快速收集网页之间找一个平衡点。
在算法上各个搜索引擎技术公司可能不尽相同，但目的都是快速浏览Web页和后续过程相配合。
目前国内的搜索引擎技术公司中，比如百度公司的网络蜘蛛采用了可定制、高扩展性的调度算法使得搜索器能在极短的时间内收集到最大数量的互联网信息，并把所获得的信息保存下来以备建立索引库和用户检索。

三、如何禁止搜索引擎爬虫（Spider）抓取网站页面

一般情况，大家都是希望搜索引擎爬虫尽可能多的抓取自己的网站，但有时也需要告诉爬虫不要抓取，比如，不要抓取镜像页面等。
以下列举了屏蔽主流搜索引擎爬虫（蜘蛛）抓取/索引/收录网页的几种思路。注意：是整站屏蔽，而且是尽可能的屏蔽掉所有主流搜索引擎的爬虫（蜘蛛）。
1、通过 文件屏蔽

四、怎样提高网站页面被搜索引擎抓取的几率

答：首先，你发信息的这个平台很重要，必须是信息量大，权重高的网站（需要这些平台的话可以找我）；其次，你发信息的质量也很关键，标题尽量不一样，文章原创；最后，其中也存在一些不确定因素，你得研究搜索引擎对这个网站的喜好，研究哪个时间段发信息收录的好等等