古龙seo
登录
22
0
2

url是什么意思,搜索引擎怎么抓取网页的

234g2025-04-07 19:14:36

url,即统一资源定位符,通过对url的分析,我们可以更好地理解页面抓取过程。今天,小小课堂seo学网带来的是《页面抓取过程简述》。希望本次的seo技术培训对大家有所帮助。

seo

一、url是什么意思?

URL,英文全称为“uniform resource locator”,中文译为“统一资源定位符”。

网站优化中要求每一个页面有且仅有一个唯一的统一资源定位符(URL),但往往很多网站同一页面对应了很多个URL,如果都被搜索引擎收录且未做URL转向,就会产生权重不集中的情况,通常称为URL不规范。

二、url的组成

统一资源定位符(URL),由三部分组成:协议方案、主机名和资源名。

例如:

https:// www.x**.org /11806

其中https为协议方案,www.***.org 为主机名 ,11806为资源,不过这个资源不太明显,一般资源后缀为.html,当然还可以是.pdf、.php、.word等格式。

三、页面抓取过程简述

无论是我们平时用的互联网浏览器,还是网络爬虫,虽然是两种不同的客户端,但获取页面的方式却是相同的。页面抓取过程如下:

① 连接DNS域名系统服务器

客户端都会先连接到DNS域名服务器上,DNS服务器将主机名( www.***.org )转换为IP地址,并反馈给客户端。

PS:本来我们通过111.152 . 151.45 的地址来访问某网站,为了方便记忆和使用,才利用DNS域名系统转换为了 www.***.org 。这也就是DNS域名系统的作用。

② 连接IP地址服务器

该IP服务器下可能会有很多程序(网站),可以通过端口号来做区分,同时每个程序(网站)都会监听端口是否有新的连接请求,HTTP网站默认为80,HTTPS网站默认为443。

不过通常情况下,端口号80和443是默认不出现的。

举例来讲:

https://www.***.org:443/ = https://www.***.org/

http://www.***.org:80/ = http://www.***.org/

③ 建立连接并发送页面请求

客户端与服务器建立连接后,会发送页面请求,通常为get,也可以是post。

get 11806 HTTPS/

获取HTTPS协议下的页面11806 返回给客户端。之后如需继续获取更多页面,则发送其他请求,否则将关闭该连接。

PS:通常情况下 ,/seo/ 可能会更清晰。也就是发送 https://www.***.org/ 下的 seo文件夹下的 的页面请求。

本文转载自思享SEO博客

标签:seo技术网站

猜你喜欢

  • SEO必备,网站词库拓展建设

    SEO必备,网站词库拓展建设

    我以前做网站是没有词库这个概念的,今天恰巧和站长交流的时候提到了词库的建设,大致问题就是如何增加词库。其实我也不是特别明白,只是听说使用长尾关键词挖掘然后拓展,至于怎么用,也没有聊到。所以我的求知欲让...

    seo技术2025-04-13
  • SEO域名篇—如何选择一个好域名

    域名选择误区很多做站的大佬都告诉新入行的SEO优化员,选择域名一定要选择老域名,这里也是一个误区,很多新手在听了大佬的话后去就选择一些5年-15年的老域名直接做站,不去查查这个域名是否被360、QQ、...

    seo技术2025-04-13
  • 怎么根据网站制定科学的SEO方案

    怎么根据网站制定科学的SEO方案

    不管是我们为自己的网站做SEO优化,还是做公司网站的SEO优化,又或者是给客户提供SEO服务,优帮云小编都希望大家能在SEO工作开始之前做好一份详细的SEO方案,不要怕费时间,只有有计划地去工作,才能...

    seo技术2025-04-11
  • ZBlog建站优化指南:提升网站性能与用户体验

    ZBlog建站优化指南:提升网站性能与用户体验一、前言在当今互联网时代,拥有一个功能完善、性能卓越的网站对于企业和个人来说至关重要。ZBlog作为一款流行的博客程序,以其简单易用、功能强大而受到广...

    seo技术2025-04-10
  • WordPress建站优化指南:提升网站性能与用户体验

    WordPress建站优化指南:提升网站性能与用户体验一、引言随着互联网的快速发展,网站已成为企业和个人展示形象、传递信息的重要平台。WordPress作为全球最受欢迎的内容管理系统(CMS),以...

    seo技术2025-04-10
  • PJblog建站优化指南:提升网站性能与用户体验

    PJblog建站优化指南:提升网站性能与用户体验一、引言随着互联网的快速发展,越来越多的人开始关注网站建设和优化。PJblog作为一个开源的博客系统,因其简洁易用、功能强大而受到广大用户的喜爱。然...

    seo技术2025-04-10
  • Bo-Blog建站优化指南:提升网站性能与用户体验

    在数字化时代,拥有一个高效、用户友好的网站是吸引和保留访客的关键。本文将为您介绍如何通过Bo-Blog平台优化您的网站,从而提升其性能和用户体验。无论您是初学者还是经验丰富的站长,这些实用技巧都将帮助...

    seo技术2025-04-10
  • Sablog-X建站优化指南:提升网站性能与用户体验

    Sablog-X建站优化指南:提升网站性能与用户体验一、前言在互联网时代,拥有一个功能强大、用户体验良好的网站是吸引和留住用户的关键。Sablog-X作为一款流行的博客系统,凭借其丰富的功能和高度...

    seo技术2025-04-10
  • oBlog建站优化指南:提升网站性能与用户体验

    oBlog建站优化指南:提升网站性能与用户体验在数字时代,拥有一个高效、用户友好的网站是企业成功的关键。oBlog作为一个强大的内容管理系统(CMS),为创建和管理网站提供了丰富的功能。然而,仅仅建...

    seo技术2025-04-10
  • 搜索引擎是怎么计算排名的

    seo优化工作原理,熟悉了这个之后,相信你在做seo优化过程中就不至于晕头转向,有些人听到些别人的建议,比如外链没做,权重太低,收录低,内链太少等等,却不明白到底是怎么没回事。下面地表互联小编分两步介...

    seo技术2025-04-09

网友评论