神马Spider是什么？相信很多人都会有这样的疑问，下面西部数码网为您详解一下神马Spider介绍。
1. 神马Spider
神马Spider是神马访问互联网，自动化抓取网页的程序。Spider抓取下网页，建立索引，使用户可通过搜索引擎搜索到互联网上的资源。
2. 神马Spider的user-agent及ip地址
user-agent，是http协议中的一个属性，代表了终端的身份。神马Spider的user-agent为：Yisouspider，因为历史原因此user-agent名称将会继续使用。
神马Spider的ip地址是一组ip池，会动态变，因此不在此列举。
3. 神马Spider的网站访问频率
神马会根据网站的规模、服务能力、页面质量、更新速度等因素来决定对网站的访问频率。通常质量高、网页更新快的网站神马spider访问的频率相对会高，以保证高质、时效的能够展现给用户。
4. 神马spider如何发现西部数码页
神马spider发现西部数码页的方式有多种，最典型的是在已发现的网页中分析超链关系，选取url并抓取，如此不断拓展，尽可能多的抓取到有价值的网页。另外，神马会从dns服务商处获取西部数码站域名，能够及时抓取到新建网站。
5. 关于robots协议
robots.txt是搜索引擎访问网站是要访问的第一个文件，以确定哪些网页是允许或禁止抓取的。神马搜索遵守互联网robots协议，如您希望完全禁止神马访问或对部分目录禁止访问，您可以通过robots.txt文件来设置内容，限定神马Spider的访问权限。
robots.txt必须放在网站根目录下，且文件名要小写。
具体的写法：
1) 完全禁止神马Spider抓取：
User-agent: Yisouspider
Disallow: /
2) 禁止神马spider抓取指定目录
User-agent: Yisouspider
Disallow: /update
Disallow: /history
禁止抓取update、history目录下网页
6. 神马Spider是否会造成带宽负担
神马Spider有规范的抓取流程，同时也会考虑网站的忙闲时段来抓取，因此不会给网站造成带宽负担。
以上就是对神马Spider是什么？神马Spider介绍的全部介绍，如果你想了解更多seo知识，请关注西部数码网。
?
西部数码（west.cn）是经工信部、ICANN、CNNIC认证的全球顶级域名注册服务机构，是中国五星级域名注册商！有超过2000万个域名通过西部数码注册并管理，超过100万个网站托管在西部数码云服务器和虚拟主机。西部数码支持数十个顶级域名的注册与管理，支持批量查询、批量注册、批量解析、智能解析、批量过户等便捷好用的功能，拥有非常好的使用体验。
目前，西部数码域名注册正在特价，最低仅需1元！
更多详情请见：https://www.west.cn/services/domain/
西部数码域名抢注预定，支持抢注各类高价值老域名，支持“建站历史、百度收录、百度权重、历史外链、百度评价、搜狗反链”等综合检索功能，共计26项！可快速精准定位到您想要定位到的各类精品域名！同时，西部数码域名抢注集成了全球多个抢注商（近200个抢注商，还将陆续增加），整理出13条抢注通道，从根本上提升了抢注成功率！
其中，1号通道，实测抢注成功率高达99% 。每天西部数码预释放功能还会释放若干优质过期域名，可以直接抢注竞拍。
赶紧预订抢注心仪的优质域名吧：https://www.west.cn/booking/
