搜索引擎能不能找到页面
要让搜索引擎发现网站首页,就必须要有外部连接到首页,找到首页后,蜘蛛沿着内部链接找到更深的内容页,所以要求网站要有良好的结构,符合逻辑,并且所有页面可以通过可爬行的普通html链接达到。JavaScript链接、flash中的链接等搜索引擎蜘蛛一般不能跟踪爬行,就会造成收录问题。
网站所有页面离首页点击不能太远了,最好在四五次点之内,要被搜索引擎收录,页面需要有最基本的权重,良好的网站链接结构可以适当传递权重,使尽量多的页面达到收录门槛。
找到网页能不能抓取页面内容
被发现的url必须是可以被抓取的,数据库动态生成、带有过多的url、seesionid、整个页面是flash、框架结构、可疑转向、大量复制内容等都可以使搜索引擎敬而远之。
某些文件站长可能不希望被收录,除了不连接到这些文件,更保险的方法是使用robots文件和meta robots标签禁止收录。
抓取页面后怎样提炼有用信息
关键词在页面重要位置的合理分布、重要标签的撰写、html 代码精简、起码的兼容性等可以帮助搜索引擎理解页面内容,提取有用信息。
只有搜索引擎能顺利找到所有页面,抓取这些页面提出其中真正有相关的内容,网站才可以被视为是搜索引擎友好的。
网上搜索引擎不友好的网站比比皆是,尤其是一些中小型企业网站。所以我们一定要做好以上几点