二、从获取代码中提取所有用的数据

　　目前我掌握的方法有：

　　1、用ASP内置的MID函数截取需要的数据

　　CODE:[Copy to clipboard]Function body(wstr,start,over)

　　'-----------------翟振恺(小琦)

　　start=Newstring(wstr,start)

　　'设置需要处理的数据的唯一的开始标记

　　over=Newstring(wstr,over)

　　'和start相对应的就是需要处理的数据的唯一的结束标记

　　body=mid(wstr,start,over-start)

　　'设置显示页面的范围

　　'-----------------翟振恺(小琦)

　　End Function

　　调用方法：body(被采集的页面的内容,开始标记,结束标记)

　　2、用正则获取需要的数据

　　CODE:[Copy to clipboard]Function body(wstr,start,over)

　　'-----------------翟振恺(小琦)

　　Set xiaoqi = New Regexp'设置配置对象

　　xiaoqi.IgnoreCase = True'忽略大小写

　　xiaoqi.Global = True'设置为全文搜索

　　xiaoqi.Pattern = "”&start&“.+?”&over&“"'正则表达式

　　Set Matches =xiaoqi.Execute(wstr)'开始执行配置

　　set xiaoqi=nothing

　　body=""

　　For Each Match in Matches

　　body=body&Match.Value '循环匹配

　　Next

　　'-----------------翟振恺(小琦)

　　End Function

　　调用方法：body(被采集的页面的内容,开始标记,结束标记)

　　采集程序祥细思路：

　　1、取得网站的分页列表页的每页地址

　　目前绝大部分动态网站的分页地址都有规则，如:

　　动态页

　　第一页：index.asp?page=1

　　第二页：index.asp?page=2

　　第三页：index.asp?page=3

　　.....

　　静态页

　　第一页：page_1.htm

　　第二页：page_2.htm

　　第三页：page_3.htm

　　.....

　　取得网站的分页列表页的每页地址，只需要用变量替代每页地址的变化的字符即可如：page_<%="&page&"%>.htm

　　2、获取被采集网站的分页列表页内容

　　3、从分页列表代码中提取被采集的内容页面的URL连接地址

　　绝大部分分页页面里的内容页连接也有固定规则，如：

　　<a href="url1">连接1</a> <br>
       <a href="url2">连接2</a> <br>
       <a href="url3">连接3</a> <br>

　　用以下代码就可以获得一个URL连接集合

　　CODE:[Copy to clipboard]'-----------------翟振恺(小琦)

　　Set xiaoqi = New Regexp

　　xiaoqi.IgnoreCase = True

　　xiaoqi.Global = True

　　xiaoqi.Pattern = ””“.+?”““

　　Set Matches =xiaoqi.Execute(页面列表内容)

　　set xiaoqi=nothing

　　url=""

　　For Each Match in Matches

　　url=url&Match.Value

　　Next

　　'-----------------翟振恺(小琦)

　　4、取得被采集的内容页面内容，根据”提取标记“从被采集的内容页面分别截取要取得的数据

　　因为是动态生成的页面，大多数内容页面内都有相同的html标记，我们可以根据这些有规则的标记提取需要的各个部分的内容。

　　如：

　　每个页面都有网页标题，用我上面写的MID截取函数就可以获得之间的值，也可以用正则表达式来获得。

　　例：body("","")

　　介绍完采集器的祥细原理后，就开始说一下防采集的策略。

　　目前防采集的方法有很多种，先介绍一下常见防采集策略方法和它的弊端及采集对策：

　　一、判断一个IP在一定时间内对本站页面的访问次数，如果明显超过了正常人浏览速度，就拒绝此IP访问

　　弊端：

　　1、此方法只适用于动态页面，如：asp\jsp\php等...静态页面无法判断某个IP一定时间访问本站页面的次数

　　2、此方法会严重影响搜索引擎蜘蛛对其收录，因为搜索引擎蜘蛛收录时，浏览速度都会比较快而且是多线程。此方法也会拒绝搜索引擎蜘蛛收录站内文件

　　采集对策：只能放慢采集速度，或者不采

　　建议：做个搜索引擎蜘蛛的IP库，只允许搜索引擎蜘蛛快速浏览站内内容。搜索引擎蜘蛛的IP库的收集，也不太容易，一个搜索引擎蜘蛛，也不一定只有一个固定的IP地址。

　　评论：此方法对防采集比较有效，但却会影响搜索引擎对其收录。

　　二、用javascript加密内容页面

　　弊端：此方法适用于静态页面，但会严重影响搜索引擎对其收录情况，搜索引擎收到到的内容，也都是加密后的内容

　　采集对策：建议不采，如非要采，就把解密码的JS脚本也采下来。

　　建议：目前没有好的改良建议

　　评论：建议指望搜索引擎带流量的站长不要使用此方法。