此文章为本站(Lob.cn)乐博网原创,可以自由转载和传播,但希望能保留本站的作者和信息来源,谢谢!如果大家对此问题或者关于VB.Net抓取网页或者采集的话题感兴趣,就一起加入讨论把他做得更完善吧!
在调试VB.Net调用Microsoft.XMLHttp组件抓取网页时,遇到了抓取中文字符出现乱码,经测试若网页meta标签charset为utf-8的网页不会乱码,而charset为Gb2312的则会出现乱码,本文提供了一个完整的解决方法,希望对研究VB.Net抓取网页或者VB.Net实现采集功能的朋友有所帮助。
以下为VB.Net抓取网页的函数LobDotCn 注:url_Link为抓取的目标页面 IsGb2312为是否Gb2312字符
VB.Net抓取网页乱码的解决方法Public Function LobDotCn(ByVal url_Link As String, ByVal IsGb2312 As Boolean)
On Error Resume Next
Dim XmlHttp As Object
XmlHttp = CreateObject("Microsoft.XMLHttp")
XmlHttp.Open("POST", url_Link, False)
XmlHttp.Send()
Dim WebContent As Object
Dim Str_WebContent As String
If IsGb2312 Then
WebContent = XmlHttp.ResponseBody
Str_WebContent = System.Text.Encoding.Default.GetString(WebContent)
Else
WebContent = XmlHttp.ResponseText
Str_WebContent = WebContent.ToString
End If
XmlHttp = Nothing
LobDotCn = Str_WebContent
End Function
调用方式 :
变量 = LobDotCn("http://www.lob.cn", True) '抓取 Gb2312网页
变量 = LobDotCn("此处填写网址", False) ' 抓取utf-8网页
VB.Net抓取网页乱码的解决方法
附Microsoft.XMLHttp组件的相关说明:
Open( bstrMethod, bstrUrl, varAsync, bstrUser, bstrPassword )
bstrMethod: 数据传送方式,即GET或POST。
bstrUrl: 服务网页的URL。
varAsync: 是否同步执行。缺省为True,即同步执行,但只能在DOM中实施同步执行。用中一般将其置为False,即异步执行。
bstrUser: 用户名,可省略。
bstrPassword:用户口令,可省略。
Send( varBody )
varBody:指令集。可以是XML格式数据,也可以是字符串,流,或者一个无符号整数数组。也可以省略,让指令通过Open方法的URL参数代入。
setRequestHeader( bstrHeader, bstrvalue )
bstrHeader:HTTP 头(header)
bstrvalue: HTTP 头(header)的值
如果Open方法定义为POST,可以定义表单方式上传:
xmlhttp.setRequestHeader( "Content-Type", "application/x-www-form-urlencoded")
XMLHTTP属性:
onreadystatechange:在同步执行方式下获得返回结果的事件句柄。只能在DOM中调用。
responseBody: 结果返回为无符号整数数组。
responseStream: 结果返回为IStream流。
responseText : 结果返回为字符串。 VB.Net抓取网页乱码的解决方法
responseXML: 结果返回为XML格式数据。