一、首先將網頁內容整個抓取下來，數據放在byte[]中（網絡上傳輸時形式是byte），進一步轉化為String，以便于對其操作，實例如下：
復制代碼代碼如下:
private static string GetPageData(string url)
{
if (url == null || url.Trim() == "")
return null;
WebClient wc = new WebClient();
wc.Credentials = CredentialCache.DefaultCredentials;
Byte[] pageData = wc.DownloadData(url);
return Encoding.Default.GetString(pageData);//.ASCII.GetString
}
二、得到了數據的字符串形式，然后可以對網頁進行解析了（其實就是對字符串的各種操作和正則表達式的應用）：
常用的的解析還有以下幾種：
1.獲取標題
復制代碼代碼如下:
Match TitleMatch = Regex.Match(strResponse, "<title>([^<]*)</title>", RegexOptions.IgnoreCase | RegexOptions.Multiline);
title = TitleMatch.Groups[1].Value;
2.獲取描述信息
復制代碼代碼如下:
Match Desc = Regex.Match(strResponse, "<meta name=/"DESCRIPTION/" content=/"([^<]*)/">", RegexOptions.IgnoreCase | RegexOptions.Multiline);
strdesc = Desc.Groups[1].Value;
3.獲取圖片
復制代碼代碼如下:
public class HtmlHelper
{
/// <summary>
/// HTML中提取圖片地址
/// </summary>
public static List<string> PickupImgUrl(string html)
{
Regex regImg = new Regex(@"<img/b[^<>]*?/bsrc[/s/t/r/n]*=[/s/t/r/n]*[""']?[/s/t/r/n]*(?<imgUrl>[^/s/t/r/n""'<>]*)[^<>]*?/?[/s/t/r/n]*>", RegexOptions.IgnoreCase);
MatchCollection matches = regImg.Matches(html);
List<string> lstImg = new List<string>();
foreach (Match match in matches)
{
lstImg.Add(match.Groups["imgUrl"].Value);
}
return lstImg;
}
/// <summary>
/// HTML中提取圖片地址
/// </summary>
public static string PickupImgUrlFirst(string html)
{
List<string> lstImg = PickupImgUrl(html);
return lstImg.Count == 0 ? string.Empty : lstImg[0];
}
}
4.去除Html標簽
復制代碼代碼如下:
private string StripHtml(string strHtml)
{
Regex objRegExp = new Regex("<(.|/n)+?>");
string strOutput = objRegExp.Replace(strHtml, "");
strOutput = strOutput.Replace("<", "<");
strOutput = strOutput.Replace(">", ">");
return strOutput;
}
有些例外會使得去除不干凈，所以建議連續(xù)兩次轉化。這樣將Html標簽轉化為了空格。太多連續(xù)的空格會影響之后對字符串的操作。所以再加入這樣的語句：
復制代碼代碼如下:
//把所有空格變?yōu)橐粋€空格
Regex r = new Regex(@"/s+");
wordsOnly = r.Replace(strResponse, " ");
wordsOnly.Trim();
