对于垂直搜索来说，聚焦爬虫，即有针对性地爬取特定主题网页的爬虫，更为适合。
创新互联公司专注为客户提供全方位的互联网综合服务，包含不限于成都做网站、网站设计、外贸营销网站建设、犍为网络推广、微信小程序开发、犍为网络营销、犍为企业策划、犍为品牌公关、搜索引擎seo、人物专访、企业宣传片、企业代运营等，从售前售中售后，我们都将竭诚为您服务，您的肯定，是我们最大的嘉奖；创新互联公司为所有大学生创业者提供犍为建站搭建服务，24小时服务热线：18982081108，官方网址：www.cdcxhl.com
爬虫的原理其实就是获取到网页内容，然后对其进行解析。只不过获取的网页、解析内容的方式多种多样而已。你可以简单的使用httpclient发送get/post请求，获取结果，然后使用截取字符串、正则表达式获取想要的内容。
比如，我们如果想得到一个网页上所有包括“java”关键字的文本内容，就可以逐行对网页代码进行正则表达式的匹配。最后达到去除html标签和不相关的内容，只得到包括“java”这个关键字的内容的效果。
1、爬虫的原理其实就是获取到网页内容，然后对其进行解析。只不过获取的网页、解析内容的方式多种多样而已。你可以简单的使用httpclient发送get/post请求，获取结果，然后使用截取字符串、正则表达式获取想要的内容。
2、1．编写useSourceViewer 类的基本框架，该类仅包括无返回值的main ()方法，该方法从参数中获取URL，通过输入缓冲和输出缓冲将该URL 原码输出。
3、我想你应该是想通过这个页面的url来得到这个网页里面的某些数据把。用HttpClient 。下面我这个方法是得到搜狗页面命中多少条记录的代码。
1．编写useSourceViewer 类的基本框架，该类仅包括无返回值的main ()方法，该方法从参数中获取URL，通过输入缓冲和输出缓冲将该URL 原码输出。
Java可以通过链接的mime类型来判断源文件的类型，从而得到源文件内容，示例如下：URLConnection提供了两种方法可以猜测（根据实测结果，这个猜测是相当的准）数据的MIME类型。
使用正则表达式去匹配就行了。第一步：下载你需要分析的网页的源码 第二步：在程序中使用正则表达式去匹配源码，保存匹配成功的链接地址就行。
Java的话可以用Apache HTTP Client编程实现。http：//hc.apache.org/httpclient-x/tutorial.html 这是简介和教程。网页上也能找到下载链接。（希望LZ英文还可以~）其他语言应该也有相似的库。
要看你想要找什么样的源代码了。如果是依赖的第三方包，可以在开发工具中配置下载源代码和描述文件，开发工具会自动把源代码下载下来，方便调试和查看具体实现。
