专注收集记录技术开发学习笔记、技术难点、解决方案
网站信息搜索 >> 请输入关键词:
您当前的位置: 首页 > 行业应用

生手必看八爪鱼1688店铺全部商品信息采集(图文并茂)

发布时间:2010-06-06 17:00:08 文章来源:www.iduyao.cn 采编人员:星星草
新手必看八爪鱼1688店铺全部商品信息采集(图文并茂)

本文介绍使用抓取1688-某店铺全部商品信息的方法,十分钟即可上手制作完成,抓取到的数据可以直接导入到数据库或网站。可以举一反三,快速地实现各类网页数据的抓取。



在开始之前,可以先参考一下这些文章,希望有帮助:
小白30分钟学会网页采集基础教程[八爪鱼篇,有N多案例]
一大波可视化网页采集完整过程记录 新手也能一看就会

八爪鱼是一种可视化网页内容采集工具,可以在官网bazhuayu.com获取到。



1688店铺商品抓取数据说明:本文进行了1688-商铺的所有商品进行抓取。本文仅以“1688-商铺的所有商品进行抓取”为例,大家在实操过程中,可根据自身需求,更换1688的其他内容进行数据抓取。

1688店铺商品抓取字段详细说明:店铺商品标题,店铺商品价格,店铺商品成交次数。

 

步骤1:创建抓取任务

1)进入主界面,选择“自定义模式”

 

 

2)将要抓取的网址复制粘贴到网站输入框中,点击“保存网址”

 

 

步骤2:创建翻页循环

1)将页面下拉到底部,点击“下一页”按钮,在右侧的操作提示框中,选择“循环点击下一页”

 

步骤3:创建列表循环并提取数据1)移动鼠标,选中页面里的第一条商品信息的区块。系统会识别此区块中的子元素,在操作提示框中,选择“选中子元素”

 

 

2)系统会自动识别出页面中的其他同类元素,在操作提示框中,选择“选中全部”,以建立一个列表循环

 

 

3)我们可以看到,页面中企业信息区块里的所有元素均被选中,变为绿色。右侧操作提示框中,出现字段预览表,将鼠标移到表头,点击垃圾桶图标,可删除不需要的字段。字段选择完成后,选择“抓取以下数据”

 

 

4)字段选择完成后,选中相应的字段,可以进行字段的自定义命名

 

 

步骤4:修改Xpath

1)我们继续观察,在“列表循环”步骤中,我们要建立的是整个页面18个商品链接的循环。选中整个“循环步骤”,打开“高级选项”,不固定元素列表中的这条Xpath://DIV[@id=wp-all-offer-tab]/DIV[1]/DIV[2]/DIV[1]/DIV[1]/DIV[1]/UL[1]/LI,对应的只有3个循环项。将此条Xpath,复制粘贴到火狐浏览器中的相应位置

 

Xpath:是一种路径查询语言,简单的说就是利用一个路径表达式找到我们需要的数据位置。

Xpath是用于XML中沿着路径查找数据用的,但是抓取器内部有一套针对HTML的Xpath引擎,使得直接用XPATH就能精准的查找定位网页里面的数据。

 

2)在火狐浏览器中,我们发现,通过这条Xpath:

//DIV[@id=wp-all-offer-tab]/DIV[1]/DIV[2]/DIV[1]/DIV[1]/DIV[1]/UL[1]/LI,页面中被定位的是3个商品信息区块。而我们需要的是,本页中18个商品信息区块,均被选中

 

 

3)将Xpath修改为://DIV[@id=wp-all-offer-tab]/DIV[1]/DIV[2]/DIV[1]/DIV[1]/DIV[1]/UL/LI

我们发现,页面中要抓取的18个商品信息区块,均被选中了

 

 

4)将修改后的Xpath://DIV[@id=wp-all-offer-tab]/DIV[1]/DIV[2]/DIV[1]/DIV[1]/DIV[1]/UL/LI

复制粘贴到图片中所示的位置,然后点击“确定”

 

 

5)点击左上角的“保存并启动”,选择“启动本地抓取”

 

 

步骤4:数据抓取及导出1)抓取完成后,会跳出提示,选择“导出数据”。选择“合适的导出方式”,将抓取好的数据导出

 

 

2)这里我们选择excel作为导出为格式,数据导出后如下图

 

 

友情提示:
信息收集于互联网,如果您发现错误或造成侵权,请及时通知本站更正或删除,具体联系方式见页面底部联系我们,谢谢。

其他相似内容:

  • 《松本行弘的程序全世界》之面向对象

    《松本行弘的程序世界》之面向对象 最近读《SICP》把脑细胞搞死大半,还没看完2章,而且看得也是一知半解,实在是受不了了,...

  • GroovyHelp 3.2.7 GA公布

    GroovyHelp 3.2.7 GA发布 GroovyHelp简介   GroovyHelp是一款Javadoc及Groovydoc搜索查阅软件,它能够帮助Java开发人员以...

  • Velocity在Roller中的使用

    Velocity在Roller中的应用 Velocity是java世界中出现比较早,也比较成熟的、性能比较好的、应用也比较广泛的模板框架。   所...

  • Rpc远程调用框架的设计与兑现(2)

    Rpc远程调用框架的设计与实现(2) 接上: 3   基于Json的前后端数据交互 3.1   轻量级的数据交换形式 3.1.1    什么是Jso...

  • excel 单元格的锁定 以及 JXL的兑现方式

    excel 单元格的锁定 以及 JXL的实现方式 在使用excel表格时,有些列是不希望用户可以修改的,诸如审计日志里面确定的部分,而审计...

  • 仓秤跟散料秤:java连接opc Server

    仓秤和散料秤:java连接opc Server 这三篇都是之前写好的,一直没发。 这次一起发出来吧。   java连接硬件很痛苦,特别是对我这...

  • Rpc远程调用框架的设计与兑现(1)

    Rpc远程调用框架的设计与实现(1) Rpc远程调用框架的设计与实现 1     Rpc远程调用框架设计概述 1.1   研究背景 1.1.1...

  • 集合中的线程安全有关问题

    集合中的线程安全问题 一、why? Java中常用的集合框架推荐使用的三个实现:HashSet\ArrayList\HashMap都是线程不安全的.如...

  • Java定时任务的兑现

    Java定时任务的实现 本例依据Java自身提供的接口实现,通过监听器(Listener)和定时器(Timer)定时执行某个任务(Task)。 MyListener: ...

  • java中log日记的使用

    java中log日志的使用 一、介绍  Log4j是Apache的一个开放源代码项目,通过使用Log4j,我们可以控制日志信息输送的目的地是控...

热门推荐: