本文介绍使用抓取1688-某店铺全部商品信息的方法,十分钟即可上手制作完成,抓取到的数据可以直接导入到数据库或网站。可以举一反三,快速地实现各类网页数据的抓取。
在开始之前,可以先参考一下这些文章,希望有帮助:
小白30分钟学会网页采集基础教程[八爪鱼篇,有N多案例]
一大波可视化网页采集完整过程记录 新手也能一看就会
八爪鱼是一种可视化网页内容采集工具,可以在官网bazhuayu.com获取到。
1688店铺商品抓取数据说明:本文进行了1688-商铺的所有商品进行抓取。本文仅以“1688-商铺的所有商品进行抓取”为例,大家在实操过程中,可根据自身需求,更换1688的其他内容进行数据抓取。
1688店铺商品抓取字段详细说明:店铺商品标题,店铺商品价格,店铺商品成交次数。
步骤1:创建抓取任务
1)进入主界面,选择“自定义模式”
2)将要抓取的网址复制粘贴到网站输入框中,点击“保存网址”
步骤2:创建翻页循环
1)将页面下拉到底部,点击“下一页”按钮,在右侧的操作提示框中,选择“循环点击下一页”
步骤3:创建列表循环并提取数据1)移动鼠标,选中页面里的第一条商品信息的区块。系统会识别此区块中的子元素,在操作提示框中,选择“选中子元素”
2)系统会自动识别出页面中的其他同类元素,在操作提示框中,选择“选中全部”,以建立一个列表循环
3)我们可以看到,页面中企业信息区块里的所有元素均被选中,变为绿色。右侧操作提示框中,出现字段预览表,将鼠标移到表头,点击垃圾桶图标,可删除不需要的字段。字段选择完成后,选择“抓取以下数据”
4)字段选择完成后,选中相应的字段,可以进行字段的自定义命名
步骤4:修改Xpath
1)我们继续观察,在“列表循环”步骤中,我们要建立的是整个页面18个商品链接的循环。选中整个“循环步骤”,打开“高级选项”,不固定元素列表中的这条Xpath://DIV[@id=wp-all-offer-tab]/DIV[1]/DIV[2]/DIV[1]/DIV[1]/DIV[1]/UL[1]/LI,对应的只有3个循环项。将此条Xpath,复制粘贴到火狐浏览器中的相应位置
Xpath:是一种路径查询语言,简单的说就是利用一个路径表达式找到我们需要的数据位置。
Xpath是用于XML中沿着路径查找数据用的,但是抓取器内部有一套针对HTML的Xpath引擎,使得直接用XPATH就能精准的查找定位网页里面的数据。
2)在火狐浏览器中,我们发现,通过这条Xpath:
//DIV[@id=wp-all-offer-tab]/DIV[1]/DIV[2]/DIV[1]/DIV[1]/DIV[1]/UL[1]/LI,页面中被定位的是3个商品信息区块。而我们需要的是,本页中18个商品信息区块,均被选中
3)将Xpath修改为://DIV[@id=wp-all-offer-tab]/DIV[1]/DIV[2]/DIV[1]/DIV[1]/DIV[1]/UL/LI
我们发现,页面中要抓取的18个商品信息区块,均被选中了
4)将修改后的Xpath://DIV[@id=wp-all-offer-tab]/DIV[1]/DIV[2]/DIV[1]/DIV[1]/DIV[1]/UL/LI
复制粘贴到图片中所示的位置,然后点击“确定”
5)点击左上角的“保存并启动”,选择“启动本地抓取”
步骤4:数据抓取及导出1)抓取完成后,会跳出提示,选择“导出数据”。选择“合适的导出方式”,将抓取好的数据导出
2)这里我们选择excel作为导出为格式,数据导出后如下图