关于懒人采集器采集重复数据的解决方法,欢迎转发

 •  2020-07-03

用户在使用懒人采集器执行网页采集任务的时候,常常会遇到重复采集字段内容的情况,有大量重复数据被添加到本地采集库中,为后续的信息处理带来麻烦。那么应该如何避免重复采集数据呢?

懒人采集器采集数据重复怎么办?

首先我们要分析采集数据出现重复的原因:一是在重复对相同网页进行字段采集之前没有清空之前的数据;二是网页本身存在重复数据,然后介绍解决方法。

1、进入编辑任务采集配置界面,如果想避免某个字段重复采集,那么点击该字段表头右侧倒三角图标。

2、然后会弹出字段采集设置界面,勾选【过滤重复】,然后点击【确定】即可。

3、如果想避免多个字段重复采集,点击逐个字段表头倒三角图标逐一设置即可,操作方法一样。

以上就是关于使用懒人采集器如何避免重复采集的介绍,想要了解更多相关内容,大家可以登陆官网查看详细教程。