php检测重复数据后删除且输出

还是昨天爬去别人API接口的问题,因为爬去了好久得到了6万多条数据有一些是重复的,肉眼也不可能去一个一个看,所以通过PHP代码进行去重复后删除再输出

代码如下

//访问我们需要检测重复的TXT数据文件
$text = file_get_contents('001.txt');
$lines = preg_split('/\r?\n/', $text);
$arr = array();
foreach($lines as $i=>$line) {
$arr[$line] = $i;
}
//重新写入一个新的TXT数据文件内
$fh = fopen('002.txt', 'a+'); 
fputs($fh, join("\n", array_keys($arr)));
fclose($fh);

 

1. 本站所有资源来源于用户上传和网络,如有侵权请邮件联系站长!
2. 分享目的仅供大家学习和交流,您必须在下载后24小时内删除!
3. 不得使用于非法商业用途,不得违反国家法律。否则后果自负!
4. 本站提供的源码、模板、插件等等其他资源,都不包含技术服务请大家谅解!
5. 如有链接无法下载、失效或广告,请联系管理员处理!
6. 本站资源售价只是赞助,收取费用仅维持本站的日常运营所需!

慕沐Official » php检测重复数据后删除且输出

发表评论

慕沐Official

若无法下载请使用如下方法进行下载

使用微信扫描二维码即可下载!

或查找QQ群:675850810

登录后购买