公司员工数据比对程序实现
有┅个员工数据的视图,里面有800多万条数据视图中有姓名,身份证号性别等信息,其中身份证可能有重复
有一个webservice接口,是公安数据通过传入视图中身份证字段进行查询,每次传入一个身份号如果有记录,则并返回姓名身份证,出生年月等字段
需要先查询员工视圖,获得身份号码才能调用webservice接口进行比对,由于员工视图数据量过大没有自增ID,如果
一下子查询全部放到内存中肯定不信怎样比对財能做到高效?如何做到分批查询和比对
------解决方案--------------------1. 高效是做不到了,逐条比对是接口的要求除非你有能力改接口,不然是没办法做到高效了
2. 分批查询与比对可以参照SQL分页方式进行比对,比如说你每个批次取100条数据: