Bagaimana untuk mencapai penyegerakan data berdasarkan Java-javaTutorial-php.cn

Latar Belakang Perniagaan

Menyediakan tugas berjadual dalam sistem baharu memerlukan penyegerakan data dalam sistem pelanggan dalam masa nyata untuk mengekalkan konsistensi data.

Logik pelaksanaan

1 Mengikut antara muka yang disediakan oleh pelanggan, sistem ini menggunakan kaedah permintaan Http Post untuk mendapatkan data antara muka.
2. Memandangkan antara muka yang disediakan oleh pelanggan mesti mengandungi nombor halaman dan kapasiti halaman, ia akan melibatkan berbilang permintaan kepada antara muka untuk mendapatkan jumlah data penuh, jadi operasi yang sama boleh dilakukan secara rekursif.
3. Setiap kali anda meminta antara muka, anda boleh mendapatkan berbilang keping data mengikut kapasiti halaman (pageSize) Pada masa ini, anda boleh menambah pangkalan data dalam kelompok dan menggunakan SQL kumpulan untuk menambah pernyataan.
4. Memandangkan penyegerakan data perlu mengekalkan ketekalan data dalam kedua-dua sistem, adalah perlu untuk menggunakan tugas berjadual dan menentukan kekerapan penyegerakan, contohnya: sekali sehari atau dua kali sehari.
5. Penggunaan tugas berjadual akan menyebabkan masalah pertindihan data, jadi wujudkan indeks unik berdasarkan medan unik untuk mengelakkan masalah penambahan data berulang.
6. Penubuhan indeks unik boleh mengelakkan masalah penambahan berulang rekod yang sama, tetapi ia tidak dapat mengelakkan masalah perubahan data dalam medan lain yang sama kecuali medan indeks unik untuk menambah pernyataan SQL boleh menyelesaikan masalah ini.

Petua: a Jika didapati baris data ini sudah wujud dalam jadual (berdasarkan kunci primer atau indeks unik), padamkan baris data ini dahulu dan. kemudian masukkan data baru. b. Jika tidak, masukkan data baharu secara langsung.

Menggunakan teknologi

1.
2. Gunakan kaedah Http’s Post untuk mendapatkan data antara muka.
3. Panggilan gelung rekursif digunakan apabila berbilang halaman data terlibat.
4. Pangkalan data operasi kelompok (ganti ke).
5. Cipta indeks unik untuk mengelakkan pemasukan data berulang.

Butiran kod

1.StudentMapper.java

/**
     * 批量添加数据同步接口学生数据
     * @param studentList
     * @return
     */
    int addBatchStudent(@Param(value = "studentList") List<Student> studentList);

Salin selepas log masuk

2.SyncStudentServiceImpl.java kod adalah seperti berikut:

import java.util.HashMap;
import java.util.List;
import java.util.Map;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.stereotype.Service;
import com.alibaba.fastjson.JSONArray;
import com.alibaba.fastjson.JSONObject;
import ***.common.utils.HttpUtils;
import ***.common.utils.StringUtils;
import ***.entity.sync.Student;
import ***.mapper.sync.StudentMapper;
import ***.service.sync.SyncStudentService;
import ***.vo.StudentVO;
import lombok.extern.slf4j.Slf4j;

/**
 * 数据同步的学生实现类
 * @author hc
 * @create 2021/03/25 11:20
 * @version 1.0
 * @since 1.0
 */
@Service
@Slf4j
public class SyncStudentServiceImpl implements SyncStudentService {
    @Autowired
    private StudentMapper studentMapper;
    @Autowired
    private HttpUtils httpUtils;

    @Override
    public void bulkAddStudent(StudentVO studentVO) {
        log.info("调取学生接口传的参数对象studentVO："+studentVO);
        log.info("开始调取学生接口获取第" + studentVO.getPageIndex() + "页数据");
        //如何页面容量小于100，则按100计算
        if(studentVO.getPageSize() < 100) {
            studentVO.setPageSize(100);
        }
        //根据当前页码和页面容量调取获取学生数据接口
        JSONObject jsonObject = this.sendStudentHttpPost(studentVO);
        //判断返回JSONObject是否为null
        if (StringUtils.isNotNull(jsonObject) && jsonObject.containsKey("errcode") && jsonObject.getInteger("errcode") == 0) {
            if(jsonObject.containsKey("data")){
                JSONArray jsonArray = jsonObject.getJSONArray("data");
                //通过判断获取的jsonObject对象中key值为data是否为null和其 jsonArray的长度来判断是否进行递归
                //提示：此判断方法好于通过计算总页码的方式来递归拿数据（对获取的total依赖过大，因此放弃此方式）
                if(jsonObject.getString("data") != null && jsonArray.size() > 0) {
                   log.info("当前数据加载到几页》》》》：{}", studentVO.getPageIndex());
                   //调取批量添加数据
                   this.addStudentCycleData(jsonObject, studentVO);
                   //页码加1，继续调取下一页数据
                      studentVO.setPageIndex(studentVO.getPageIndex() + 1);
                     //采用递归方式直至循环结束
                   this.bulkAddStudent(studentVO);
                }else {
                    log.info("学生数据同步结束》》》");
                }
            }
        }
    }

    /**
     * 批量添加学生数据
     * @param jsonObject
     * @param areaVO
     * @return
     */
    public void addStudentCycleData(JSONObject jsonObject, StudentVO studentVO){
        List<Student> studentList = null;
        //判断jsonArray时候为空
        if (jsonObject != null && StringUtils.isNotBlank(jsonObject.getString("data"))) {
            //把JsonArray转成对应实体类集合
            studentList = JSONObject.parseArray(jsonObject.getString("data"), Student.class);
        }
        try {
            log.info("学生接口第" + studentVO.getPageIndex() + "页数据开始入库...");
            //调取方法批量进行添加学生数据
            studentMapper.addBatchStudent(studentList);
            log.info("学生接口第" + studentVO.getPageIndex() + "页数据入库成功...");
        } catch (Exception e) {
            log.error("学生批量添加数据库异常：{}", e.getMessage());
        }
    }

    /**
     * 根据studentVO(当前页码和页面容量)发送获取学生数据的请求
     * @param studentVO
     * @return
     */
    public JSONObject sendStudentHttpPost(StudentVO studentVO){
        JSONObject jsonObject = null;
        String studentUrl = "http://*****/async-api/jc/student";
        try {
            if (StringUtils.isNotEmpty(studentUrl)) {
                Map<String, Object> param = new HashMap<>();
                param.put("pageIndex", studentVO.getPageIndex());
                param.put("pageSize", studentVO.getPageSize());
                log.info("开始发起http请求...");
                jsonObject = httpUtils.sendHttpPost(param, studentUrl);
            }
        } catch (Exception e) {
            log.error("调取客户学生同步接口出现异常：{}，页面容量为：{}，页码：{}", e.getMessage(), 
            studentVO.getPageSize(), studentVO.getPageIndex());
        }
        return jsonObject;
    }
}

Salin selepas log masuk

3.StudentVO.java kod ialah seperti berikut:

import lombok.Data;
/**
 * 数据同步接口获取学生数据传的参数VO类
 * @author hc
 * @create 2021/3/11 10:35
 * @version 1.0
 * @since 1.0
 */
@Data
public class StudentVO{
    //当前页码(初始值为0)
    private Integer pageIndex = 0;
    //页码容量
    private Integer pageSize;
}

Salin selepas log masuk

4. Kod HttpUtils.java adalah seperti berikut:

import com.alibaba.fastjson.JSONObject;
import lombok.extern.slf4j.Slf4j;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.http.HttpEntity;
import org.springframework.http.HttpHeaders;
import org.springframework.http.ResponseEntity;
import org.springframework.stereotype.Component;
import org.springframework.web.client.HttpClientErrorException;
import org.springframework.web.client.RestTemplate;
import java.util.Map;

/**
 * Http请求工具类
 * @author hc
 * @create 2021/3/4
 * @version 1.0
 */
@Component
@Slf4j
public class HttpUtils {
    @Autowired
    private RestTemplate restTemplate;
    
    /**
     * 发送http的post请求方法
     * @param param
     * @return
     */
    public JSONObject sendHttpPost(Integer type, Map<String, Object> param, String url){
        log.info("调取同步接口Url:{}", url);
        JSONObject jsonObject = null;
        //发起http的post准备工作
        HttpHeaders httpHeaders = new HttpHeaders();
        httpHeaders.add("Content-Type", "application/json");
        HttpEntity<Map<String, Object>> httpEntity = new HttpEntity<>(param, httpHeaders);
        ResponseEntity<String> response = null;
        try {
            log.info("param参数为：{}",param.toString());
            response = restTemplate.postForEntity(url, httpEntity, String.class);
        } catch (HttpClientErrorException e) {
            log.error("发起http请求报错信息：{}",e.getResponseBodyAsString());
        }
        String bodyData = response.getBody();
        if (StringUtils.isNotEmpty(bodyData)) {
            jsonObject = JSONObject.parseObject(bodyData);
        }
        return jsonObject;
    }
}

Salin selepas log masuk

5 Pernyataan SQL StudentMapper.xml adalah seperti berikut:

<!-- 批量添加数据同步接口中获取的学生数据 -->
<insert id="addBatchStudent" parameterType="***.entity.sync.Student">
    replace into xf_clue_sync_student(id, student_code, student_name, status, create_date, update_date)
    <foreach collection="studentList" item="student" open="values" separator="," >
       (#{student.id,jdbcType=BIGINT}, #{student.studentCode,jdbcType=INTEGER}, #{student.studentName,jdbcType=VARCHAR}, 
        #{student.status,jdbcType=INTEGER}, #{student.createDate,jdbcType=VARCHAR}, #{student.updateDate,jdbcType=VARCHAR})
    </foreach>
</insert>

Salin selepas log masuk

Ringkasan Fungsi.

1 Tugas berjadual Kod berkaitan konfigurasi tidak lagi ditunjukkan di sini Rangka kerja SpringBoot menggunakan anotasi untuk menetapkan tugas yang dijadualkan dan kekerapan panggilan.
2. Pembangunan antara muka penyegerakan data memerlukan kaedah yang berbeza mengikut senario aplikasi tertentu, yang bergantung pada situasi Sebagai contoh, anda juga boleh menggunakan alat cerek, dsb.

Atas ialah kandungan terperinci Bagaimana untuk mencapai penyegerakan data berdasarkan Java. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!