跨库事务一致性问题的解决方案(例)
我们看一个跨库事务一致性的问题,这是一个简单的场景:有新老两个系统,对应新老两套数据库,新数据库采用分库分表的设计,考虑到项目发布之后可能存在风险,采取了新老系统的并行方案。这个系统的业务比较简单:接收来自外部的数据,然后对数据进行核对处
我们看一个跨库事务一致性的问题,这是一个简单的场景:有新老两个系统,对应新老两套数据库,新数据库采用分库分表的设计,考虑到项目发布之后可能存在风险,采取了新老系统的并行方案。这个系统的业务比较简单:接收来自外部的数据,然后对数据进行核对处理。为了保证新老系统能够并行,在接收数据的时候必须实现双写方案,从而导致了跨库事务的一致性问题。
下面一幅图展示这一简单的场景
这里面会存在一个小问题,就是可能存在写入老库成功,但是写入新库失败的场景。
我们假设出现这种概率的情况是百万分之一,在系统发布的情况下,这种概率可能更高。从目前我们的数据量来看,一天大概5000W,那么出现不一致的数据量在500条。考虑到这个是数据核算系统,不能有一条丢失的情况,否则两边比对结果可能会不一致。所以需要保证一致性。
这种问题,有以下几种解决方案
1 考虑使用JTA等支持分布式事务的事务管理器
这种方案的优势就是直接有现成的解决方案,一般的j2ee服务器都提供了JTA的相关的实现。比较明显的问题就是解决方案太重量级。一般JTA除了服务器要支持,对应的数据库服务厂商一般也要提供相应的商业支持,主要是提供基于 XAResource JDBC驱动,这一些商业上的支持,部分是需要付费的。而且使用XA 数据库驱动,本身可能导致一些潜在的问题,尤其是基于不同的数据库厂商的时候。而XA是基于两阶段提交协议,事务管理器为了完成一个事务,需要多次和数据库通信,效率上比较低。
2 考虑使用数据库自身的数据同步机制
如果新老库的结构基本一样,这种方案还是比较靠谱的。也是比较简单的方案。这种方案的局限性也再次。在本项目中,新库不是一个物理库,而是多个物理库,而老库是一个物理库。如果要用数据库自身的同步机制,涉及到多个库和一个库之间的数据复制。同时由于分表的方案也不一样,导致两边做一个映射的配置,而这个需要在数据库层面进行,逻辑相当的复杂,解决方案成本也比较高。相当于把重要的分库分表的逻辑在数据库这一层重新实现了一份。
其实这个也带来一个维护问题,一旦我们觉得新系统已经足够稳定。应用程序可以之间在写入库进行切换,把老库的逻辑切掉,从而实现了只写新库的需求。整个过程也不需要进行再次发布。而数据库的方案则需要停掉脚本,在多个地方进行配置。
3 在old库存放相同的两张模型表,一张表用于old库的持久化表,另外一张作为临时表,主要是作为需要同步到到新库的数据。如果已经同步到新库,就删除。如果没有同步到新库就同步到新库。这个过程采用定时机制,每分钟定时提取临时表一定数据量的数据,批量导入到新库。通过努力重试,来保证一致性。而新库则需要保证幂等性,保证数据只会同步过一次。一般情况下,则是通过数据特征标识符来识别,这个一般都是数据的唯一性主键。
下面是简单的实现:
这三种方案的主要思想就是 采取重试机制,这个只是分布式事务里面的一种模型,相应的还有两阶段提交,异常恢复补偿等机制。

ホットAIツール

Undresser.AI Undress
リアルなヌード写真を作成する AI 搭載アプリ

AI Clothes Remover
写真から衣服を削除するオンライン AI ツール。

Undress AI Tool
脱衣画像を無料で

Clothoff.io
AI衣類リムーバー

AI Hentai Generator
AIヘンタイを無料で生成します。

人気の記事

ホットツール

メモ帳++7.3.1
使いやすく無料のコードエディター

SublimeText3 中国語版
中国語版、とても使いやすい

ゼンドスタジオ 13.0.1
強力な PHP 統合開発環境

ドリームウィーバー CS6
ビジュアル Web 開発ツール

SublimeText3 Mac版
神レベルのコード編集ソフト(SublimeText3)

ホットトピック









Win11 は Microsoft が発売した最新のオペレーティング システムで、以前のバージョンと比較してインターフェイスのデザインとユーザー エクスペリエンスが大幅に向上しています。ただし、一部のユーザーは、Win11 をインストールした後、中国語の言語パックをインストールできないという問題が発生し、システムで中国語を使用する際に問題が発生したと報告しました。この記事では、ユーザーが中国語をスムーズに使用できるように、Win11 で中国語言語パックをインストールできない問題の解決策をいくつか紹介します。まず、中国語言語パックをインストールできない理由を理解する必要があります。一般的に言えば、Win11

scipy ライブラリのインストールが失敗する理由と解決策、具体的なコード例が必要 Python で科学計算を実行する場合、scipy は非常に一般的に使用されるライブラリであり、数値計算、最適化、統計、および信号処理のための多くの機能を提供します。ただし、scipy ライブラリをインストールするときに、いくつかの問題が発生し、インストールが失敗することがあります。この記事では、scipy ライブラリのインストールが失敗する主な理由を調査し、対応する解決策を提供します。依存パッケージのインストールに失敗しました。scipy ライブラリは、nu などの他の Python ライブラリに依存しています。

タイトル: Oracle のキャラクタセット変更による文字化け問題を解決する有効な解決策 Oracle データベースでは、キャラクタセットを変更すると、データ内に互換性のない文字が存在することにより文字化けの問題が発生することがよくあります。この問題を解決するには、いくつかの効果的な解決策を採用する必要があります。この記事では、Oracleの文字セット変更による文字化けの問題を解決する具体的な解決策とコード例を紹介します。 1. データをエクスポートして文字セットをリセットする まず、expdp コマンドを使用してデータベース内のデータをエクスポートします。

OracleNVL 機能の一般的な問題と解決策 Oracle データベースは広く使用されているリレーショナル データベース システムであり、データ処理中に NULL 値を処理する必要があることがよくあります。 NULL 値によって引き起こされる問題に対処するために、Oracle は NULL 値を処理する NVL 関数を提供します。この記事では、NVL 関数の一般的な問題と解決策を紹介し、具体的なコード例を示します。質問 1: NVL 関数の不適切な使用法 NVL 関数の基本構文は、NVL(expr1,default_value) です。

C++ の機械学習アルゴリズムが直面する一般的な課題には、メモリ管理、マルチスレッド、パフォーマンスの最適化、保守性などがあります。解決策には、スマート ポインター、最新のスレッド ライブラリ、SIMD 命令、サードパーティ ライブラリの使用、コーディング スタイル ガイドラインの遵守、自動化ツールの使用が含まれます。実践的な事例では、Eigen ライブラリを使用して線形回帰アルゴリズムを実装し、メモリを効果的に管理し、高性能の行列演算を使用する方法を示します。

PyCharm は、開発者に広く愛されている強力な Python 統合開発環境です。ただし、PyCharm を使用するときにキーの無効化の問題が発生し、ソフトウェアを正常に使用できなくなる場合があります。この記事では、PyCharm キーの障害に対する解決策を明らかにし、読者がこの問題をすぐに解決できるように具体的なコード例を示します。問題の解決を始める前に、まずキーが無効である理由を理解する必要があります。 PyCharm キーの失敗は通常、ネットワークの問題またはソフトウェア自体が原因です

MySQL インストール時に中国語が文字化けする一般的な原因と解決策 MySQL は一般的に使用されるリレーショナル データベース管理システムですが、使用中に中国語の文字化けの問題が発生し、開発者やシステム管理者を悩ませることがあります。中国語の文字化けの問題は、主に文字セットの設定が間違っていることや、データベースサーバーとクライアントの間で文字セットが一致していないことが原因で発生します。この記事では、MySQL インストールにおける中国語の文字化けの一般的な原因と解決策を詳しく紹介し、誰もがこの問題をよりよく解決できるようにします。 1. よくある理由: 文字セットの設定

Java フレームワークのセキュリティ脆弱性を分析すると、XSS、SQL インジェクション、SSRF が一般的な脆弱性であることがわかりました。解決策には、セキュリティ フレームワークのバージョンの使用、入力検証、出力エンコーディング、SQL インジェクションの防止、CSRF 保護の使用、不要な機能の無効化、セキュリティ ヘッダーの設定が含まれます。実際のケースでは、ApacheStruts2OGNL インジェクションの脆弱性は、フレームワークのバージョンを更新し、OGNL 式チェック ツールを使用することで解決できます。
