データ照合
顧客またはSKUのエクスポートをIDで照合する方法:実践的なワークフロー
顧客、SKU、在庫、アカウントのエクスポートをIDで照合するワークフローを学びます。正規化、重複、欠落レコード、変更、監査証拠をカバーします。
データ移行、システムアップグレード、または定期監査の後、顧客レコード、SKUリスト、在庫数、アカウントデータの2つのエクスポートを照合することは一般的なタスクです。核心的な課題は、一意のIDを使用して2つのスナップショット(ソースとターゲット)を確実に比較し、欠落レコード、新しいエントリ、変更されたフィールドを特定することです。構造化されたワークフローがなければ、誤解、見逃した差異、何時間もの手動チェックのリスクがあります。
このガイドは、スプレッドシートソフトウェア、SQLデータベース、軽量ブラウザベースのツールで機能する体系的なプロセスを提供します。IDが顧客ID、製品SKU、注文番号、アカウントコードのいずれであっても、原則は適用されます。目標は、何が変更され、何が欠落し、何が完全に一致しているかの明確な証拠を生成し、データ環境を離れることなく自信を持って行動できるようにすることです。
ワークフローは、ヘッダーの正規化、重複IDの検出、各サイドの欠落レコードの発見、一致レコードの変更の特定、監査ログの構築、基本統計による結果の検証をカバーします。各ステップには、実践的な例、一般的な落とし穴、照合が正確で監査可能であることを確認するための検証テクニックが含まれています。
1. エクスポートの準備:正規化とヘッダーの調整
レコードを比較する前に、各エクスポートのキー列を特定し、その表現を一貫させます。単純な値のメンバーシップ比較ではヘッダー名が同一である必要はありませんが、両側で同じタイプのIDを含む列を知っている必要があります。
先頭と末尾のスペース、必要に応じて文字の大文字小文字、空白ID、データ型を正規化します。00123のような識別子はテキストとして保持します。追加の記述列はソースファイルに残すことができますが、フォーカスした列比較ステップには2つのID列のみをコピーします。
引用符で囲まれたCSVファイルに対して行ベースのトリムコマンドを実行しないでください:引用符で囲まれたフィールドには区切り文字や改行が含まれる可能性があります。構造化ファイルにはスプレッドシートのインポート、Power Query、または本格的なCSVパーサーを使用してください。
- 両方のエクスポートをスプレッドシートまたはテキストエディタで開きます。
- 列ヘッダーを標準化します:同じ名前、同じ大文字小文字、余分なスペースなし。
- 比較の一部ではない一時的または無関係な列を削除します。
- ID列(例:CustomerID、SKU)がテキストとして書式設定されていることを確認し、数値の丸め問題を回避します。
- =TRIM()またはリストクリーナーを使用してデータをクリーンアップし、余分な空白を削除します。
=TRIM(A2)2. 重複IDの特定と処理
いずれかのエクスポート内の重複IDは、1対1の照合をあいまいにします。ルックアップはIDが存在することを報告する一方で、一方に2回、他方に1回出現するという事実を隠す可能性があります。
比較前に重複IDを監査します。IDが繰り返されているという理由だけでレコード全体を自動的に削除しないでください。複数の行が正当な場合もあります(1人の顧客に対する複数の注文など)。ビジネスルールを解決し、必要に応じてサブ識別子を追加し、統合の決定を記録します。
- 各ファイルの総行数をカウントします。
- ID列を選択し、重複チェックを実行します(例:=COUNTIF(範囲, B2)>1)。
- 重複数を記録し、最初の出現を保持するか手動レビューのためにフラグを立てるかを決定します。
- 重複を削除または統合して、各エクスポートのクリーンな一意のIDリストを作成します。
- ヒント:Excelでは、ピボットテーブルを使用して、重複IDとそのカウントをすばやく一覧表示できます。
- 注意:ファイルに異なるデータを持つ正当な重複IDがある場合(例:同じ顧客に対する複数の注文)、それらを個別のレコードとして扱う必要があります。一意のサブ識別子を追加することを検討してください。
SELECT CustomerID, COUNT(*) FROM Source GROUP BY CustomerID HAVING COUNT(*) > 1;=IF(COUNTIF($B$2:$B$1000, B2)>1, "Duplicate", "Unique")3. 両方向でのIDメンバーシップの比較
ID列を正規化したら、ソースにのみ存在するキーとターゲットにのみ存在するキーを特定します。これは、完全外部結合のアンチジョイン部分に似た、双方向のメンバーシップ比較です。
Excelでは、XLOOKUP、VLOOKUP、MATCH、またはPower Queryを使用します。CompareTwoListsでは、抽出した2つのID列を「2つの列を比較」に貼り付け、一致、最初の列のみの値、2番目の列のみの値、または和集合を確認します。このツールは値を比較しますが、完全なレコードをマージしたりヘッダーをマッピングしたりしません。
欠落IDを見つけた後、元のエクスポートに戻り、対応する完全なレコードを取得して確認します。
- ソースに'In_Target'という新しい列を作成し、VLOOKUPを使用して各IDがターゲットに存在するか確認します。
- 同様に、ターゲットIDをソースに対して確認します。
- 各リストを欠落IDでフィルターし、個別の欠落レコードレポートとしてエクスポートします。
- 欠落レコードを確認します:それらは正当な差異ですか、それとも異常ですか?調査結果を文書化します。
=IF(ISNA(VLOOKUP(A2, Target!$A$2:$A$5000, 1, FALSE)), "Missing in Target", "Present")SELECT s.* FROM Source s LEFT JOIN Target t ON s.CustomerID = t.CustomerID WHERE t.CustomerID IS NULL;SELECT t.* FROM Target t LEFT JOIN Source s ON t.CustomerID = s.CustomerID WHERE s.CustomerID IS NULL;4. 変更されたレコードの検出
両方のエクスポートに存在するIDを特定した後、一致した各レコードの重要なフィールド(顧客ステータス、製品説明、価格、在庫数量など)を比較します。各フィールドのデータ型を正規化し、比較する前に空白、大文字小文字、日付、数値の許容範囲をどのように扱うかを決定します。
ExcelまたはGoogle Sheetsの結合、Power Queryのマージ、SQL JOIN、またはデータフレームのマージを使用して、IDごとに完全なレコードを整列させます。CompareTwoListsの列比較ツールは抽出された2つのIDリストに役立ちますが、完全なレコードを結合したり、CSVのすべてのフィールドを自動的に比較したりしません。
- 両方のエクスポートに存在するIDの結合リストを作成します(ステップ3の結果を使用)。
- 各行について、IF(ソースフィールド=ターゲットフィールド, "一致", "差異")または配列数式を使用してフィールドごとに比較します。
- 必要に応じて、すべてのキーフィールドを連結してハッシュ化し、1つのセルで等価性を確認します。
- 少なくとも1つのフィールドに差異がある行を抽出して「変更」レポートにします。
- 数値を比較する場合、精度や書式の違い(例:10.00と10)に注意してください。両方を一貫した型に変換します。
- 多くの列がある大きなファイルの場合、ビジネスロジックにとって重要な列に焦点を当てます。常に異なるタイムスタンプのような無関係なフィールドは除外します。
=IF(D2=E2, "", "DIFF")SELECT s.CustomerID, s.CustomerName AS SourceName, t.CustomerName AS TargetName FROM Source s INNER JOIN Target t ON s.CustomerID = t.CustomerID WHERE s.CustomerName <> t.CustomerName OR (s.CustomerName IS NULL AND t.CustomerName IS NOT NULL) OR (s.CustomerName IS NOT NULL AND t.CustomerName IS NULL);5. 監査証拠の構築:変更ログの作成
どのIDのどのフィールドが変更されたかがわかったら、レコードID、フィールド名、ソース値、ターゲット値、ステータス、レビューノートを含む監査可能な変更ログを作成します。この構造化レポートは、レビュー担当者がフィルタリング、注釈付け、承認できる証拠を提供します。
レコードがIDで結合された後、スプレッドシートの数式、Power Query、SQL、またはデータフレームのワークフローを使用してログを構築します。リスト比較の出力は監査の欠落ID部分をサポートできますが、完全なフィールドレベルの変更ログは構造化データの比較から得られる必要があります。
- 変更のあるIDごとに、変更されたフィールドごとに1行を作成します。
- 列に入力します:RecordID、FieldName、SourceValue、TargetValue、Status。
- 条件付き書式を使用して差異を強調表示します(例:不一致は赤色)。
- 一致、変更、各側からの欠落のカウントを示すサマリーシートを追加します。
- 監査ログはアクションアイテムのためにプロジェクト管理ツールに直接インポートできます。
- ドキュメントの前提条件(例:「タイムスタンプの差異は無視」)用に別のシートを維持します。
- 常にヘッダー行を含め、各監査実行の日時スタンプを確保します。
=IF(Sheet1!D2<>Sheet2!D2, "Changed", "")6. リスト統計による検証
カウントチェックで仕上げます。正規化と重複レビューの後、各側の総行数、空でないID、一意のID、重複グループ、空白のIDを比較します。これらの合計は、見逃したフィルターや偶発的な重複削除を明らかにするのに役立ちます。
リスト統計ツールは、行数、空でない行、一意の値、重複グループ、空白行、平均テキスト長を報告します。数値の合計やフィールドレベルの照合は、依然としてExcel、SQL、または別の構造化データツールに属します。
- 各IDリストの合計、空でない、一意、重複グループ、空白のカウントを記録します。
- 一致したIDとソースのみの一意のIDの合計がソースの一意のID数と等しいことを確認します。
- 一致したIDとターゲットのみの一意のIDの合計がターゲットの一意のID数と等しいことを確認します。
- 承認前に説明のつかない差異をすべて調査します。
- データベース側のチェックには、SQLのCOUNT、COUNT(DISTINCT ...)、GROUP BYを使用します。
- 数値の合計も照合する必要がある場合は、スプレッドシートの合計を個別に使用します。
=COUNTIF(K:K, "Match")SELECT 'SourceCount' AS Metric, COUNT(*) AS Value FROM Source UNION ALL SELECT 'TargetCount', COUNT(*) FROM Target UNION ALL SELECT 'Matched', COUNT(*) FROM Source s INNER JOIN Target t ON s.ID = t.ID;7. 安全なレビューと承認
最終ステップは、別の人物または独立したツールに照合の完全性と正確性をレビューさせることです。これにより確証バイアスのリスクが軽減されます。欠落レコードリストを確認します—それらはすべて有効な除外ですか?変更されたレコードのサンプルをスポットチェックして、フィールド比較ロジックにエラーがないことを確認します。重要度の高い照合では、順序を入れ替えて(ソースとターゲットを交換)、同じ差異が報告されるかどうかを確認することを検討してください。
日付、レビュー担当者名、差異の総数(カテゴリ別)、および例外を記録する承認シートを作成します。目標は、マネージャーが次のステップ(データの再読み込み、不一致の修正など)を自信を持って承認できる意思決定品質のレポートを用意することです。
- 主要なメトリクスを含む照合サマリーレポートを準備します:各側の総レコード数、一致、不一致、変更あり、変更なし。
- 同僚にセカンドレビューアーになってもらいます。別の方法(ランダムサンプルの手動チェックなど)を使用して比較を繰り返すよう依頼します。
- 既知の制限事項(除外された列やあいまい一致の決定など)を文書化します。
- 最終レポートを元のエクスポートと一緒に将来の参照用に保存します。
- エクスポートにバージョン管理を使用します:ファイル名に日付と_source-v1、_target-v2などのサフィックスを付けます。
- 照合が初期チェックに失敗した場合は、ステップ1に戻り、正規化または重複処理を改善します。
まとめ
2つのデータエクスポートをIDで照合することは、面倒なブラックボックスである必要はありません。構造化されたワークフロー(正規化、重複処理、欠落レコードの検出、変更の識別、監査ログ、検証)に従うことで、何がなぜ変更されたかを正確に示す透明で防御可能な比較を生成できます。各ステップは、規模や習熟度に応じて、使い慣れたスプレッドシートツールまたは専用の比較ユーティリティで実行できます。
常に前提条件を文書化し、元のエクスポートを変更せずに保持し、重要な照合にはセカンドレビューアーを参加させることを忘れないでください。系統的なアプローチの規律は、破損したレポートや失敗した統合に波及する可能性のあるエラーを見落とすことを防ぎます。練習により、このワークフローは再利用可能なテンプレートとなり、あらゆるデータ比較タスクに明確さと自信をもたらします。