顧客データベースの重複レコードをAIで自動検出・マージする方法|CRM統合で営業効率を改善
当サイトはアフィリエイトプログラムを利用しており、紹介リンク経由での申込により報酬を得る場合があります。記事内で紹介するサービスには筆者が実際に使用しているものと、客観情報として比較掲載しているもの(未使用・PR表記あり)が含まれます。
結論
顧客データの重複はAI+スプレッドシートで検出できる。ChatGPTに「重複しそうな行を探すGoogleスプレッドシートの数式を作って」と頼むだけで、完全一致だけでなく「株式会社→㈱」などの表記ゆれも含めてあぶり出せる。まず1時間、試してみる価値がある。
「同じ会社に複数回アプローチしていた」「一人の顧客に営業が3人かぶっていた」——そんなミスを経験したことはないでしょうか。
顧客データベースの重複は、営業効率を下げるだけでなく、顧客から「管理がずさん」と判断される原因にもなります。しかしCRMのデータを手作業でチェックするのは現実的ではありません。
この記事では、非エンジニアでもChatGPTやClaudeを使って重複レコードを自動検出し、CRMデータを整理する具体的な方法を解説します。
なぜ顧客データに重複が生まれるのか#
重複レコードは、日常的な入力作業の積み重ねで発生します。主な原因を整理しておきます。
| 原因 | 具体例 |
|---|---|
| 表記ゆれ | 「株式会社〇〇」「(株)〇〇」「㈱〇〇」 |
| 入力ミス | 「田中 太郎」と「田中 太郎」(スペース違い) |
| 担当者の引き継ぎ | 前任が入れたデータを知らず再登録 |
| ツール移行 | 旧CRMと新CRMで重複インポート |
| 複数拠点の統合 | 各支社がそれぞれ入力していたデータを一元化 |
特にツール移行時と担当者交代時に大量の重複が生まれます。「うちのCRMはもう何年も使っているから大丈夫」という会社ほど、実は蓄積された重複が多いことも少なくありません。
重複データが営業に与える具体的なダメージ#
重複は「少し気持ち悪い」だけの問題ではありません。
注意
重複顧客データを放置すると、同一企業に複数の営業が接触するダブルアプローチが発生し、顧客から信頼を失う原因になります。CRMのデータを信頼できなくなると、商談数・成約率などのKPIが実態とずれ、営業戦略の判断自体が狂います。
- 商談数の水増し:同一顧客が複数件カウントされ、パイプラインが実態より膨らむ
- メール配信の重複:同じ相手に同じメールが2通届き、クレームにつながる
- ダブルアプローチ:担当が分かれていると、同一企業に複数回接触してしまう
- 分析精度の低下:顧客数・成約率などのKPIが実態とずれる
体感で言うと、数百件規模のCRMでも全データの5〜15%程度は何らかの重複や表記ゆれが混入していることが多いです(実測値ではなく目安です)。1,000件なら50〜150件が「怪しい」計算になります。
AI検出の3つのアプローチ#
重複検出の方法は、データ量とCRM環境によって変わります。
| アプローチ | 向いているケース | 難易度 | コスト目安 |
|---|---|---|---|
| ①ChatGPT+Googleスプレッドシート | 〜1,000件、エクスポートできる環境 | ★☆☆ | 無料〜月20ドル |
| ②CRM内蔵の重複チェック機能 | HubSpot・Salesforce等を使用中 | ★☆☆ | 既存プランで使える場合多 |
| ③PythonスクリプトをClaudeに作らせる | 1,000件超、定期実行したい | ★★☆ | 無料(Claude利用) |
非エンジニアに最初に試してほしいのは①のスプレッドシート×ChatGPTアプローチです。
①ChatGPT+Googleスプレッドシートで重複を検出する手順#
GoogleスプレッドシートとChatGPTを組み合わせた方法です。前提として、CRMから顧客リストをCSVでエクスポートできれば使えます。
手順
- CRMから顧客データをCSVでエクスポートし、Googleスプレッドシートで開く
- ChatGPTに「A列(会社名)でほぼ同じ名前の行を見つけるGoogleスプレッドシートの数式を教えて。株式会社・㈱・(株)の表記ゆれも検出したい」とプロンプトを入力
- AIが提案した数式(SUBSTITUTE関数とCOUNTIF系の組み合わせなど)を新しい列に貼り付ける
- フィルタで「重複フラグ=1」の行だけを表示し、目視でマージ候補を確認
- マージ確定したレコードに「削除」タグをつけ、残すレコードに情報を集約する
- 整理したCSVをCRMにインポート、またはCRM上で直接修正する
試してみると、ChatGPTが数式だけでなく「まず正規化用の列を作ると精度が上がります」という提案もしてくれます。この「何を前処理すべきか」をAIに相談できるのが、独力でVLOOKUPを組むより断然楽な点です。
メモ
電話番号や担当者メールアドレスをキーにすると、会社名の表記ゆれを超えた重複検出ができます。「電話番号が同じ行を見つける数式」と追加で聞いてみてください。複数のキーを組み合わせると精度が上がります。
②CRM内蔵のAI重複チェック機能を使う#
HubSpotやSalesforceなど主要CRMには、重複検出機能が内蔵されています。
HubSpotの場合、コンタクト一覧の「重複を管理」から自動でペアが表示され、どちらを残すか選ぶだけでマージできます。無料プランでも利用できる機能です。
Salesforceの場合は「重複管理ルール」で登録時にリアルタイム警告を出す設定が可能です。これを有効にするだけで、新規入力時の重複を未然に防げます。
メリット
- 導入コストゼロ(既存CRMの機能を使うだけ)
- リアルタイムで重複警告が出せる
- 操作がGUI完結でプログラム不要
- 商談履歴・メモを安全にマージできる
デメリット
- CRMによって機能の精度・柔軟性に差がある
- 過去の大量データを一括クリーニングするには向かない場合がある
- 表記ゆれルールを細かくカスタマイズできないツールも多い
まずは「(使っているCRM名)+ 重複管理 + 使い方」で検索し、既存機能を確認するのが最短ルートです。
③ClaudeにPythonスクリプトを作らせる(1,000件超向け)#
データ量が多い場合や定期的にクリーニングしたい場合は、Claudeにスクリプトを書かせるのが効率的です。
Claudeへのプロンプト例:
以下の条件でPythonスクリプトを作ってください。
- customers.csvを読み込む
- 会社名の表記ゆれ(株式会社・㈱・(株)を全部削除して統一)を前処理
- 正規化後の会社名+電話番号の組み合わせで重複を検出
- 重複ペアをduplicates.csvに出力する
コードが苦手でも、上記のような日本語で要件を書くだけで動くスクリプトが出てきます。
メモ
「エラーが出た」とそのままClaudeにエラー文を貼り返すだけで修正案が返ってきます。デバッグもAIに任せると、プログラミング未経験でも完走できます。実行環境はGoogleのColaboratory(無料・ブラウザだけで使える)が手軽です。
マージ作業を安全に進める4つのルール#
重複を検出したあと、実際にデータを統合するのが最も慎重さが必要な工程です。
注意
マージ前に必ずCSVのバックアップを取ること。特にCRM上で直接マージ操作をすると元に戻せないケースがあります。「削除」操作は最後の最後まで待ち、まず「統合候補」タグをつけるだけにとどめましょう。
マージの優先ルール(例):
- 商談履歴が多い方のレコードを「残す」
- 更新日が新しい方の情報を優先
- 電話番号・メールアドレスは両方のフィールドに保持
- 100件を超える場合はスプレッドシート上でルールを確定してからCRMに反映
AIを使った重複検出の向き・不向き#
| 向いている | 向いていない |
|---|---|
| 数百〜数千件規模のリスト | 数万件超(専用ETLツールが必要) |
| CSVエクスポートできるCRM | エクスポート不可のクローズド環境 |
| 表記ゆれ・担当者交代による重複 | 完全に別会社だが名前が似ているケース |
| 単発のクリーニング作業 | 毎日リアルタイムで検知が必要な環境 |
「数百件のExcelリストを一度きれいにしたい」という用途なら、スプレッドシート×ChatGPTが最もコスパが高い選択です。
AIスキルを体系的に身につけるなら#
重複検出はAI活用の入り口にすぎません。プロンプトの書き方ひとつで検出精度が大きく変わります。「もっと仕事でAIを使いこなしたい」と感じた方には、ビジネス向けのAIスクールも選択肢に入ります。
PRおすすめAIビジネス活用スクール非エンジニア向けにChatGPT・Claudeなどを仕事に活かす方法を体系的に学べるオンライン講座。まず無料カウンセリングで自分に合うか確認できる。※受講による成果を保証するものではありません。まとめ#
顧客データの重複は放置するほど営業効率と分析精度を下げます。AIを使えば、プログラミングなしでも検出・整理が可能です。
- まず手軽に試すなら:ChatGPT+Googleスプレッドシート(1時間で開始可能)
- 既存CRMを活用するなら:HubSpotやSalesforceの内蔵重複管理機能を確認
- 量が多い・定期実行したいなら:ClaudeにPythonスクリプトを作らせる
どのルートも「AIに何を頼むか」を言語化するプロンプト力が鍵です。最初は小さいデータセットで試し、AIとの対話を重ねながら精度を上げていきましょう。
よくある質問#
重複検出の精度はどのくらいですか?#
完全一致の重複であればほぼ漏れなく検出できます。表記ゆれ(株式会社↔㈱など)も前処理ルールを正しく設定すれば体感で8〜9割はあぶり出せます(実測値ではなく目安です)。「ABCコーポレーション」と「ABC株式会社」のように略称と正式名が混在するケースは目視確認が必要です。AIに「判断が難しいペアは別リストにして」と依頼すると、確認作業が効率化できます。
既存のCRMに重複チェック機能がない場合はどうすればよいですか?#
CSVエクスポートができれば、スプレッドシート+ChatGPTの方法で対応できます。エクスポートもできない場合は、画面から手動でデータをコピーして貼り付けるか、CRM側に機能追加を検討するタイミングかもしれません。HubSpotの無料プランには重複管理機能があるため、乗り換えも一つの選択肢です。
マージ後にCRMの商談履歴やメモが消えないか心配です#
主要CRM(HubSpotやSalesforceなど)のマージ機能は、基本的に両方のアクティビティ履歴を統合後のレコードに引き継ぎます。ただしCSVを直接上書きインポートする方法では履歴が消えるので注意が必要です。履歴が重要なレコードはCSVではなくCRM内のマージ機能を使い、必ず事前にバックアップを取ってから作業を進めてください。