AIが婚活サイトの不正利用を検出:『ゼクシィ縁結び』にて運用開始

課題
デーティング・婚活サービスの利用者の中には、本来の目的とは違い、結婚詐欺や、ネットワークビジネスへの勧誘、物品を貢がせるといったことを考える利用者がいます。
そのためサービス提供者は、善良な利用者がそういった被害に遭わないようにし、下げないようにするため、多数の利用者の中からそういった利用者を排除する仕組みが必要でした。
解決方法
株式会社リクルートテクノロジーズ(本社:東京都千代田区、代表取締役社長:清水淳、以下リクルートテクノロジーズ)は、不正検知システムを開発しました。
本システムでは、 これまでのマッチングサービスの運営の経験から複数のアプローチによって高い精度の不正行動の自動検知を実現しています。
精度を高めるために、異常検知フィルターを「アカウント登録」「いいねをする」「メッセージのやり取りをする」などの段階ごとに設けて、不正行動検知の網羅性を高めました。また、人力も組み合わせてあるためフィルターから外れた不正行動は自動学習させる仕組みになっています。
具体的にどのようなフィルタが構築されているかは公表されていませんが、ゼクシィ縁結びのサイトでは、「別サイト・アプリ・SNSへ誘導してくる」「本名・住所・勤務先・メールアドレス・電話番号・クレジットカード番号・銀行口座の情報など詳細な個人情報を聞いてくる」「マルチ商法や情報商材などの勧誘、その他営業・宣伝をおこなう」「カットモデルの募集をしたり、モデルや芸能界へのスカウトをほのめかす」「肉体関係や金銭目的を示唆する」といった行動に気をつけることを喚起しており、例えばこのようなメッセージのやり取りを検出するような仕組みを構築していると推測されます。
どうなったか
総合婚活サービス『ゼクシィ縁結び』にて、2019年3月4日より運用を開始しています。
これまで人の手で行ってきた監視を本システムがサポートすることにより業務の効率が向上したということです。
まとめ
婚活アプリなどでは、不正な利用者が多いとなればサービス存続の危機にもなりかねないということで、ゼクシィ縁結びでは今回のAI導入以前から、24時間365日の プロフィールや画像の監視体制を作っていたということです。
マッチングアプリでは国内だとペアーズが AI でマッチング相手を推薦する仕組みを導入したり、今回のリクルートテクノロジーズがサイト内の広告の最適化に AI を使ったりと、 AI の利用が進んでいるイメージがあります。
今回のような善良な利用者のための良いAIの使い方はどんどん進んで欲しいですが、逆に不正利用側も実は AI が を操作をしていたという話もあったりと、今後も不正利用者と運営の戦いは続きそうです。
参考資料
- リクルートテクノロジーズ、AI活用しマッチングアプリ内の不正行動を検知する新システムを開発。『ゼクシィ縁結び』にて運用開始 ~リクルート初のCRE(Customer Reliability Engineering)チーム主導で顧客信頼性向上に貢献~|ニュース[株式会社リクルートテクノロジーズ ]
- 婚活サイトで安心安全に出会うための知識|はじめての婚活ならゼクシィ縁結び
- 「好きかも?」AIで分析 東大と「Pairs」がタッグを組む理由 – ITmedia NEWS
- 中国で「AI詐欺」急増…悪徳デートアプリやダフ屋が自動化で大儲け | ROBOTEER
(Marvin編集部)