課題

議論が過熱するにつれて、SNSやニュースサイトのコメント欄は「毒性」のあるコメントで埋め尽くされてしまう可能性があります。毒性のあるコメントとは、「読んだ人が会話から離れてしまうような無礼で理性的でないコメント」とGoogleは定義しています。また、海外ではインターネットユーザーの半数以上が、政治的なことで反対意見のユーザーとのオンラインでのやりとりを「ストレスが多い」と表明しています。そのような状況から、コメントのフィルタリングが求められていました。

解決方法

2019年現地時間5月23日より、欧州議会議員選挙の投票が始まるため、フランスでは、不適切なコメントに対抗するために、Alphabet（形式的にはGoogleが親会社)傘下のシンクタンクJigsawがAIを利用して荒らしに対抗する「Perspective」と「Tune」のフランス語版を発表しました。

Perspectiveとは、インターネットでより良い会話をホストしやすくするためのAPIです。Googleのオープンソースの機械学習ライブラリ「TensorFlow」と、ディープラーニング技術を提供する「Cloud Machine Learning Platform」で開発されました。

Perspectiveは機械学習モデルを使って、コメントが会話に与えそうな影響を評価・採点します。評価基準は、対象のコメントに似た過去のコメントへの評価です。Perspectiveは人間のレビュアーが評価した数十万のコメントを学習しているので、評価が増えるにつれ採点も正確になっていきます。たとえば、“I think you’re stupid”（お前はバカだと思う）に対して94%の毒性と判断しました。

Perspectiveに新しい言語を追加するためには、言語パターンを検出するのにモデルをトレーニングするため、何百万というコメントを分析します。フランス語での「毒性」を検出するために、いくつかのフランスの報道機関と共同で、Webサイトからのパブリックコメントを調査しました。Jigsawの研究者とエンジニアは、毒性でないコメントにも有毒であるとするといったミスを回避するためにも、モデルを慎重に訓練しました。そして、Perspectiveの言語モデルを使用してChromeの拡張機能であるTuneにより、閲覧者は自分が見ているコメントを管理できます。

どうなったか

PerspectiveはThe New York Timesやコメントプラットフォームの「Disqus」、スペインの新聞社El Paisですでに使われています。Perspectiveが登場して以来、毒性のあるコメントが多かった出版社、作家、編集者は読者との対話を促進するためのツールにアクセスできるようになったとJigsawは主張しています。The New York Timesではコメント欄が開放された記事の数を300％増ました。El Paisでもコメントの毒性は平均7%減少し、コメントの数は19%増加したそうです。

まとめ

Tuneを使うことにより、YouTube、Facebook、Twitter、Reddit、Disqusなど、さまざまなプラットフォームでのコメントをコントロールできるようです。これまでは英語版しかありませんでしたが、フランス語に対応したことにより、今後は日本語を含む多言語への拡張が求められるでしょう。日本でもSNSの荒らし行為が深刻な問題になっている中、待望のツールかもしれません。

参考資料

• Parlons-en! Perspective and Tune are now available in French [Jigsaw]
• 欧州議会選に備え–Jigsawが有害コメントに対処する機械学習ツールの仏語版を提供 [CNET Japan]
• How El País used AI to make their comments section less toxic [Google]
• What if technology could help improve conversations online? [Perspective]
• グーグルとJigsaw、有害コメントの分類を容易にする機械学習ツール発表 [CNET Japan]
• Google、“毒コメント”にリアルタイムで対処する機械学習API「Perspective」公開 [ITmedia NEWS]

（蒲生由紀子）