KDDI研、ネットの「有害情報」を自動識別するシステムを開発…「見た目」「内容」を高精度に分析 | RBB TODAY

KDDI研、ネットの「有害情報」を自動識別するシステムを開発…「見た目」「内容」を高精度に分析

エンタープライズ セキュリティ

システムの使い方
  • システムの使い方
  • システムの機能構成
 KDDI研究所は25日、インターネット上にあるWebページや掲示板などの書き込みに含まれる有害情報を、柔軟かつ高精度に自動識別する『有害コンテンツ高度識別システム』を開発したことを発表した。

 システムは、(1)有害情報の「見た目」と「内容」の両方を分析して高精度に識別できる高い識別精度、および、(2)適用先ごとの有害判定基準の違いに配慮し、有害としたい情報を72カテゴリから柔軟に設定できる高い柔軟性の2つを特徴とするという。

 利用者は、判定システムを利用する前に、「誹謗中傷」や「アダルト」「オンラインゲーム」「掲示板」などの72カテゴリのなかから、有害としたいカテゴリを自由に組み合わせることで、フィルタリング対象を簡単に設定できる。コンテンツに含まれる有害な単語検出やその係り受け関係抽出などの精密な「言語的コンテンツ分析」と、判定済みコンテンツとの内容の類似判定や、有害の可能性が高い背景色やリンク先の検出などの高速な「外形的コンテンツ分析」を組み合わせた総合判定を行う。これにより、およそ95%の高精度化に成功した(システムが有害と判定したコンテンツのうち、目視確認の結果、実際に有害であった割合)。

 KDDI研究所は現在、数社と協力して、開発したシステムの実証実験を実施しており、2012年度のサービス開始を予定している。
《冨岡晶》

関連ニュース

特集

page top