はてなとイー・ガーディアン、不適切コンテンツの判定フィルタを共同開発

エンタープライズセキュリティ

2014年11月27日（木） 14時59分

注目記事

BrandSafeはてな×ROKA SOLUTIONフィルタリングシステムの仕組み

　はてなは27日、イー・ガーディアンと共同で、UGC（User Generated Contents、ブログや掲示板などユーザーが作成するコンテンツ）を展開するメディア向けの不適切コンテンツ判定フィルタを開発したことを発表した。メディア企業向けに、販売を開始する。

　このフィルタは、はてなが培ってきたテキスト解析・機械学習の仕組みを基に開発した、広告内容の確認機能「BrandSafeはてな」と、イー・ガーディアンと東京大学が開発した自動画像検出システム「ROKA SOLUTION」を組み合わせたものだ。自社サイトに掲載された膨大なコンテンツのなかから、不適切なコンテンツを迅速に検出することが可能だという。

　「BrandSafeはてな」では、サイト内の情報だけでなく、ユーザーの投稿データ（はてなブックマークのタグやコメント、はてなキーワードなど）も考慮して反映を行う。日本特有のネットスラング（隠語）などにも対応しており、「違法ダウンロード」「アダルト」などの違法サイトに加え、「2chまとめ」なども不適切サイトとして判定可能。

　一方「ROKA SOLUTION」は、目視により分類した画像・動画を教師データとして、コアエンジンに学習させることで、実際の対象画像・動画をシステムに判定させるソリューション。正しく判定できるかどうかを数値で評価し、間違っていれば自動学習するという作業を繰り返し行うことで判別能力を向上可能。1枚につき約0.3秒で自動判別、把握できるとのこと。

《冨岡晶》