ハラルSNS向け3段階AIコンテンツ審査システムの検証・設計

業務

AIソリューションクラウド・データ基盤

業種

IT・通信・サービス

キーワード

本プロジェクトでは、インドネシア市場向けのハラルSNSにおいて、テキスト・画像・動画を対象とした3段階のAIコンテンツ審査フローを検証・設計しました。開発工数は22MM、開発期間は5カ月です。

プロジェクト概要

ユーザーが投稿したテキスト・画像・動画を、端末、AWS、外部AIの3つのレイヤーで審査します。端末側でNG候補を絞り込み、追加確認が必要な投稿だけを上位レイヤーへ送信する構成です。

テキストはNGワード辞書、画像・動画はTensorFlow Liteを使用して端末上で審査します。

テキストはOpenAI Moderation API、画像・動画はONNX Runtimeを使用して追加審査を行います。

追加確認が必要な場合は、SightengineおよびGoogle・AWS・AzureのAIサービスを利用して審査し、投稿可否を確定します。

テキストを小文字化し、記号・絵文字を除去して表記を統一しました。また、「4→a」「@→a」などの類似文字を置換しました。

言語別にトークン化・ステミングを行い、ホワイトリストを除外したうえでNGワードと照合しました。

AIモデルの入力仕様に合わせて画像をリサイズし、動画から判定対象となるキーフレームを抽出しました。

重複フレームを除去して処理データ量を削減し、信頼度スコアに応じて上位レイヤーへ送信しました。

顧客提供のデータセットと評価基準を使用して検証し、サービス別に判定精度と処理時間を測定しました。

管理者の目視結果とAIの判定結果を比較し、評価レポートを作成したうえで採用構成を提案しました。