ハラルSNS向け3段階AIコンテンツ審査システムの検証・設計 本プロジェクトでは、インドネシア市場向けのハラルSNSにおいて、テキスト・画像・動画を対象とした3段階のAIコンテンツ審査フローを検証・設計しました。開発工数は22MM、開発期間は5カ月です。 プロジェクト概要 開発対象 ハラルSNS向けAIコンテンツ審査 対象コンテンツ テキスト・画像・動画 作業範囲 3レイヤー構成の実装・検証・評価・ベンチマーク・最終提案 開発工数 22MM 開発期間 5カ月 AIコンテンツ審査フロー ユーザーが投稿したテキスト・画像・動画を、端末、AWS、外部AIの3つのレイヤーで審査します。端末側でNG候補を絞り込み、追加確認が必要な投稿だけを上位レイヤーへ送信する構成です。 01．レイヤー1｜端末 テキストはNGワード辞書、画像・動画はTensorFlow Liteを使用して端末上で審査します。 02．レイヤー2｜AWS テキストはOpenAI Moderation API、画像・動画はONNX Runtimeを使用して追加審査を行います。 03．レイヤー3｜外部AI 追加確認が必要な場合は、SightengineおよびGoogle・AWS・AzureのAIサービスを利用して審査し、投稿可否を確定します。 実装・検証のポイント 01．多言語テキスト処理 テキストを小文字化し、記号・絵文字を除去して表記を統一しました。また、「4→a」「@→a」などの類似文字を置換しました。 言語別にトークン化・ステミングを行い、ホワイトリストを除外したうえでNGワードと照合しました。 02．画像・動画処理の最適化 AIモデルの入力仕様に合わせて画像をリサイズし、動画から判定対象となるキーフレームを抽出しました。 重複フレームを除去して処理データ量を削減し、信頼度スコアに応じて上位レイヤーへ送信しました。 03．AIサービスの比較・評価 顧客提供のデータセットと評価基準を使用して検証し、サービス別に判定精度と処理時間を測定しました。 管理者の目視結果とAIの判定結果を比較し、評価レポートを作成したうえで採用構成を提案しました。 AIコンテンツ審査について相談する AIソリューション実績集をダウンロードする