本プロジェクトでは、インドネシア市場向けのハラルSNSにおいて、テキスト・画像・動画を対象とした3段階のAIコンテンツ審査フローを検証・設計しました。開発工数は22MM、開発期間は5カ月です。

プロジェクト概要

AIコンテンツ審査フロー

ユーザーが投稿したテキスト・画像・動画を、端末、AWS、外部AIの3つのレイヤーで審査します。端末側でNG候補を絞り込み、追加確認が必要な投稿だけを上位レイヤーへ送信する構成です。

01．レイヤー1｜端末

テキストはNGワード辞書、画像・動画はTensorFlow Liteを使用して端末上で審査します。

02．レイヤー2｜AWS

テキストはOpenAI Moderation API、画像・動画はONNX Runtimeを使用して追加審査を行います。

03．レイヤー3｜外部AI

追加確認が必要な場合は、SightengineおよびGoogle・AWS・AzureのAIサービスを利用して審査し、投稿可否を確定します。

実装・検証のポイント

01．多言語テキスト処理

テキストを小文字化し、記号・絵文字を除去して表記を統一しました。また、「4→a」「@→a」などの類似文字を置換しました。

言語別にトークン化・ステミングを行い、ホワイトリストを除外したうえでNGワードと照合しました。

02．画像・動画処理の最適化

AIモデルの入力仕様に合わせて画像をリサイズし、動画から判定対象となるキーフレームを抽出しました。

重複フレームを除去して処理データ量を削減し、信頼度スコアに応じて上位レイヤーへ送信しました。

03．AIサービスの比較・評価

顧客提供のデータセットと評価基準を使用して検証し、サービス別に判定精度と処理時間を測定しました。

管理者の目視結果とAIの判定結果を比較し、評価レポートを作成したうえで採用構成を提案しました。