前回の【つないでみた】ブログでは、Microsoft Azureのコグニティブ機能である「 Computer Vision API 」 をASTERIA Warpから簡単に利用できるコンポーネントをご紹介しました。
※詳細は、下記URLからご参照ください。
画像を認識する「Cognitive 機能」を使って、画像から様々な情報を取得し、その視覚データをタグ分類してみた
そして、また新たな Microsoft Azure コグニティブ機能を利用した『コンテンツをモデレートする』コンポーネントがExperimental Buildでリリースされましたので、今回はその機能でどんなことが出来るのか試してみたいと思います！
目次
今回、リリースされたコンポーネントはMicrosoft Azure Cognitive Servicesの「 Content Moderator API 」を利用するための機能です。「 Content Moderator API 」とは、テキストや画像等のコンテンツから問題がありそうな情報をモデレートしてくれる機能です。
Microsoft社の「 Content Moderator API 」 紹介ページには下記のような説明が記載されています。
[画像]
・攻撃的になり得る画像や望ましくない画像を検出
[文字]
・100 を超える言語で侮蔑的になり得る語句を検出
・個人を特定できる情報 (PII) の可能性の有無を検出
[動画]
・成人向けと考えられるコンテンツを検出
そして、今回ASTERIA Warpで利用できるのは、以下 [文字]、[画像]のモデレート機能です。
![[文字]、[画像]のモデレート機能](/jp/wp-content/uploads/2017/09/4717eb4daf11139932517d07487ad249.png)
例えば、それぞれのコンポーネントを使用すると、以下のような処理が簡単にできます！
処理概要：
ASTERIA Warpのフロー処理の中で「AzureTextModerationコンポーネント」を利用して、WEB画面からアップロードされた文字のモデレート結果を画面に表示します。
１．個人情報になりうる内容を記入し、「送信」ボタンを押下。
２．個人識別情報やフィルタリング用語があれば、抽出して表示。
※各項目の説明：
処理イメージ：
処理概要：
ASTERIA Warpのフロー処理の中で「AzureImageModerationコンポーネント」を利用して、WEB画面からアップロードされた画像のモデレート結果を画面に表示します。
１．モデレートする画像を枠内にドラッグ＆ドロップ。
２．モデレート結果を表示。（[0～1]の間で、判断結果を数値化して表示してます。）
※各項目の説明：
処理イメージ：
「 Content Moderator API 」を利用してみたいと思っていても色々と勉強が必要なり、
ハードルが高くて手が出しづらいなー…と思っていた方や
面白そうだなーと思っていただけた方がいらっしゃいましたら、
ぜひこの機会に「 Content Moderator API 」を試してみませんか？！
PM・SE・マーケティングなど多彩なバックグラウンドを持つ「データ連携」のプロフェッショナルが、専門領域を超えたチームワークで「データ活用」や「業務の自動化・効率化」をテーマにノウハウやWarp活用法などのお役立ち情報を発信していきます。
ASTERIA Warp製品の技術情報やTips、また情報交換の場として「ADNフォーラム」をご用意しています。
アステリア製品デベロッパー同士をつなげ、技術情報の共有やちょっとしたの疑問解決の場とすることを目的としたコミュニティです。
