ASTERIA Warp 製品ブログ

【つないでみた】クラウドAIとして今注目の「コグニティブ機能」を使って、コンテンツをモデレートしてみた

【つないでみた】Microsoft Cognitive Servicesを使って画像にタグ付けしてみた 

前回の【つないでみた】ブログでは、Microsoft Azureのコグニティブ機能である「 Computer Vision API 」 をASTERIA Warpから簡単に利用できるコンポーネントをご紹介しました。


※詳細は、下記URLからご参照ください。
画像を認識する「Cognitive 機能」を使って、画像から様々な情報を取得し、その視覚データをタグ分類してみた


そして、また新たな Microsoft Azure コグニティブ機能を利用した『コンテンツをモデレートする』コンポーネントがExperimental Buildでリリースされましたので、今回はその機能でどんなことが出来るのか試してみたいと思います!


今回、リリースされた機能はどんなことができるの?

今回、リリースされたコンポーネントはMicrosoft Azure Cognitive Servicesの「 Content Moderator API 」を利用するための機能です。「 Content Moderator API 」とは、テキストや画像等のコンテンツから問題がありそうな情報をモデレートしてくれる機能です。


Microsoft社の「 Content Moderator API 」 紹介ページには下記のような説明が記載されています。


[画像]
 ・攻撃的になり得る画像や望ましくない画像を検出


[文字]
 ・100 を超える言語で侮蔑的になり得る語句を検出
 ・個人を特定できる情報 (PII) の可能性の有無を検出


[動画]
 ・成人向けと考えられるコンテンツを検出


そして、今回ASTERIA Warpで利用できるのは、以下 [文字]、[画像]のモデレート機能です。


[文字]、[画像]のモデレート機能


例えば、それぞれのコンポーネントを使用すると、以下のような処理が簡単にできます!


■AzureTextModeration コンポーネント利用イメージ


処理概要:
ASTERIA Warpのフロー処理の中で「AzureTextModerationコンポーネント」を利用して、WEB画面からアップロードされた文字のモデレート結果を画面に表示します。


1.個人情報になりうる内容を記入し、「送信」ボタンを押下。
1.個人情報になりうる内容を記入し、「送信」ボタンを押下。


2.個人識別情報やフィルタリング用語があれば、抽出して表示。
2.個人識別情報やフィルタリング用語があれば、抽出して表示。

※各項目の説明:

各項目の説明


処理イメージ:

処理イメージ




■AzureImageModeration コンポーネント利用イメージ


処理概要:
ASTERIA Warpのフロー処理の中で「AzureImageModerationコンポーネント」を利用して、WEB画面からアップロードされた画像のモデレート結果を画面に表示します。


1.モデレートする画像を枠内にドラッグ&ドロップ。
1.モデレートする画像を枠内にドラッグ&ドロップ。


2.モデレート結果を表示。([0~1]の間で、判断結果を数値化して表示してます。)
2.モデレート結果を表示。

※各項目の説明:

各項目の説明



処理イメージ:

処理イメージ





ASTERIA Warpをご利用いただくと、こんな感じで簡単に処理が作成できます!


「 Content Moderator API 」を利用してみたいと思っていても色々と勉強が必要なり、
ハードルが高くて手が出しづらいなー…と思っていた方や
面白そうだなーと思っていただけた方がいらっしゃいましたら、
ぜひこの機会に「 Content Moderator API 」を試してみませんか?!



クラウド版 使い方いろいろ!
手ぶら de ASTERIA Warp
体験 5日間

サーバー準備の手間なくデータ連携ツール「ASTERIA Warp」の
全ての機能を5日間お試しいただけます。

今すぐ体験してみる 書籍の詳細についてはこちらをご覧ください。
基礎と実践 使い方マニュアル
【ASTERIA Warp 事例集】業務自動化/RPA、EAI、マスターデータ管理、クラウド連携・・・業務効率化・データ活用事例をまとめ読み

ASTERIA Warp関連サイトのご紹介

X

<技術情報をお探しの方>

ASTERIA Warp Developer Network
(ADN)サイト

ASTERIA Warp製品の技術情報やTips、また情報交換の場として「ADNフォーラム」をご用意しています。

X

<ASTERIA Warpユーザーの方>

ASTERIA Warpユーザーグループ
(AUG)サイト

ASTERIA Warpユーザー同士の交流の場として、各種イベント案内や開催レポートを掲載しています。

X

<ASTERIA Warpユーザーの方>

ASTERIA Warpユーザーサイト
Login

製品更新版や評価版のダウンロード、各種ドキュメントのご提供、また 技術的なお問合せもこちらで受付ています。

X

<ASTERIA Warpパートナーの方>

ASTERIA Warpパートナーサイト
Login

パートナーライセンスの発行や各種ドキュメントのご提供をしています。