話題の「VTuber」配信に潜むトラブルからユーザーを守る！バーチャルユーチューバーパトロールの裏側をのぞいてみた

こんにちは！in.LIVE編集長の田中です。
ここ最近、テレビや新聞などでも「VTuber（ブイチューバー）」という言葉を目にすることが多くなりました。「バーチャルユーチューバー」という言葉の略であるVTuberは、すでに一般的になった「YouTuber」と呼ばれる人たちのように自らが動画に出演するのではなく、バーチャルな3Dアバターを使って動画の配信を行うユーザーのことを指します。

2018年は「VTuber元年」とも言われ、VTuberとしてトップを走る「キズナアイ」のYouTubeチャンネルの登録者数（233万）が、アイドルグループAKB48のチャンネル登録数（224万）を超えたことも話題になりました。

▶ AKB超える？　Vチューバーに熱視線（日経MJ）

こうしたVTuberブームが起きた背景としては、多くのファンを持つ圧倒的なカリスマが現れたことだけではなく、誰でも簡単にバーチャルな3Dアバターを使った配信が出来るプラットフォームサービスが登場したことも起因しています。

さて、そうしたブームの一方で必要とされ始めているのが、VTuberを活用した動画配信に関わるリスク管理です。単に流行っているからという理由で飛び込んだ先に、思いがけない落とし穴や見落としてはいけないリスクが潜んでいることがあるのかも…？

というわけで今回は「バーチャルユーチューバーパトロール」としてリスク管理サービスを提供しているイー・ガーディアン株式会社の皆さんにお話を伺いました。

VTuberのリアルタイムモニターや投稿コメント監視を行う 「バーチャルユーチューバーパトロール」とは？

イー・ガーディアン東北株式会社 営業部 須永 真司（すなが・しんじ）さん

小売業界、人材業界を経て、2017年イー・ガーディアン東北株式会社に参画。現在はスタートアップ企業を中心に、Youtuber/Vtuber、Fintech、CtoCサービスなど先進技術を駆使した業界でのBPO業務のサービス構築～実運用を手掛ける。若手トップ営業としてEG東北株式会社を支える。お酒と人をこよなく愛する。

本日はよろしくお願いします。
早速教えていただきたいのですが、「バーチャルユーチューバーパトロール」って… 具体的に何をしてくれるサービスなんでしょうか？

お客様のプラットフォームで配信されているVTuberの動画を見て、配信されているコンテンツや表示されている視聴者のコメントに問題がないかをリアルタイムに監視するサービスです。

自分たちで特定の動画をチェックすることもありますし、視聴者から「通報」のあった配信コンテンツをチェックしにいくこともあります。

リアルタイムで動画を監視！
やはり匿名性の高いサービスである分、トラブルも起きやすいのでしょうか？

そうですね。VTuberに限らずですが、いわゆる CtoC（個人間取引）のやり取りにおいてはトラブルは絶えません。顔を向き合って話していれば起こらないような過激なやり取りもあり、それが結果的にトラブルにつながることはあります。

特にVTuberの場合は、3Dアバターを使って ”自分のなりたい姿” になっているからこそ発生しやすいトラブルというのもあります。

「自分のなりたい姿になっている」という状態が、逆にトラブルを招く… なんだかちょっと複雑ですが、SNS上でのユーザー間のやり取りではよくあることですね。

そうですね。あとはバーチャルなアバターなので、見た目的にはただ可愛いキャラクターが話しているものでも、内容が公序良俗に反するものだったり、子供向けのコンテンツに見せかけて実はとても暴力的なものになっていたりということもあるんですよ。

問題のある配信内容は、視聴者だけではなく、そのプラットフォームを正しく使っている人にとっても悪影響になることがあるんです。どの動画プラットフォームにも「こんなふうに使ってほしい」というポリシーや利用規約があるので、それに反するかどうか？という点をしっかりチェックするのがポイントですね。

”視聴者を守る” という視点と ”プラットフォームを守る” という２つの視点があるんですね。企業がVTuberを活用する事例なども増えていますが、そうしたシーンでも注意すべきことはありますか？

YouTuberを使って商品をプロモーションする企業があるのと同様で、今後はVTuberを広告塔にしていく企業も多くあると思います。基本的なことですが、薬事法などは意外と見落としがちです。「この薬で肌が白くなります」といったことを配信者が良かれと思って言ってしまうこともあります。

イー・ガーディアン株式会社
広報 堀之内 早紀（ほりのうち・さき）さん

ITベンチャーで事業企画・広報に携わった後、2015年にイー・ガーディアン株式会社へ参画。広報部門の立ち上げをゼロから担い、ブランディングに貢献。現在は、グループ会社5社の広報業務を1人で兼務する。

確かにそういうのは、配信者が知らず知らずのうちに侵していた…ということがありそうです。

そうなんですよ。著作権なども含めた法律まわりのトラブルが起こらないように、弊社では動画の構成や台本内容をチェックをするといったサービスも提供しています。

VTuberが爆発的に増えた2018年、その背景にあったものは？

そもそもなのですが…
なぜ今年になって急にVTuberに注目が集まったのでしょうか？

爆発的にVTuberが広まったのはこの半年から一年ぐらいの出来事ですね。ユーザーローカル社の調査によると、今年1月時点では180人ほどだったVTuberの数は、半年で約25倍の4,500人まで増えたと言われています。

半年で約25倍…！？

2011年の頃に作られたのが最古のVTuberとは言われていますが、その頃は「VTuber」なんて呼ばれ方はしていなかったですし、単純に ”アバターを使った生配信” といわれていましたね。

イー・ガーディアン株式会社
ディベロッパーグループ　 舩本 貴宏（ふなもと・たかひろ）さん

2006年、イー・ガーディアン入社。AI黎明期よりネットパトロールにシステム導入することに着目し、東京大学と共に、2015年業界初となる人工知能型画像検知システム「ROKA SOLUTION」を開発。その後も動画内音声検知システムなどを構築／運用し、「システム×人」のイー・ガーディアンを支えている。

何かブレイクスルーするポイントがあったのでしょうか？

動画を視聴するインフラが整ってきたというのも一つだと思います。 そもそも ”アバター” を使うという文化は「セカンドライフ」や「アメーバピグ」、「LINE PLAY」などのサービスのおかげで、ある程度ユーザーの中に根付いてはいたんです。そうした文化が技術と共に発展し、One to One のコミュニケーションとして出来るようになってきたのが今のVTuberとも言えるかもしれません。

また現時点ではVTuberと一口に言っても、やり込むレベルによって変わってきます。一般の方がアプリで簡単にアバター配信ができるものもありますし、キャラクターデザインなどを専門的にやっている企業が本格的なVR機器を使ってキャラクターを作り込み、配信を行うものもあります。

技術を提供する企業が増えているので、今後は既存のVTuberを多数抱えて、芸能事務所的な動きをする企業なども増えてくるかもしれません。

現在のYouTuberプロダクションのような…。そう言われてみると、アバターとリアルな人との違いも分からなくなってきますね…。

動画のリアルタイム配信はどのように行う？パトロールの裏で動いている音声認識AIをのぞいてみた

今回御社がリリースされた「バーチャルユーチューバーパトロール」、裏ではどんな監視がされているのでしょうか？

監視のポイントは２つありまして、まず配信している内容がOKなのか？ということと、配信に対するコメントがOKなのか？ということです。

パトロールの目的は、配信プラットフォームの品質を保持することと、健全なユーザーさんを守るということなので、こういったトラブルは後々発見しても意味がないんです。リアルタイムに監視して取り締まる必要があるので、基本的にはずっと張り付いて監視する人が必要ですし、今までの監視よりは難易度があがっています。

コメントを監視するとなれば、ネット用語とかも多いじゃないですか？トレンドのあるワードもありますが、そういうものはどうやってキャッチしているんですか？

もともとネット上のトラブルからユーザーを守ることを仕事としていますから、そうしたワードをナレッジとしてどんどんためているので、全国のセンターで知見を共有してデータベース化しているんですよ。

創業当時からのノウハウが蓄積されてますし、何より悪いことをする人たちは傾向があるのでどこをチェックすべきか？というのは私たちもよく分かっているんです。

実際に監視される上では、どのような技術が使われているのでしょうか？

今日は実際にデモ画面をご用意しました。人が張り付いて監視する以外にも、何百チャンネルも同時に監視していくためにITの技術を活用しています。

もともと画像やテキストが適切かどうかを認識するAIはあったので、ユーザー間のやり取りのコメントはできていたんですが、動画の監視となると、動画を画像に切り出して監視することになります。しかしVTuberの場合は、先ほど言ったとおり “絵はOK” なんですよね（笑）。

なので、動画から音声だけを切り出してテキスト化し、そのデータを私たちが持っているテキストフィルタにかけて、OKかNGかを判断するようになっています。こちらが実際の画面です。

これをリアルタイムでやるってどういうことなんですか！？

どこまでを “リアルタイム” と呼ぶのか？次第なんですが…
20秒ぐらいの単位で動画を画像として切り出して、音声の処理を実行して… という感じです。テレビの字幕機能とかも同じようなシステムですよね。配信している現場と見ている側には多少のタイムラグが発生していますが、それが視聴者には伝わらないようになっています。

20秒のタイムラグなら、ほぼリアルタイムと言って良いと思うのですが… こんな裏側になっているんですね…！

企業におけるVTuber活用の可能性について

実際に本サービスをリリースされたのは今年の８月ですが、発表後の反響などはいかがでしたか？

詳しい数字などはお伝えできないですが、すでにYouTuberを活用している企業さんなどからはお声がけいただくことは多かったですね。ゆくゆくは VTuber を活用する可能性なども考えられていると思うので。

最近は地方自治体がVTuberを活用するケースもあると思うので、そういったところからも反響はありそうですよね。

そうですね。そこにも注意すべき点が一つあって…
これまでは地方自治体や企業の広報担当者が「広告代理店」を通じて宣伝を依頼していましたが、最近では広告代理店を通さずに、企業が直接YouTuberに依頼するといったことが増えているんです。そうした際に誰がリスク管理をするのか？というのは、企業などであればしっかり注意しておきたいポイントですね。

うーん、確かに。先ほどの薬事法のことなども「知らなかった」で済まされないですからね。一方で、VTuberのこれからの可能性という点ではどのように考えられていますか？

VTuber自体は、VRやARなど他の技術との相性が良いので、そういった技術の組み合わせでますます進化していくのだと思います。どんどんデバイス自体も安くなって手軽にできるものも増えているので…。

これまでのVRは「自分では行けないリアルな場所に行く」といったものが多かったですが、ニーズとしては「アニメの世界で生活してみたい」といった空想の世界と繋がるものの方が多いと思うんです。様々な技術の組み合わせでこうした夢がどんどん叶うと面白いですよね。

ＶＲやＡＲをつかって、アニメの中で生活する！面白い！
「バーチャルユーチューバーパトロール」においては、これから搭載される予定の機能はありますか？

機能を追加するよりも、認知の精度を上げるという点に力を入れていくことになると思います。今認識されない言葉を認識させる、あとは多言語対応ですかね。現在は日本語、英語がメインですが、今後様々な言語への対応は進むと思います。

なるほど。日本のプラットフォームの中で、海外のユーザー向けに配信するということもあるかも知れないですよね！更にパワーアップされるのが楽しみです。本日は色々と聞かせていただきありがとうございました。

編集後記

以上、いかがでしたか？
今回は動画配信サービスの裏で行われる「バーチャルユーチューバーパトロール」サービスを手がけるイー・ガーディアン株式会社の皆さんにお話を伺いました。

今後ますます普及していきそうな「VTuber」による動画配信。現時点でまだ大きな事件などは報告されていませんが、今後さらに一般化していく中で、今回の記事で触れていたようなトラブルを耳にすることはあるのかもしれません。

新しい技術の可能性や成長をしっかり楽しみつつ、自身がトラブルに巻き込まれたりしないためにも、こうした監視サービスの存在は知っておきたいものですよね。最後まで読んでいただき有難うございました！

関連リンク

・イー・ガーディアン株式会社 https://www.e-guardian.co.jp/
・「バーチャルユーチューバーパトロール」について https://www.e-guardian.co.jp/info/2018/0823.html