その使い方って大丈夫？　IT・サイバー法の専門家 増田雅史弁護士に訊く、生成AI時代の正しい歩き方

企業活動に生成AIを活用するシーンが増えていますが、同時に「この使い方で法的に問題は無いのだろうか？」と悩む方も多いのではないでしょうか。

そこでin.LIVEでは、生成AIをはじめメタバース、Web3など新技術に関する法令に明るい、森・濱田松本法律事務所パートナー弁護士 増田雅史先生に、私たちが生成AIを「正しく」「安心」して使うためのアドバイスをいただきました。

増田 雅史（ますだ・まさふみ）先生｜ 森・濱田松本法律事務所 外国法共同事業
弁護士（日本国・NY州）、一橋大学特任教授（Web3・メタバースと法）。IT全般の法務に広く精通。日本オンラインゲーム協会アドバイザー、ブロックチェーン推進協会アドバイザー、日本暗号資産ビジネス協会NFT部会法律顧問、東京商工会議所知的財産戦略委員会委員。『ゼロからわかる 生成AI法律入門』、『いまさら聞けないWeb3、NFT、メタバースについて増田雅史先生に聞いてみた』など著書多数。

大切な成果物をあらゆるリスクから守るために

今日はよろしくお願いします。今回は私たちが生成AIを使うにあたり、押さえておきたいポイントをお聞きできたらと思っています。まずは、生成AIを使って作成した資料や画像の活用にあたり、一番気になるのが著作権です。誰かの権利を侵害しないために気を付けておきたい点から教えてください。

そもそも「著作権侵害」とは、既存の著作物に似たものをつくってしまうようなときに起き得るものです。たとえば、イラストの生成にあたり、「『ドラゴンボール』の主人公に似せて」のようにプロンプトを入力すると、孫悟空に似たキャラクターが出てくる可能性は高まってしまい、その表現内容次第では著作権侵害のおそれが出てきます。ですので、既存の作者や作品ではなく、自分自身が表現したいものを言葉にして入力することを心がけたいですね。

自分のオリジナリティが出るようにプロンプトを入力することが大切ですよね。ところで、生成AIエンジンが既存の著作物を学習していること自体は、法に問われないのでしょうか？

日本の場合、著作権法30条の4で、「情報解析」目的など、「著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない」行為は、原則として著作権侵害にならない、と定められています。これがあるがゆえ、インターネット上の大量の情報をクロールして機械学習のために処理することは基本的にOKなんですよね。

なるほど。運営会社のクロール行為は合法ということですね。

ところで、文章生成AIを利用する際、手元のファイルを送信し、「要約して」のように指示を出す使い方も考えられますが、この送ったデータがその後どうなるのか考えたことはありますか？

そうですよね。実は気になっていました。

サービスにもよりますが、一般的には運営会社が学習データとして活用することになるんですよ。なので、まず「この資料は外に出してもよいものか」と一歩立ち止まって考えることが大事です。

会社や個人の著作物が何らかの形で使われるリスクを念頭に置く必要がありますね。こうした予期せぬことが起こらないよう、私たちはどんなことに気を付ければよいのでしょうか。

一つは、ネット上に何でも置くのを避けること、もう一つは、利用前に各AIサービスの利用規約を確認することです。たとえば、「入力した情報は今後の学習に使われることがあります」などと利用規約に書いてあれば、その規約に同意してサービスを利用する以上、入力するデータを学習に使用すること自体に同意を与えたことになります。

他方、例えばAPI経由で利用する場合には、「取得データを学習に使わない」とするサービスもあります。自社の状況にあわせたサービスを調べたうえで使うようにしたいですね。

社内のルールづくりとレピュテーション管理が大事

続いて、生成AIの活用にあたり、企業が気を付けたい点を教えてください。

まず、社内ルールをどうつくるのかは、多くの企業が悩まれていると私も感じています。「著作物や個人情報は入力しないようにしましょう」と書くのは簡単なんですが、何が著作物なのか、個人情報なのか、ギリギリのラインを見極めるのは専門家でも難しいので、現場の従業員の方にその判断を強いるのは非常に酷なことです。

社員教育を一生懸命するのはもちろん大事ですが、「現場で判断のつかない場合は、コンプライアンス部門に問い合わせましょう」とルールを設定しておくことが大事です。さらには必要に応じ、顧問弁護士などリスク判断のできる外部の専門家に確認を入れるようなプロセスを取り入れることが望ましいですね。

なるほど。判断が難しくなるにつれ、従業員、専門部署、外部専門家と判断する人も高度化していけば、安全度は高まりますね。

もう一つ、別の視点から留意点を挙げると、著作権侵害リスクは正しく評価すべきであり、リスクがゼロでないから生成AIを利用しない、という判断はあまり適切でないということです。

先述のとおり、生成AIでつくったものが既に存在する作品と似ている場合、著作権侵害になる可能性は否定できないのですが、そう言うと、「怖くて使えない」と、おっしゃる人もいます。でも、よく考えていただきたいのです。これまでも会社でつくるものは、「会社という、器」ではなく、「従業員である、人」がつくっています。各人の前にはパソコンをはじめとする便利な道具があってインターネットとつながっています。誰もがネットで調べたり、データを取得したりしていますよね。

つまり、会社でつくられたものはネットから持ってきた寄せ集めのようになっていることが往々としてあって、著作権侵害が起きていることも当然考えられるのです。

たしかに。想像がつきます。

そうやって、人に任せて起きてしまう場合と、AIに任せてたまたま似たようなものが出てきてしまう場合で、一体リスクはどっちが大きいのか――。それがこの問題の真の捉え方ではないでしょうか。

私個人としては、人よりもAIに任せたほうがリスクは小さいと思っているので、「AIの利用は止めよう」ではなく、「人に任せるよりもリスクが低いので、気を付けて使おう」のほうが良い選択になると思っています。

ちなみに、最近では法的な問題はないものの、「生成AIでつくったイラストをポスターに使っている」と、炎上するケースも出てきています。

そうですよね。AIを使うことに対し、ポジティブとネガティブ両方の意見が世の中にあります。

特にクリエイターの皆様は大きな影響を受ける分、強い意見をお持ちですよね。ただ、画像生成AIを「クリエイターの仕事を奪うツールだ」という否定的な評価を持つ人もいれば、逆に、「背景画像の合成が簡単になったので、よりクリエイティブな作業に集中するための助けになる」など生産性向上という面を肯定的に評価する人もいます。

ええ。いろいろな人がいるので、「この作品は生成AIでつくられました」と書いておくべきなのか、それとも書かないほうがいいのか……。

ケースバイケースですよね。
AIを使っていることを堂々と言いたい場面と、言いたくない場面が存在するはずなので。ここで肝になるのが、レピュテーションの管理です。

まず、自社が公表しようとするものに、AIを使ったコンテンツが存在するのかどうかは把握したほうがいいでしょう。そのうえで、AIを使っている場合には、外部へ明示するのかどうか検討する、という流れになると思います。これは会社のイメージをどう打ち出していくのかにも関わってくるので、IR担当者をはじめ、社内のいろいろな人が関係するような判断になると思います。

ただ、書かないからと法律に違反することは基本的にありませんので、事業者さんの考えに基づいて決めていけばよいと思います。

AI生成による成果物が「著作物」と認められるために

ところで、生成AIでつくったものは著作物として認められるのでしょうか？ 「AIを使って短時間でササっとつくったものには何の苦労も思いも入っていないから著作物にならない」という意見があれば、「いろいろな工夫を重ね、プロンプトも何度と手直しして、ようやく渾身の1枚の絵をつくったんだから認められてもおかしくない」という意見もあると思うのですが。

日本では、現在の著作権法の考え方として、プロンプトを繰り返し入力して表現を洗練させていく行為を、著作物性を肯定する事情としてポジティブにとらえる傾向があります。他方、アメリカでは2年ぐらい前に、CGコンテストの優勝者が、優勝後に「実は画像生成AIでつくりました」と暴露したケースがあります。

この「作者」によれば、試行錯誤の結果として624回にわたりプロンプトを入れ直したようなのですが、この作品の著作権登録申請を受けたアメリカの著作権局は、プロンプトが特定の表現結果を生成するための具体的な指示とは言えず、生成内容を制御できているわけでないことを指摘し、著作物性を否定しました。自分の表現したい作品をつくりたいがゆえにプロンプトを何回も入力する行為は、一人のクリエイターがキャンバスやPCディスプレイと1対1で向き合うような表現活動と同じようには評価されなかったわけです。

この件はその後訴訟となっていて、まだ結論は出ていないのですが、プロンプトを繰り返し入力して試行錯誤する行為が著作物性を裏付ける基礎事情になるかどうかは国によって異なることを知っておくとよいと思います。

いまのお話を踏まえると、作品をつくった履歴を残すことは自分の身を守るのに有効ということでしょうか。

それはあると思います。たとえば、特許の世界では昔から、誰が発明者なのかを明らかにするなど、特許紛争となった場合に備えた証拠づくりのため、開発者が「研究ノート」をつける習慣があります。

これと同じようなことが著作物に関してもいえるでしょう。プロンプトのログは、利用しているAI生成物が既存の著作物と似ていることが判明した場合に、意図的に模倣したのではないことを説明するために役立ちますし、AI生成物の著作物性を主張したいときにも、試行錯誤の証拠として役立つからです。

SNSでも、個人クリエイターが創作の様子をタイムラプス動画にして投稿していたりしますよね。あれは最近、AIではなく自分で描いているのだ、と主張するために使われる手法にもなっています。

これからは、創作過程にAIが入り込んでいないことを要求するような、原理主義的なクリエイティブさを求める人と、「別にAIが入っててもいいよね」と思っている人たちの考え方の違いがどんどん顕在化するはずです。そんな時代を生き抜くためにも、身を守る手段として創作過程を残す必要性はより高まっていくでしょう。

社外の利用で気を付けたいこととは

最後の質問です。人手不足解消や効率化を目的に、社外からの問い合わせに生成AIエンジンを使ったチャットボットを活用する事例も生まれていますが、利用にあたって気をつけるポイントを教えてください。

まず、利用者の多くは、対応しているのが人間なのかどうかを気にするので、「AIが自動応答するチャットボットです」といった明示は大事なことだと思います。

次に、お客さんが入力した情報の取扱いは、裏側で利用している生成AIエンジンがある場合、そのエンジン提供者によってあらかじめ決められているのが通常ですので、その点に注意が必要です。チャットボットを提供する企業において、入力された情報が第三者であるエンジン提供者においてどのように使われるのかを認識したうえで、必要な事項をプライバシーポリシーや利用規約に適切に盛り込んでいく必要があるということです。

「同意のうえで使ってください」ってことですか？

そうですね。ただ、肝心の利用規約に誤りがあると同意を得たとは言えないので気を付けたいところです。また、プライバシーポリシーは必ずしも「同意」を得なければならないものではありませんが、個人情報の利用目的を明示するなど、一定の事項を公表するという役割を持っていますので、個人情報の法制度をちゃんと理解している外部の専門家にアドバイスを求めるべきでしょう。

いずれにせよ要所を押さえておけば、生成AIの利用を臆することはないということですね。そして、迷うことがあれば専門部署や専門機関に相談することもあわせて押さえることで、より効率的な企業活動につなげていくことができると分かりました。

ここまで多岐にわたる質問に答えてくださり、ありがとうございました！