誰もがSNSなどで手軽に「作品」を発表できるようになったいま、「生成AI」を用いた新しい表現の形が注目を集めている。
果たしてこの最新のテクノロジーは、今後、エンターテインメントやアートの世界に大きな変革をもたらすことになるのか。あるいは、現時点で注意すべき問題やリスクがあるとすれば、それはいったいどういうものなのか。『AIガバナンス入門 リスクマネジメントから社会設計まで』（ハヤカワ新書）の著者、弁護士で京都大学特任教授の羽深宏樹氏に、法律の専門家の立場から解説してもらった。
生成AIが出力したものは「著作物」にあたるか
──そもそも「生成AI」とは何か、簡単に説明していただけますか。
羽深弁護士：生成AIとは、人間が入力した「プロンプト」と呼ばれる指示に基づいて、テキスト、画像、音声などの新しいコンテンツを作り出す技術です。たとえば、文章を生成したり会話を行ったりできるOpenAIのChatGPTやグーグルのGemini（ジェミニ）、ビジュアルコンテンツの生成に特化したミッドジャーニーなどが有名です。これらのサービスは、簡単な指示から複雑なリクエストまで、幅広いニーズに応えることができるため、教育、エンターテイメント、デザインなどさまざまな分野で活用されています。種明かしをしますと、今の私のコメントも、ほぼ全てChatGPTで自動的に作ったものなんですよ！
──生成AIが出力した文章や画像などは、「著作物」として認められるのでしょうか。
羽深弁護士：ケース・バイ・ケースなのです。著作権法上、コンテンツが「著作権」として保護されるためには、人間の「思想や感情を創作的に表現したもの」であることが必要です。つまり、人間による「創作」があるかがポイントになります。
単純な指示、たとえば「モンスターの絵を描いて」といった程度の指示に基づいてAIが自動的に生成したコンテンツは、人間による創作的な寄与があるとは言えず、著作物にあたらない可能性が高いでしょう。他方、プロンプトの中で具体的な対象や構図に関する詳細な指示を入力し、試行錯誤の結果生成されたようなコンテンツについては、「著作物」にあたる場合もあります。
また、実際には生成されたコンテンツにクリエーターが修正を加えて完成させることがほとんどかと思いますが、そうした人間の手を加えた部分については著作物として認められます。いずれにせよ、生成AIを使って作った作品が常に著作物になるとは限らないので、クリエーターとしては注意が必要です。
──AIが出力した文章や画像が、偶然、既存の作品と似てしまった場合、そして、そのことに気づかずに「自作」に取り入れて発表してしまった場合、法的にはどういう問題が生じますか。
羽深弁護士：著作権侵害になるリスクがあります。判例によれば、他人の著作物に「依拠」して、それと「類似」したコンテンツを作ると、著作権の侵害にあたります。「類似」しているかどうかは、人間によるコンテンツでもAIによるコンテンツでも判断基準が変わりませんが、「依拠」したかどうかについては、これまで人間が知覚して真似ることを前提に議論されてきたので、生成AIの場合にどう考えるかは解釈が分かれています。
実務的に著作権侵害を避ける対策としては、たとえば、著作物の固有名詞をプロンプトに入力しないことが考えられます。また、生成AIサービスの中には、学習データをそのまま吐き出さないようなフィルタリングが施されているものや、ライセンス済みのコンテンツのみから学習しているものもあります。さらには、AI生成物が第三者の著作権等を侵害した場合に、その賠償額を補償するプランを用意している生成AIサービスもあるので、著作権侵害が不安な方は、そうしたサービスを利用することを検討するとよいでしょう。
日本はなぜ「機械学習天国」と言われるのか
──著作権侵害と言えば、そもそも、AIに学習させる元のデータの多くにも著作権があるのではないかと思うのですが、現状、日本ではその部分はどうなっているのでしょうか。
羽深弁護士：著作権法上、著作物に表現された思想または感情の「享受」を目的としない場合には、権利者の許諾を得ることなく著作物等を利用できることになっています。要するに、単に著作物を機械に読ませるだけであれば、原則として著作権者の許可は不要ということですね。
このことをもって、日本が「機械学習天国」と言われることもあります。ただし、著作権者の利益を不当に害している場合は除く、という例外があるので注意が必要です。また、これはあくまでAIに学習させる際の話です。先ほどお話したとおり、学習させたAIモデルから出力されたコンテンツが著作権侵害にあたる場合はあるのでお気をつけください。
AIはプロのような文章が書けるか
──現在、多くの人々が、X（旧Twitter）やYouTube などのプラットフォーム上で「作品」を発表していますが、「作品」と一口に言っても、文章（小説・詩）、イラストレーション、漫画、映像、音楽など、その表現方法はさまざまです。そこで、ここからはいくつかの表現ジャンルと生成AIの現状についてうかがいたいと思いますが、まずは多くの人々にとってもっとも身近な表現だと思われる文章についてお訊きします。現時点において、生成AIはどこまでプロレベルのテキストを書くことができますか。
羽深弁護士：“それっぽい文章”を書く技術は相当進化してきているように思いますが、まだまだプロレベルとまでは言えないでしょうね。趣味で作るレベルのものであればAIでも作れますが、作家や詩人が書くような、心を揺さぶるような文章をAIが生成することは現時点では難しいのではないでしょうか。1万回作らせてみたら、1回くらいはプロが見ても唸るような名文ができるかもしれませんが、素人がプロレベルの文章をやすやすと創れるかというと、全くそんなことはないかと思います。
──芥川賞受賞で話題になった、実際にAIが書いたテキストを作品の一部に組み込んだ『東京都同情塔』（九段理江）のような例は別にして 、現状、一部のプロの小説家は、プロットやあらすじなどの構想段階で、生成AIを活用しているようです。
羽深弁護士：まさにAIはそうやって使うのが良いのだと思います。AIがいきなり完璧な作品を作ることは現時点では難しいでしょうが、玉石混交のさまざまなアイデアを出してもらったり、何かきっかけになるフレーズを出してくれたりすることで作品が磨かれていくということですね。
AIで「アーティストの創造の幅は広がっていく」
──画像系の生成AIの進化もこのところ、目を見張るものがあるように思います。少し前まではプロンプトを誤読した“奇妙な絵”が出てきて、それを逆にみんなでおもしろがるようなところがあったかと思うのですが……。
羽深弁護士：写実的なものからアニメタッチのものまで、たしかにいまのAIが作り出す画像のクオリティーは、数年前とは比べ物にならないくらい高い。人間が描いたのかAIが描いたのか、言われなければわからないところまできています。それゆえに、制作者のモラルが今後ますます問われていくことになるでしょう。
──これはアナログの作画が主流だった時代から時折問題視されてきたことでもあるのですが、今後、生成AIを使ったいわゆる「トレパク問題」（従来ある絵をトレースして新しい作品とする悪質なパクリ行為）もさらに増えていくような気がします。
羽深弁護士：そうかもしれません。ただ、気をつけていただきたいのは、他者の絵をそのままトレースするのはもちろんアウトですが、「画風の模倣」は著作権法上は問題ないということです。今後SNSなどで画風の類似まで厳しく指摘されるようになったら、文化全体が萎縮していくおそれがあります。
──映画や漫画のような、複数のアートの要素が組み合わさった物語表現についてはいかがでしょうか。もちろんそれらをいま、AIのみで作り上げるのは難しいかと思いますが、ここでは、「TEZUKA2020プロジェクト」および「TEZUKA2023プロジェクト」の例を挙げるのが一番わかりやすいかもしれません。同プロジェクトでは、これまで、手塚治虫作品の“新作”という形で、『ぱいどん』、『ブラック・ジャック 機械の心臓−Heartbeat MarkⅡ』という2本の漫画を制作しているのですが、いずれもAIがプロットの構想やキャラクターのデザインなどを担い、じっさいの作画作業は、人間の手でおこなっています。いまではAIで手塚治虫そっくりの絵が作れるにもかかわらず、です。つまり、こうした形の“AIと人間の共同作業”が、今後も漫画や映画、あるいは先ほど話に出た一部の小説のように、エンタメやアートの世界では、ひとつの指針となっていくように思うのですが、いかがでしょうか。
羽深弁護士：同感です。今後ますます生成AIは進化していくことでしょうが、それによって、漫画家や映画監督、小説家たちの仕事が奪われるかと言えば、むろんそんなことはなく、むしろアーティストの創造の幅は広がっていくのではないかと思います。漫画のジャンルで言えば、これまで何人ものアシスタントを使って作画していたような細かい作業をAIがおこなうことで、大幅な効率化をはかれますよね。その間、漫画家さんは新しい作品のアイデアを練るなど、他のことができるようになる。AIは人間にとっての“脅威”などではなく、“優秀なアシスタント”と捉えればよいのではないかと思います。
「AIガバナンス」で、より良い社会を
──羽深弁護士は昨年末、『AIガバナンス入門 リスクマネジメントから社会設計まで』という本を上梓されましたが、AIの世界における「ガバナンス」とは何か、わかりやすく説明していただけますか。
羽深弁護士：「ガバナンス」とは「統治」などと訳されるので、堅苦しいイメージがあるかもしれませんが、簡単にいえば、われわれの社会でさまざまな価値を実現するために、どのような制度や仕組みを作るのか、という話です。われわれの周りには、法律だけでなく、会社の内規や家庭のルールなど、さまざまな制度があります。AI時代のスピードにあわせて、これらを柔軟に変えていかないといけない。そしてそれは政府だけで解決できるものではなく、実は社会全体で取り組んでいかないといけない身近な話なのだということを理解していただきたいです。
ニュースなどでは、ともすればAIのリスクの面だけを強調して報じられがちですよね。でも、繰り返しになりますが、AIというものは社会に多くの恩恵をもたらしてくれるものだということを忘れてはなりません。特にこれから先、少子高齢化を迎える日本社会ではさらに欠かせないものになっていくことでしょう。
これまでも新しいテクノロジーが登場した際、常にリスクはつきまとってきたものですが、先人たちはそれを回避してテクノロジーの恩恵を受けるための道を懸命に模索してきました。そして、そのためのルールは、本来、一握りの学者や政治家たちが決めるものではなく、社会を構成するわれわれ一人ひとりが考えるべきものなのです。
これは私たち自身が、いま、目の前にある社会をどうすべきかを根本的に問い直すということであり、ここ数年のAIの急激な進化は、そのための良いきっかけを与えてくれたとも言えますね。『AIガバナンス入門』では、そのあたりのことをできるだけわかりやすい言葉で書いたつもりですので、機会があればぜひ一度お手に取っていただけたらと思います。
羽深宏樹（はぶか・ひろき）
1985年生まれ。京都大学法政策共同研究センター特任教授、東京大学法学部客員准教授、スマートガバナンス株式会社代表取締役CEO。弁護士（日本・ニューヨーク州）。森・濱田松本法律事務所、金融庁、経済産業省等を経て現職。東京大学法学部・法科大学院、スタンフォード大学ロースクール卒（フルブライト奨学生）。2020年、世界経済フォーラムおよびApoliticalによって「公共部門を変革する世界で最も影響力のある50人」に選出された。
