ChatGPTによって広く知られるようになった「生成AI（ジェネレーティブAI）」ですが、どういったものなのかを説明できる人は少ないのではないかと思います。生成AIとは、コンテンツやモノについて大量のサンプルデータから学習し、それを使用して創造的かつ、現実的な新しい生成物を生み出す機械学習の手法の一つです。
多くの業種、業態で活用が見込まれ、今後の職業、働き方を変革しうると言われる生成ＡＩ技術ですが、昨今、生成ＡＩ技術を悪用したフェイクニュースや、倫理的に問題がある画像が拡散されることもあり、リスクにも注目が集まります。また、著作権などの権利についてもあやふやな部分が多い状況でもあります。
この記事では、生成AI（特に画像生成AI）についてその仕組みをわかりやすく解説するとともに、利用に関して考えなくてはならない倫理的、法的なリスクについてご紹介していきます。
◆目次
1.生成AIとは？
AIそのものは以前から利用されていたため、従来のAIとの違いにピンとこないことがあるかもしれません。
従来のAIが大量のデータから、ルールやパターンなどの特徴を学び、ある事象の予測や抽出をするのに対し、生成AIはデータのルールやパターンの抽出にとどまらず、それらのデータを利用してさらに創造的で、質の高いオリジナルコンテンツをAI自らが出力できることに大きな違いがあります。
＜具体的な活用例＞
- コピーライティング（営業、カスタマーサポート、マーケティングにおけるメール文面作成など）
- 産業に特化したライティング（業種にあわせた契約書面作成など）
- プログラムコード（クリエイターの負担削減）
- アート
- ゲーム
- デザイン
- メディアと広告
- 生成AIによる体験を軸としたソーシャルメディア
生成AIはこれまでのビジネスを大きく変革していく可能性を秘めています。特に2023年に話題になった生成AIの一つであるChatGPTは、必要な情報を検索するのではなく、生成することができるようになった点で、Googleなどの検索ビジネスが深刻な脅威であると認めたほどです。
ただし、ChatGPTにも利用に際して注意点があります。ChatGPTは嘘をつくと言われることです。これは、ChatGPTが必ずしも正確な答えを出せるとは限らない、という意味です。ChatGPTはリサーチプレビューという段階であり、ユーザーからのフィードバックを受け学習しています。また、インターネット上の情報を学習モデルに利用しているため、そのデータ自体が誤っている情報であれば、正しい答えを返さない可能性あります。プライバシーやデータ侵害のリスクがあることを理由に、利用を制限している国や企業もあります。2023年３月末にイタリアのデータ保護当局がChatGPTによる膨大なデータ収集を個人情報保護法に違反するとして一時的に利用を禁止したり、銀行などの機密性の高い情報を扱う企業も取り扱いに制限を設けたりしています。
AIが生成した情報を利用するには、その情報の正誤については使用する人間が責任を持って調べ、見極めていく必要があります。
2.画像生成AIの仕組み
最近、生成AIを悪用した事例でフェイクニュースや、倫理的に問題のある画像の拡散、また権利の侵害などが話題となります。そこで問題となることが多い、生成AIの一種である、「画像生成AI」について、その仕組みを簡単に解説し、次項でそこから派生する問題について解説します。
画像生成AIは、拡散モデルと呼ばれる画像の修正を段階的に行うことで画像を生成するモデルと、「CLIP」と呼ばれる、ある画像に対してその説明文がどの程度あっているかという類似度をはかる画像分類モデルからなっています。特に、利用される画像生成モデルは「潜在拡散モデル」と呼ばれる拡散モデルの一種です。これまでの拡散モデルで時間がかかっていた、「綺麗な画像にノイズを繰り返し付加していって最終的に純粋なノイズ画像をつくる」という、多くの計算量が必要で時間がかかる処理を、潜在拡散モデルでは、大きな画像を圧縮し潜在変数と呼ばれる数値の羅列にまとめ、計算量を大幅に短縮し、プロセスを効率的にしています。
CLIPは「スキーをするラッコ」などのテキストの入力を受け、生成される潜在変数を潜在拡散モデルに対して更新し、テキストにマッチした画像ができるまでそのプロセスを繰り返します。
そしてこの画像生成AIを構築するためには、潜在拡散モデルや、CLIPなどのモデルに加え、モデルを訓練するためのデータセットが重要です。このデータセットの質こそが、AIの精度を大きく左右するからです。「Garbage in, Garbage out（ゴミからはゴミしか生まれない）」という言葉がデータサイエンスの分野にありますが、欠陥のあるデータや意味の無いデータを入力しても、質の悪い結果や無意味な出力をするだけという意味です。
画像生成AIを使用する際には、パラメーターと呼ばれる関数の設定や、プロンプトと呼ばれるテキストによりAIに指示をします。特に的確なプロンプト（テキスト）で生成AIに対して的確な指示や質問をすることでAIが生成するアウトプットの質が高まります。ユーザーはイメージを言語化しAIにわかりやすく表現する力、AIのアウトプットイメージが違った場合に追加の指示によってAIが生成する画像を理想のイメージに近づける力を必要とされます。
3.画像生成AIをめぐる権利の問題
便利な生成AIですが、前項で簡単に述べた通りの仕組みで成り立っているため、画像生成AIをめぐる権利の問題が生じています。
＜著作権について＞
著作権とは著作物を保護するための権利であり、著作物とは「人間が創作したもので、思想または感情を創作的に表現したものであって、文芸、学術、美術または音楽の範囲に属するもの」です。著作物の例には、小説や漫画、絵画、音楽、映画、写真、マニュアル、コンピュータプログラムなどがあります。著作物に該当しないものは、思想または感情を表現したものではない単なるデータや事実、表現を伴わない理論や法則などのアイディアそのもの、大量生産される工業製品のデザインなどです。
著作権は著作物を創作した時点で発生し、著作権を有すると自身の著作物利用を独占でき、第三者の無断使用を禁止することができます。ただし、著作権には保護期間があり、日本では著作者の死後70年を原則とし、保護期間終了後は（ただし著作権以外の知的所有権が存在する可能性もあり、例外となるケースもあります。）
画像生成AIには、著作権の問題と関わる点として、以下の４点があります。
＜著作権の問題に関わる4点＞
- AIに学習させるデータセットに著作物を収集・提供することができるか（著作者は自分の著作物がデータセットに利用されることを拒否できるか）
- ユーザーが入力するプロンプトは著作物として保護されるか
- 画像生成AIで作成した画像は著作物の対象となるか
- 画像生成AIで作成した画像は他の著作権を侵害するか
以下にそれぞれポイントを解説いたします。
（1）AIに学習させるデータセットに著作物を収集・提供することができるか（著作者は自分の著作物がデータセットに利用されることを拒否できるか）
画像生成AIは膨大な画像データで構成されたデータセットを使って学習しています。この学習のためのデータセットの中に、著作権で保護されたコンテンツが含まれることがあることで様々な問題が生まれています。現状多くのAI開発企業は、AIモデルの学習セットに使われるデータセットに著作権で保護されたコンテンツを使用することを正当化しています。
日本では、2018年に改正された著作権法の第30条の4第2号にて、AIの機械学習を目的にした著作物の利用が基本的に認められています。著作物の種類や用途、商用利用の有無に関わらず、また許諾も必要なく利用することができます。一方で、但し書きとして「ただし、当該著作物の種類及び用途並びに当該利用の態様に照らし著作権者の利益を不当に害することとなる場合は、この限りでない。」としています。
また、日本以外の多くの国では、著作者の権利を侵害せずに著作権で保護されている作品の利用を可能とする方法があります。一例をあげれば、アメリカでは、フェアユース（日本語で公正利用や公正使用と訳されています）という概念があります。著作権規定にも定められている例外規定の一つで、批評、解説、ニュース報道、教授（教室における使用のために複数のコピーを作成するなど）等の目的のために著作物を使用しても良いというものです。このような規定はアメリカだけでなく、台湾やフィリピン、シンガポール、韓国、マレーシアなど、類似の規定が存在します。よって、学習データセットに著作物を含むことに対して、フェアユースであるという主張をしている企業もあります。ただし、フェアユースに該当するとしても、その画像を使用する目的や市場に与える影響、その画像の著作者の生活を脅かさないかといった点には問題が残ります。実際、自身の創作した画像がウェブから無断で利用されていることに対し、アーティストから批判が高まっています。
以上のことから、著作権法で保護されていないとしても、AI学習データセットへの著作物の利用は、著作権者の生活が脅かされたり、利益が不当に害されたりする恐れがあり、本当にそれで問題ないのか？ということは議論の分かれる部分です。
（2）ユーザーが入力するプロンプトは著作物として保護されるか
プロンプトは短い文章による指示のため、著作物となるかどうかには、その表現に創作性があるか、思想または感情を表現したものなのかが重要な観点となります。プロンプトは短い言葉であり、また一つ一つはありふれた言葉であるため、著作物として保護するのには難しい部分が多いのが実情です。小説の冒頭の一文のような、創作性が高く、作者の思想や感情が表現されたようなプロンプトであれば創作性が認められる可能性はありますが、あくまでデッドコピーの禁止（ほぼそのまま創作物を模倣すること）にとどまるかと思います。
（3）画像生成AIで作成した画像は著作物の対象となるか
日本を含むほとんどの国では、著作権法において著作権が発生する対象を人間と限定しています。人間が関与せず、機械だけで生成された創作物には著作権は発生しないという考え方です。AIに指示を与えるプロンプトは人間が作成しますが、創作に関与したと言えるのでしょうか？
プロンプトの作成で人間が関与したと言えるか、著作権として認められるかどうかは、人間である著作者の貢献度に応じて判断されます。長く複雑なプロンプトをもとに作成したケース、試行錯誤しながら複数の画像を生成しそれを選択して完成させたケース、生成した画像を別のソフトでさらに加工して創造的な表現を加えたケースなどがその例として挙げられます。
さらに、著作物と認められた場合、誰が著作権を有するかについては、AIを使って画像を作成したユーザーに帰属します。画像生成AIのサービスを提供している企業や、AIそのものではありません。ただし、ソフトウェアや利用プランによっては、利用規約などで定めることにより、生成された画像はクリエイティブ・コモンズとして自由に他のユーザーが利用出来るようにされていることもあります。利用にあたっては、そのような点も考慮が必要かもしれません。
（4）画像生成AIで作成した画像は他の著作権を侵害するか
画像生成AIが作成した画像が、著作物である他の画像に類似してしまう可能性があります。基本的には著作権の侵害には、①著作物性（既存のが著作物に該当するか）、②依拠性（新しく作成した画像が、既存のイラストや画像に依拠し制作されたものか）、③類似性（新しく作成した画像が既存画像に類似しているか）という３つの判断基準があります。
- ①はこれまで説明してきた通り、その画像が思想や感情を創作的に表現したものかどうかにより判断されます。
- ②は既存の著作物を参考にして作ったかどうかが問題で、偶然類似したものとなった場合は著作権侵害とはなりません。
- ③は既存の著作物の表現形式上の本質的特徴を、新しい著作物からも直接感じる程度に似ているかどうかが争点となります。作風やスタイルが似ている程度では著作権侵害とはなりません。
②の依拠性に関しては、意見が分かれている部分です。著作物であるオリジナル画像がデータセットに含まれていた場合は参考にしたとして依拠性を認めるのか、AIによってオリジナルの著作物はパラメーター化されているので依拠性を認めないとするのか、答えが出ていない問題です。
4.画像生成AIをめぐる倫理の問題
画像生成AIは著作権の問題だけではなく、倫理的な問題とも関係があります。代表的なものはフェイク画像の問題です。ディープフェイクという、機械学習アルゴリズムの一つで、ディープラーニングを使用して２つの画像や動画の一部を交換させ、異なる画像や動画を生成する技術がありますが、世間で言われるディープフェイクは、フェイク画像や偽画像をイメージする方が多い言葉となりました。最近では災害被害が偽装されて拡散されたり、岸田首相のフェイクニュースが公開されるなど、新たな脅威となりつつあります。
また、画像生成AIを使ってポルノや生々しい暴力の映像が生成されている事例もあります。画像生成AI大手Midjourneyではガイドラインで「本質的に無礼・攻撃的・その他乱暴な画像」の生成を禁止したりと、悪用されないために対策を打つ企業も生まれています。
無断で有名人や一般の方の画像を利用しディープフェイクを作る行為は、パブリシティ権や肖像権、名誉権の侵害としてに法的責任を問われることもあります。
5.まとめ
画像生成AIは便利で今後様々な用途に利用されていく反面、権利の問題や、倫理的側面での問題など、多くの課題を抱えています。AIを適切に活用するためには仕組みの理解と、リスクを適切に把握し、モラルを持った行動が求められます。
画像生成AIを活用する目的の一つであるコンテンツ制作においても同様であり、携わる人にとって学ぶことは決して少なくありません。人の判断を必要とする部分について、経験のあるプロに相談することも解決策の一つと言えるでしょう。
今回は生成AIについての解説となりましたが、ホープン（旧社名：プリントボーイ）では、企業のPRをする際の動画コンテンツや制作物全般について様々なご提案が可能ですのでお気軽にご相談ください。
ビジネスの成功に繋がる効果的な販促活動をサポートいたします。
こちらもあわせてお読みください
