これ意味ない→「私が描いた絵のAI学習利用を禁じます」

詳細を書いていきます。

なお、本記事の重要な議論の根拠は下記記事からの引用であるため、正確な理解のためにはこの記事を読むことを強くおすすめします。

Midjourney、Stable Diffusion、mimicなどの画像自動生成AIと著作権

法的に無効

日本国著作権法がAI学習利用を認めてしまっている

まず決定的なものとして、日本国の著作権法が著作物を著作者に無断でAI学習へ利用して良い、と定めているらしいんですね。

Midjourney、Stable Diffusion、mimicなどの画像自動生成AIと著作権

日本著作権法においては、AIソフトウェアの生成に必要な著作物の利用行為(データの複製や翻案)については、原則として著作権者の承諾を行わなくても可能であるという権利制限規定が存在します。

以下が当該条項です。

(著作物に表現された思想又は感情の享受を目的としない利用)
第三十条の四 著作物は、次に掲げる場合その他の当該著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない場合には、その必要と認められる限度において、いずれの方法によるかを問わず、利用することができる。ただし、当該著作物の種類及び用途並びに当該利用の態様に照らし著作権者の利益を不当に害することとなる場合は、この限りでない。
一 著作物の録音、録画その他の利用に係る技術の開発又は実用化のための試験の用に供する場合
二 情報解析(多数の著作物その他の大量の情報から、当該情報を構成する言語、音、影像その他の要素に係る情報を抽出し、比較、分類その他の解析を行うことをいう。第四十七条の五第一項第二号において同じ。)の用に供する場合
三 前二号に掲げる場合のほか、著作物の表現についての人の知覚による認識を伴うことなく当該著作物を電子計算機による情報処理の過程における利用その他の利用(プログラムの著作物にあつては、当該著作物の電子計算機における実行を除く。)に供する場合
e-gov 法令検索

プロフ他に一方的に書いただけでは契約とはみなされない

Midjourney、Stable Diffusion、mimicなどの画像自動生成AIと著作権

「私が描いたイラストをAI学習に使うのは禁止にします」と表明するだけでそもそも「契約」が成立したか、という問題です。
 結論からいうと、そのような一方的な表明がなされただけでは「契約」が成立したことにはならないと思われます。「契約」が成立するためには契約当事者双方の意思が合致することが必要とされているためです。

これはまったくそのとおりであって、「利用者が見えるところに約束事を書いている」だけで契約が有効ならば、昔からネット上にある詐欺サイトに「当該成人向けコンテンツサイトを閲覧した段階で利用条項に同意したものとみなします。月額利用量金は20万円になります」と書いてあるのも契約として有効ということになってしまいます。

余談ですが、「無断転載や二次利用を禁じます」と書いている人も多いですね。これも双方の意思が合致していることが確認されない以上、契約としては意味が無いと思われます。

そもそも、無断転載や二次利用から守ってくれるのは契約ではなくて日本国著作権法です。書いても書かなくても著作権法によって違法なことをやったひとは罰せられますし、残念ながら書いたところで犯罪者が避けていくわけではないです。そして、個々の案件では著作権法における私的利用や引用要件の適否などを争って白黒つけることになるでしょう。

適切に契約を結んだとしてもその契約は無効となる可能性が高い

これは調べていた私自身も衝撃だったのですが、どうもその可能性が高いようです。

Midjourney、Stable Diffusion、mimicなどの画像自動生成AIと著作権

一方、先ほどの報告書別紙2(「新たな知財制度上の課題に関する研究会報告書」)のP55~においては、著作権法30条の4を強行規定と解釈するのではなく、著作権法30条の4により権利制限が認められる利用行為のうち、特にAI学習のための利用行為に着目し、「個別の事情における諸般の事情を考慮する必要があるものの、AI学習等のための著作物の利用行為を制限するオーバーライド条項は、その範囲において、公序良俗に反し、無効とされる可能性が相当程度あると考えられる。」と結論づけています。
 結構踏み込んだ記載です。
 この解釈を前提とすれば、少なくともAI開発のための著作物の利用行為を制約する契約条項は無効であると考えられることになります。

以下が「新たな知財制度上の課題に関する研究会報告書」の該当する記述です。P55〜と書かれていますが、PDFファイルの通しページ番号上のP-183、ページ下に記載の番号でP-37あたりだと思われます。以下のような事が書かれています。

<著作権法 30 条の 4 の趣旨、AI の社会的意義>
- 近時、政府では、相次いでAIに係る国家戦略を策定し(「人工知能技術戦略」、
「AI 戦略 2019」等)、官民の連携の下、人工知能技術の研究開発から社会実
装までに尽力しているところ。
- こうした AI 開発の環境整備を目的とし、各種の法改正・ソフトローの整備が実施。
- 著作権法 30 条の 4 は、上記全体の流れの中、IoT、ビッグデータ、AI 等の第 4 次
産業革命を背景に、イノベーションの促進・情報(著作物)の円滑利用という公益
目的の達成をも趣旨・目的として創設されたもの。
from 新たな知財制度上の課題に関する研究会報告書

ということを踏まえた上で

例えば、(利用規約に基づく契約が成立している前提で、)当該利用規約に AI 学
習等のための利用行為が禁止される旨明確に規定されており、かつ、当該利用規約
が利用者に明確に認識することができる態様で表示されている場合に、利用者が「同
意」ボタンをクリックするなどの方法により当該利用規約に明示的に同意しているときに、
当該利用行為の制限を無効と考えることは当事者間の信義・公平を害するおそれが
あるといえる。
→ 個別の事情によっては、オーバーライド条項を無効と考える場合に、当事者間の信義・
公平を害する場合も想定される。
from 新たな知財制度上の課題に関する研究会報告書

という懸念もあるものの、本研究会の最終結論としては無効とされる可能性が相当程度あるそうです。

法律のことは正直あんまりしらないですが、その条項が追加された背景とか社会的意義も考慮されるんですね。

上掲の議論をすごく雑に要約してみると、「AIの成長のために、ひいては国家の成長のために、クリエイターの皆さんには多少の不便は我慢してもらいましょう」ということだと理解しました。

技術的に無意味

法的な話は以上のとおりですが、以降は技術的な話です。

Botが回収している

AIの学習モデル構築に使用する画像を回収しているのは人間ではなく自動的にWebを徘徊して画像を収集するBotです。ほとんどのBotは「私の絵をAI学習に使わないでください」という文章を理解せず、製作者が自身の著作物をどう利用してほしいかという意思を検証しないと思われます。技術的にとても難しいからです。「ほとんど」と書きましたが、ほぼ全てではないかな、と個人的には疑っています。

Botが回収した画像の中にはオープンな学習用データセットとして公開されているものもあります。例えば話題のStable Diffusionが使っている laion-2B というデータセットでは確認した限りすべての画像のLicenseが "?" と記載されています。つまりどのようなライセンスで配布された画像なのかをわからないまま使っています。実際にこの学習モデルを使ってみると「AKIRA」とか「ドラえもん」などといったキーワードが何なのかを理解している素振りを見せるので著作権が生きているもの、商標が存在するものもたくさん利用していると思われます。

そんなことをして良いのか?というのは当然の疑問かと思われますが、少なくとも実態としてはそうであって、適法かどうかは実施した作業者と作業に使ったコンピュータと収集される画像が配置されるコンピュータのそれぞれがどこの国に配置されているかによって変わってくると思われます(私も詳しく知らないが、少なくとも即時違法と判断できる内容ではないことは確実)。

モデルに利用されたことを証明できない場合が多い

生成された画像生成AIモデルがどのようなデータセットを使用したかを公開していれば別ですが、そうでないならば学習モデルそのものや学習モデルから生成したAI画像からあなたの画像が利用されたことを技術的に証明するのはまず不可能です。そのような方法は現状、存在しません。現代のAI(より正確に言うと機械学習、ニューラルネットと言われるような手法)は解析的・手続き的にイラストを生成していくようなものではなく、数多のデータセットからその特徴量を統計的な処理や数値演算を適用した上でネットワーク内の数値として溜め込むだけの代物で、それは人間の目からみれば単なる数値の羅列という以上の解釈は不可能です。なので、「なぜそのような画像が生成されたのか」という問いはたとえ開発者であっても答えることができません。

クリエイターが自己防衛のためにやれること

以上のようにそもそも日本国法が「AI技術を発展させるために多少の不便は我慢してね」という主旨となっているため、日本で生きている限りは多少の不便を我慢する、すなわち、自分の著作物のAI利用を認める以外は方法が無いと思われます。あまりにもひどい事例があればそれは個々の事案に基づき適用される国の法律とその国の裁判所で戦うしか無く、それはあまりにもコストの割に得られるものが少ない不毛な戦いになると思われます。

が、そんな事言っても実際に俺は昔から無断転載だの勝手に改変されたりだのされてきたから許せねぇんだよ、という気持ちは私も分かるつもりではおります。だから、「だめです」と書きたくなる気持ちも十分にわかります。従ってご自身の溜飲を下げること、あるいは精神安定のために書きたいというのならば、引き続き書けば良いと思います。それ以上の効果は期待できないのですが。

以降は議論が横道にそれる余談です。

私がネット上で見聞きする話で特に懸念しているのは雑な契約と二次創作の取り扱いです。

よく漫画家やイラストレーターの方が「こんなひどいことをするクライアントに出会ったので同業者のみなさん気をつけてください!」という体験談や漫画を投稿されており、それは注意喚起として大変意義のあることだとは思いますが、実際にそういった自体から身を守るのは商契約と法律です。「あぶない、自分も気をつけよう」という意思だけでは不十分で、法律の理解と適切な契約書が必要です。

もう一点。二次創作を行っている方(ちなみに私も二次創作物は描いたことがあります)はそもそも原著作者の同一性保持権及び翻案権を侵害しているわけですが、それは原著作者が自身の著作権を行使しない、という暗黙の了解があって成り立っています。この不安定な橋の上で発展してきたのが日本のサブカルチャーの一端なのだと私は理解してます。法律と権利はもちろん守られるべきですが、自分が見かけた個々の事案について白黒決着をつけるという態度が世の中の動きをどう変化させていくのか、どうあるべきなのか、という事柄についてはある程度持論として語れるくらいのことは考えて然るべきだと個人的には思います。

現状のAI技術では既存の著作権を侵害するような画像を生成することがそもそも非常に難しい(これを疑問に思うのであれば、やってみればすぐわかります)ために、AI生成画像が誰かの著作権を侵害するという自体はほとんど発生しないのではないかと個人的には思っています。おそらく、著作物の無断利用(複製や翻案)の方がずっと横行してしまっていると思います。

にもかかわらず、ネット上のイラスト界隈は昔から著作権法に関する認識が非常に雑で、間違った法解釈がたくさん語られています。著作権法の条文や判例を読むのが面倒だから「誰かがこう言っていたからこう」みたいな安易な解釈を正としてしまい、それが伝えられるたびに細部が変化してさらにおかしくなっていっているのでしょう。もちろん、私がここまで書いてきたことにも誤りはあるかもしれません。

そんな状況で、今、過度にAIが問題であると主張するのは憂さ晴らし以外に何か意味があるんでしょうか?憂さ晴らしが目的ならばそれはそれで良いです。やれば良いと思います。それは個々人の自由です。でも、もっと他にやるべきことがたくさんあるんじゃないでしょうか?と私は思ってしまします。

そんな感じで問題提起したところで、私には法的知識がないのでその議論には参加しませんが…