約 54,043 件
https://w.atwiki.jp/genai_problem/pages/13.html
生成AI問題に関する出来事を扱った年表です。 このwikiのページ一覧 + 編集者の方へ 自由に編集よろしくお願いいたします。 「各SNSなどの声明」「炎上や波乱を生んだ出来事」「生成系AIの主だったニュース」を年表化。 記事があればリンクを貼って記録してください。 簡単な要約をしてわかりやすく。重要な出来事は文字色を変えるなど。 2023年の年表、最新の情報を↑にしました。 下の画像はSNS等にこのwikiのURLを貼り付けた際表示されるサムネイルとなることを想定して作った画像です。仮の画像ですので自由に差し替えて頂いて構いません。 【目次】 2024年 2023年 2022年 2021年以前 2024年 日付 出来事 4/12 アドビの画像生成AI「Firefly」に別の画像生成AIが生成した画像が5%ほど混入しているとブルームバーグが報道。ブルームバーグの報道⇒https //www.bloomberg.com/news/articles/2024-04-12/adobe-s-ai-firefly-used-ai-generated-images-from-rivals-for-training 日本語記事⇒https //gigazine.net/news/20240415-firefly-used-ai-generated-images/ 4/11 アドビが動画生成AIモデル構築に向け、自社のネットワークの参加者に対し120ドル（約1万8000円）報酬を提示し、AI学習のための素材収集を始めたと報じられた。https //www.bloomberg.co.jp/news/articles/2024-04-11/SBR0HIT0G1KW00 4/10 米国ペンシルベニア州下院はAI生成コンテンツの開示を義務づける法案を可決した。https //www.fox43.com/article/news/local/pa-house-passes-law-requiring-disclosure-of-ai-generated-content-politics-harrisburg-dauphin-county/521-161beec6-8841-44fa-8b15-bf4403dcbf1a 4/9 米国連邦議会下院議員であるアダム・シフ氏が生成AIモデルの開発に著作権のある素材を利用した場合、その内容を開示する事を定めた法律「生成AI著作権開示法(Generative AI Copyright Disclosure Act)」を提出した。この法案は、昨年AI利用などを巡りストライキを行ったWGAとSAG-AFTRA、他にも全米作家協会、アメリカレコード協会などの団体が支援している。シフ議員のリリース⇒https //schiff.house.gov/news/press-releases/rep-schiff-introduces-groundbreaking-bill-to-create-ai-transparency-between-creators-and-companies 日本語記事⇒https //gigazine.net/news/20240411-generative-ai-copyright-disclosure-act/ 4/8 ストックフォト大手のPIXTAが、同サービス上の画像について生成AI用学習データとしての販売を開始すると発表。以前PIXTAは生成AI用のデータとしての販売には慎重であったが、利用したいとの問い合わせが多く大きな収益が見込めるとして今回の判断に至ったという。利用されたクリエイターに対する収益の還元や各クリエイターによるデータ利用の拒否も可能であるとのこと。https //ascii.jp/elem/000/004/193/4193103/ 4/8 NTTと読売新聞が生成AIに関する共同提言を発表。提言内では生成AIの利点と課題を提示、課題としてはアテンション・エコノミーの台頭による情報空間の不健全化、個人の尊厳の毀損、健全な情報提供・流通へのインセンティブ低下等を挙げた。両社はこういった課題への対処として、（特に選挙・安全保障等に関し）健全な言論空間確保のためハードローを含めた法整備、情報発信のエコシステム維持の観点から著作権法を時代に合わせ適正化する事等を提案した。NTT公式サイトのリリース⇒https //group.ntt/jp/newsrelease/2024/04/08/240408a.html 関連記事⇒https //www.jiji.com/jc/article?k=2024040800808 g=eco 宣言に関する読売の記事⇒https //www.yomiuri.co.jp/politics/20240408-OYT1T50172/ 4/5 米Meta社は、同社が運営するSNS、Facebook、Instagram、Threads上に投稿されたAI生成画像への「Made with AI」のラベル表示を5月より本格化させると発表した。Metaの従来のポリシーでは一部の投稿を削除する事に重点を置いていたものの、コンテンツがどのように作られたかの情報を提供し掲載を続ける方向へシフトする。https //jp.reuters.com/world/us/C3DC665BSJNBLAY2EULK6Y35XU-2024-04-05/ https //www.itmedia.co.jp/news/articles/2404/06/news050.html 4/4 米国カリフォルニア州のAI規制法「最先端AIシステムのための安全で安心な技術革新法」が州上院司法委員会を通過。この法案はAI企業に対し事務的・技術的・物理的なサイバーセキュリティの保護を求め、利用者が重大な被害を被った際は企業側に法的責任があるとするもの。https //www.jetro.go.jp/biznews/2024/04/65d431a83da79f72.html 4/4 YouTubeのCEOニール・モーハン氏はメディアとのインタビューで、OpenAIの動画生成AI「Sora」について触れもしSoraがYouTubeの動画を利用してトレーニングされたのなら、YouTubeポリシーの「明らかな違反」になると述べた。https //www.itmedia.co.jp/news/articles/2404/05/news098.html 4/4 英StabilityAI社の音楽生成AI「Stable Audio 2.0」が公開された。https //gigazine.net/news/20240404-stable-audio-2/ 4/2 米国のコメディアンである故ジョージ・カーリン氏の遺産管理団体が、同氏の声をAIで再現したポッドキャスト番組に対し著作権や肖像権の侵害であるとして2024年1月に起こした訴訟について、被告側が番組の削除などに同意する形で和解が成立した。https //variety.com/2024/biz/news/george-carlin-ai-impersonation-lawsuit-settlement-1235958396/ 4/2 米国の音楽団体Artist Rights Alliance（ARA）は、アーティストの価値や報酬を下げ、置き換えようとしたりするようなAIの開発や利用を非難する書簡を発表。この書簡にはビリー・アイリッシュやケイティ・ペリーなど約200名の音楽アーティストが署名した。ARAの書簡⇒https //artistrightsnow.medium.com/200-artists-urge-tech-platforms-stop-devaluing-music-559fb109bbac 日本語記事⇒https //gigazine.net/news/20240403-200-artists-letter-ai-replace/ 3/29 米OpenAIが人の声を再現する生成AI「Voice Engine」を開発したと発表。同社は企業の製品紹介や言語障害がある人への支援などの用途を提示。なお、悪用防止の観点からすぐには公開せず安全対策を進めているとのこと。https //www.nikkei.com/article/DGXZQOGN3018U0Q4A330C2000000/ 3/28~4/1 3月28日、海上保安庁の公式Xアカウントが海の安全に関する注意喚起のポストを投稿。その中のイラストがAIを使っているのではないかと指摘され、ネット上で議論を呼ぶこととなった。意見としては「（生成AIの抱える諸問題を背景として）なぜイラストレーターに依頼せずにAIを使ったのか」「AIであっても問題はない」といったものが見られた。4月1日、海上保安庁はメディアの取材に対し「AIイラストを利用した」と返答、「今後はXでの新規投稿を控え、SNSでの意見を踏まえた上で生成AI利用について考えていきたい」とした。Xでの投稿⇒https //twitter.com/JCG_koho/status/1773208645037084832 関連記事⇒https //www.buzzfeed.com/jp/kenjiando/jcg-koho-illust 3/28 米著作権局が主催する生成AIと著作権法・特許法に関するシンポジウムがロサンゼルスのロヨラ法科大学院で行われた。その中でGoogle booksの事例と生成AIの訴訟は異なるだろうとの意見がパネリストから出された。また、全米監督組合の代表はハリウッドの映画産業には生成AIに対してより強固な著作権法等が必要だと主張した。※ソースの記事の日付自体は3/29である。https //www.vorys.com/publication-gen-ai-and-ip-highlights-from-the-uspto-copyright-office-public-symposium 3/25 NTTが独自に開発した生成AIによる企業や自治体向けのサービス提供を開始した。https //www.yomiuri.co.jp/economy/20240326-OYT1T50001/ 3/25 イギリスの人気ドラマ「ドクター・フー」がプロモーション用テキストに生成AIを利用するとの報道があったが苦情により撤回。BBCは今後同番組の宣伝に生成AIを使用しないと発表した。https //deadline.com/2024/03/bbc-doctor-who-ai-complaints-1235867333/ 3/23 画像生成AI「Stable Diffusion」等を開発したAI開発企業StabilityAIに所属するエマド・モスターク（Emad Mostaque）氏がCEOを辞任した。同社のプレスリリースによると辞任は分散型AI（decentralized AI）推進のためであるとされる。StabilityAIのリリース⇒https //stability.ai/news/stabilityai-announcement 関連記事⇒https //forbesjapan.com/articles/detail/69907 3/21 国連総会にて加盟各国にAIの安全確保に向けた取り組みを求める決議案が採択された。https //www.nikkei.com/article/DGXZQOGN21CSY0R20C24A3000000/ 3/21 米テネシー州は、音楽アーティストらの声などをAIで無断複製・利用されることからの保護を目的とした法律、ELVIS法を成立させた。https //www.asahi.com/articles/ASS3Q43MPS3QUHBI00H.html https //www.reuters.com/legal/tennessee-becomes-first-us-state-with-law-protecting-musicians-ai-2024-03-21/ 3/21 政府・内閣府は21日、生成AIと知的財産権に関する検討会において、開発企業が企業ロゴなどの登録商標をデータ学習させた際であっても、商標権を守る意匠権の侵害にあたらないと中間とりまとめを示した。クリエイターの作風は著作権法の保護対象外とし、声については肖像権で保護される可能性は高いとは言えないと指摘した。学習データの権利者保護策として契約に基づく対価還元とAI開発企業との提供契約を掲げた。https //www.jiji.com/jc/article?k=2024032100963 3/20 フランスの競争当局は米Googleに対し、報道機関と記事使用料に関する交渉を適切に行わず対話型AIの学習にも記事を無断利用したとして、2億5000万ユーロ（約410億円）の制裁金を科すと発表した。フランスでは2023年7月から大規模言語モデルBard(現在はGemini)のサービスを開始していたが学習データにされることを拒否できるオプトアウトツールを公開したのが同年9月末と遅れていた事とオプトアウト申請をしていたTV局の最新ニュースがBardに利用されていたのが履行義務に違反していた。https //www.yomiuri.co.jp/economy/20240320-OYT1T50162 https //news.yahoo.co.jp/expert/articles/492728b39530ebe81a32b214f636068166c5ba3c 3/18 日本政府が生成AI開発者に対し偽情報対策に不備があった際の罰則などを含めた法規制導入を目指していることが複数のメディアで報道された。この動きはEUなど各国で規制を進める動きがあった事への対応とされ、今後6月に取りまとめる予定の経済財政運営の指針「骨太方針」に規制について盛り込む予定。https //nordot.app/1142433766237766028?c=39550187727945729 https //www.sankei.com/article/20240318-JDTUTW6YXVM2NL6XIYSJXCP2V4/ 3/14 総務省と経済産業省が取りまとめた「AI事業者ガイドライン案」について募集されたパブリックコメントの結果が発表された。意見ではAI開発時の著作物の無断利用を防止すべきといった規制を求めるものや、技術の進歩・普及が滞るのではといったものがあった。https //www.sankei.com/article/20240314-COBYFZGMKVLBLDCASORY3FZRHU/ 3/13 文化庁が生成AIによる著作権侵害の事例を収集するための窓口を開設したと報道された。昨秋設けられた「文化芸術活動に関する法律相談窓口」に「AIと著作権について」の項目を追加する形。相談は、文化庁から委託を受けた弁護士が無料で対応している。相談窓口⇒https //www.bunka.go.jp/seisaku/bunka_gyosei/kibankyoka/madoguchi/index.html 関連記事⇒https //www.yomiuri.co.jp/culture/20240312-OYT1T50242/ 3/13 EU欧州議会の本会議でAI法の最終案が可決された。これを以て事実上AI法は成立、2026年より適用が開始される。https //www.yomiuri.co.jp/science/20240313-OYT1T50195/ 3/13 AI開発企業のOpenAIがル・モンド（仏）、プリサ（西）というメディア企業2社と提携。2社のコンテンツは今後、記事の要約や生成AIの学習に利用される予定。https //www.yomiuri.co.jp/economy/20240314-OYT1T50070/ 3/8 作家3名が半導体メーカーであるNVIDIAを被告として米国カリフォルニア州の裁判所に訴訟を提起。原告側は、NVIDIA社の生成AI開発フレームワーク「NVIDIA Nemo」がトレーニング時に作家らのコンテンツを無断で利用したと主張。https //gigazine.net/news/20240311-nvidia-sued-ai-use-copyrighted-works/ 3/2頃~ 画像生成AI等を開発している企業StabilityAIの従業員が、同じく画像生成AIの開発企業であるMidjourneyに対してMidjourneyの画像とプロンプトのペアをBOTによるスクレイピングを行い大量収集した疑惑があると明らかに。これを受けMidjourneyは従業員のアカウントBAN措置を行った。https //gigazine.net/news/20240312-midjourney-ban-stable-diffusion/ 2/29 文化庁の令和5年度第7回文化審議会著作権分科会法制度小委員会が開催。この委員会では文化庁がまとめたAIと著作権に関する素案に対し募集したパブリックコメントの結果とそれを反映した素案の修正版が発表された。なおこのパブコメでは計2万4983件もの意見が集まり、うち団体等については著作者関連やテクノロジー関連等を合わせた73の団体・法人が意見を送付した。文化庁サイト⇒https //www.bunka.go.jp/seisaku/bunkashingikai/chosakuken/hoseido/r05_07/ 関連記事⇒https //www.itmedia.co.jp/news/articles/2402/29/news134.html 2/28 米国のネットメディアであるインターセプト、ローストーリー、オルターネットの3社がOpenAIとマイクロソフトを相手取り提訴。原告側は、被告側が記事の著者情報や見出しなどを削除、これはデジタルミレニアム著作権法に違反したものであると主張。https //jp.reuters.com/economy/industry/MU7GWNBQERN4BMHUIRQFCDZQQQ-2024-02-29/ 2/28 英語圏のテック系メディアである404mediaが、TumblrとWordpress.comを運営するAutomattic社がユーザーデータをAI開発企業OpenAIとMidjourneyにAIトレーニング用として提供する準備中であると報道した。これに伴いデータ提供をオプトアウト出来る新機能も導入予定。英語記事⇒https //www.404media.co/tumblr-and-wordpress-to-sell-users-data-to-train-ai-tools/ 日本語記事⇒https //gigazine.net/news/20240228-tumblr-wordpress-user-data-ai-training/ 2/26 （終了）内閣府・知的財産戦略本部がパブリックコメント「『知的財産推進計画2024』の策定に向けた意見募集」の募集を開始。募集は3月27日まで。募集案内ページ⇒https //public-comment.e-gov.go.jp/servlet/Public?CLASSNAME=PCMMSTDETAIL id=095240180 Mode=0 2/26 中国・広州の裁判所が、AIで生成されたウルトラマンの画像について既存作品の権利を侵害したとしてAIサービス運営企業から中国国内でウルトラマンの権利を有する企業に対し1万元の賠償を命じる判決を下した。日本語記事⇒https //ashu-chinastatistics.com/news/003097-261811014600 英語記事⇒ https //en.haberler.com/chinese-court-issues-world-s-1st-legally-binding-1924872/ 中国語記事⇒https //m.sfccn.com/2024/2-26/0OMDE1MTdfMTg5OTY0OA.html 2/22 英StabilityAIは、新しい画像生成AIモデル「Stable Diffusion 3.0」の早期プレビューを発表した。https //news.mynavi.jp/article/20240224-2890986/ 2/21 2月20日、ペイントソフト「Clip Studio Paint（クリスタ）」等の開発で知られるセルシス社とAI技術等を専門とするアクセル社との資本業務提携が発表された。この発表によって一部のユーザーから「クリスタに画像生成AIを搭載するのではないか」との不安の声が寄せられた。翌21日、これに対しセルシス社は画像生成AIは搭載せず、あくまで塗り残し削除等のクリエイターの創作活動を手助けするAI技術の活用を模索、AI機能の開発に使用するデータセットはクリーンなものだけを使用すると説明した。セルシス社公式Xアカウントのポスト⇒https //twitter.com/clip_celsys/status/1760284105848361069 関連記事⇒https //www.itmedia.co.jp/news/articles/2402/22/news156.html 2/19 日本俳優連合（日俳連）の外画・動画（アニメ）部会の公式Xアカウントが「#NOMORE無断生成AI」のタグを用い声優等の声を無断で利用した生成AIに対し強い危機感を持っていると投稿。このツイートは2024年2月28日現在で5.3万リポスト・7万いいねもの反応があるなど、生成AI問題への関心の高さをうかがわせることとなった。日本俳優連合の該当ポスト⇒https //x.com/JAU_GD/status/1759515165098451266?s=20 関連記事⇒https //maidonanews.jp/article/15177394 日俳連によるAI関連活動のまとめ⇒https //www.nippairen.com/about/post-20925.html 2月中旬 文化庁がAIと著作権に関して発表した素案に対し、2024年1月23日～2月12日まで実施したパブリックコメントについて、各権利者団体などが送付したパブコメの内容の公表や素案に対する見解などが発表された。・AIに関する音楽団体協議会（音楽）⇒https //prtimes.jp/main/html/rd/p/000000002.000136468.html ・JASRAC（音楽）⇒https //www.jasrac.or.jp/smt/release/24/02_3.html ・日本レコード協会（音楽）⇒https //www.musicman.co.jp/business/599608 ・芸団協CPRA（音楽・実演）⇒https //www.musicman.co.jp/business/599963 ・日本アニメフィルム文化連盟・NAFCA（アニメ）⇒https //nafca.jp/public-comment04/ ・日本俳優連合（俳優・声優）⇒https //www.nippairen.com/jaunews/post-24612.html ・日本新聞協会（報道）⇒https //www.pressnet.or.jp/statement/broadcasting/240209_15315.html ※日本新聞協会のみ素案への見解、その他の組織はパブコメ内容の発表。 2/16 米OpenAI社が動画生成AI「Sora」を発表。同社は「Sora」は現在開発中であり提供時期は未定だとした。この発表に対しネット上では新技術の登場や発展を喜ぶ声、反対にディープフェイク問題をさらに悪化させるといった不安の声がみられた。https //www3.nhk.or.jp/news/html/20240216/k10014360691000.html 2/15 自民党が生成AIに関する法規制の制定を政府へ促す報告書をまとめるとの報道が行われた。開発や活用に関するルール制定のほか、同時に偽情報の拡散や権利侵害を防止するねらいがあるとのこと。米欧に足並みをそろえ、違反時には罰則を科す予定。https //www.nikkei.com/article/DGXZQOUA132VJ0T10C24A2000000/ 2/15 エイシス社が運営する二次元コンテンツの販売サイト「DLsite」が、2023年5月11日に発表したAI生成作品の一時停止措置を解除。新たに既存フロアと分離したAI生成フロアを設けAI生成作品の販売を再開すると発表。エイシス社リリース⇒https //info.eisys.co.jp/dlsite/4628201220b668fe?locale=default 2/13 米国のコメディアンであるサラ・シルバーマン氏など作家3名がOpenAIに対して行っている裁判について、米裁判所は原告側の主張の多くを棄却する判決を下した。原告側は1か月後までに訴状の再提出が可能。記事1（日本語）⇒https //gigazine.net/news/20240214-openai-win-authors-copyright-lawsuit/ 記事2（英語）https //torrentfreak.com/court-dismisses-authors-copyright-infringement-claims-against-openai-240213/ 2/13 英StabilityAI社が家庭用機材でも高品質な画像生成が可能であるとする新しい画像生成AIモデル「Stable Cascade」を発表。https //gigazine.net/news/20240213-stable-cascade-image-generative-ai/ 2/8 AIによる選挙介入や詐欺電話などが問題視される中、米国連邦通信委員会（FCC）はAI製の音声に対し「人工的または録音された音声」による迷惑電話を禁じる電話消費者保護法違反であるとの見解を示した。実際に米大統領選挙予備選が行われた州では、バイデン大統領の偽音声によって投票を控えるよう促す電話の存在が確認された。https //www.nikkei.com/article/DGXZQOGN08EFR0Y4A200C2000000/ 2/7 YouTubeが生成AIによるディープフェイク対策を導入すると発表。リアルなAIコンテンツに対し合成だと示すラベル付けを行い、透明性と保護設定の新しいレイヤーを追加するとのこと。https //www.watch.impress.co.jp/docs/news/1567122.html 2/6 MetaがInstagram、Facebook、Threadsなど同社のSNSに投稿されたAI画像に対し、AI製かを検出しラベル付けを行う方針であると発表。この機能は早ければ数か月以内に導入される予定。https //gigazine.net/news/20240207-meta-ai-generated-image-labeling/ 2/5 米OpenAIは、同社の画像生成AI「DALL-E3」を提供するAPIで生成された画像にC2PAメタデータを含ませるようにしたと発表。https //www.itmedia.co.jp/news/articles/2402/07/news162.html 2/3 EUのAI法が加盟国大使による全会一致で承認された。自国AI企業からのロビー活動を受け反対していたフランスも最終的に撤回。今後は文言の審査などを経て3月の欧州議会本会議で採決される予定。https //www.asahi.com/articles/ASS230D2BS22UHBI03J.html 2/2 経済産業省は、日本国内での生成AI開発促進のため84億円を支出すると発表。米国グーグルのクラウドサービスを借り上げ、AIデータ学習に半年間無償利用できるようにするとのこと。https //www3.nhk.or.jp/news/html/20240202/k10014344681000.html 1月末 テイラー・スウィフト氏へのフェイクポルノが問題視される中、アメリカの各州でフェイクポルノ防止のための法改正議論が盛んになっていると報道された。連邦議会でもフェイク作成者や所持者に対し損害賠償請求を出来るようにする法案（DEFIANCE法）が提案された。記事1（英語）⇒https //www.theverge.com/2024/1/30/24056385/congress-defiance-act-proposed-ban-nonconsensual-ai-porn 記事2（日本語）⇒https //gigazine.net/news/20240201-lawmakers-propose-anti-nonconsensual-ai-porn-bill/ 1月下旬~2月 米国の有名シンガーソングライター、テイラー・スウィフト氏のAI生成フェイクポルノがSNS上に投稿、大規模に拡散される事態が発生。これを受けX（Twitter）社は「テイラー・スウィフト」の名前で検索不可能にする措置を取ったり、また同じX上で「#ProtectTaylorSwift」のハッシュタグを利用してフェイクポルノを非難する投稿が多数行われるなど、大きな影響が。記事1⇒https //gigazine.net/news/20240206-taylor-swift-porn-deepfakes-4chan-challenge/ 記事2⇒https //gigazine.net/news/20240128-x-taylor-swift-unsearchable-deep-fakes/ 1/30 米国の音楽会社ユニバーサル・ミュージック（UMG）が中国のSNS・TikTokに対し楽曲の提供を打ち切ると発表。UMG側はアーティストへの適切な報酬、AIの悪影響からアーティストを守る事などを求めたものの、相手側との合意に至らなかったためであると説明。UMGのプレスリリース⇒https //www.universal-music.co.jp/press-releases/2024-02-02/ 関連記事⇒https //www.itmedia.co.jp/news/articles/2402/01/news106.html 1/25 日本音楽著作権協会、NexTone、日本音楽出版社協会など9つの音楽関連団体によって構成される協議会「AIに関する音楽団体協議会」の設置が発表された。今後生成AIに関する検討や提言を行う予定。https //natalie.mu/music/news/558434 1/23 （終了）文化庁が取りまとめた「AIと著作権に関する考え方について（素案）」に関するパブリックコメントの募集が開始された。2月12日まで募集。募集案内ページ⇒https //public-comment.e-gov.go.jp/servlet/Public?CLASSNAME=PCMMSTDETAIL id=185001345 Mode=0 1/19 （終了）総務省と経済産業省が取りまとめた「AI事業者ガイドライン案」に対するパブリックコメントの募集が開始された。2月19日まで募集。募集案内ページ（総務省）⇒https //www.soumu.go.jp/menu_news/s-news/01ryutsu20_02000001_00009.html 1/19 米シカゴ大学が開発したアート作品をはじめとする画像の生成AI使用を防止するツール「Nightshade」が正式にリリースされた。なおNightshade開発チームは同様の保護ツールであるGlazeを開発・リリースしている。Glaze公式Xアカウントでのリリース告知⇒https //twitter.com/TheGlazeProject/status/1748171091875438621 Nightshade公式サイト⇒https //nightshade.cs.uchicago.edu/ 当wiki「AI学習防止ツール「Glaze」について【利用方法・意義】」も参照 1月中旬 アニメ・美少女系の画像生成を得意とする画像生成AIサービス「NovelAI V3」において、無断で集中学習されたとみられるイラストレーターらの名前とその絵柄で生成された画像をまとめた約7000人のリストが公表され、主にX（Twitter）上で話題となった。（出処は米国の匿名掲示板4chとされる）リスト（作家名と画像）⇒https //mega.nz/folder/AVpjSIQL#ilIpWmnqoLW8NfYW7jEOFg リスト（作家名のみ）⇒https //docs.google.com/spreadsheets/d/1Rl79-hMo-wxCF13Q_iEjB10RVEJTgtKH8WU6CzuEJAo/edit#gid=0 1/17 画像生成AIのイラスト作品等の無断利用に対して作品を保護する技術「Mist」を利用したサービス、「emamori」が正式リリースされた。Glaze・Nightshadeがアメリカ発のサービスであるのに対し、emamoriは日本国内の企業によって運営されている。https //prtimes.jp/main/html/rd/p/000000003.000127618.html 当wiki「AI学習防止ツール「Glaze」について【利用方法・意義】」も参照 1/17 芥川賞の受賞者が発表された。同賞を受賞した小説の内容の一部にChatGPTなどのAIツールが活用されていた事が話題となった。記事1⇒https //www.sankei.com/article/20240117-AAZSAIEHVJOJLEQOZTZPNHDDIQ/ 記事2⇒https //www.sponichi.co.jp/entertainment/news/2024/01/17/kiji/20240117s00041000521000c.html 1/16 スクウェア・エニックスが開発し、2024年2月にリリース予定のビデオゲーム「Foamstars」において、画像生成AI「Midjourney」を一部ゲーム内に利用していたことが明らかとなった。英語記事⇒https //www.videogameschronicle.com/news/square-enix-confirms-foamstars-contains-some-ai-generated-art/ 日本語記事⇒https //jp.ign.com/foamstars/73020/news/foamstars 1/15 文化庁が令和5年度第6回文化審議会分科会法制度小委員会を開催。この小委員会では文化庁がまとめた生成AIと著作権侵害についての素案が概ね了承された。文化庁サイト⇒ https //www.bunka.go.jp/seisaku/bunkashingikai/chosakuken/hoseido/r05_06/ 記事⇒ https //nordot.app/1119472926186422477?c=39550187727945729 1/11 （終了）内閣府・知財戦略推進本部による新たなクールジャパン戦略に向けたパブリックコメントの募集が開始された。2月10日まで募集。募集案内ページ⇒https //public-comment.e-gov.go.jp/servlet/Public?CLASSNAME=PCMMSTDETAIL id=095240010 Mode=0 1/9~10 1月9日、アイビス社が開発したペイントソフト「ibispaint」において、画像生成AIを利用した「AIお手本機能」が実装される。しかしながら現状の画像生成AIが抱える権利的・倫理的問題が取り沙汰される中で、この機能は日本国内や海外で物議を醸す事となった。翌10日、お手本機能の実装を撤回する旨の告知がアイビス社より出された。アイビス社の実装撤回告知（日本語版）⇒https //ibispaint.com/information.jsp?newsID=88626344 lang=ja アイビス社の実装撤回告知（英語版）⇒https //ibispaint.com/information.jsp?newsID=88626344 lang=en 1/7~10 お絵かき用ペンタブレットなどで知られるWacom社が、同社のX（Twitter）英語版公式アカウントで行った広告ポスト内でAI画像が利用されているとの疑惑が浮上、海外を中心に物議を醸した。1月10日、Wacom社は事の経緯を説明するポストを英語版・日本語版アカウントの両方に投稿した。該当ポスト(削除済み)の魚拓⇒https //web.archive.org/web/20240106195553/https //twitter.com/wacom/status/1742320780736970987 説明ポスト（英語版）⇒https //twitter.com/wacom/status/1744814055137919388 説明ポスト（日本語版）⇒https //twitter.com/wacom_info_jp/status/1744910166120870002 1/5 ノンフィクション作家2名が、自身の著作物をAIモデルのトレーニングのため無断で利用したと主張しAI開発企業であるOpenAIとマイクロソフトをニューヨークの裁判所に提訴。https //www.reuters.com/legal/microsoft-openai-hit-with-new-lawsuit-by-authors-over-ai-training-2024-01-05/ 2023年 日付 出来事 12/27 米紙ニューヨークタイムズがAI開発企業OpenAIとマイクロソフトに対し、自社の記事を無断でAI開発に利用されたとして訴訟を提起。https //www.bbc.com/japanese/67831445 12/27 韓国・文化体育観光部が生成AIと著作権に関するガイドラインを発表。「著作権者は自身の著作物をAIに利用されたくない場合、反対の意思を示すか相応の技術的措置を講じること」「AI生成物は原則として著作物とは見做さない」などの内容が盛り込まれた。https //www.mcst.go.kr/kor/s_notice/press/pressView.jsp?pSeq=20743 https //v.daum.net/v/20231218174533164 12/23 米連邦議会のアンナ・エシュー議員とドン・ベイヤー議員が生成AIのトレーニングに利用したデータの 開示義務を課す法案「AI財団モデル透明法（AI Foundation Model Transparency Act）」を提出した。 https //www.theverge.com/2023/12/22/24012757/ai-foundation-model-transparency-act-bill-copyright-regulation https //gigazine.net/news/20231224-ai-required-disclose-training-data-bill/ 12/21 画像生成AI「Midjourney」が最新版であるV6のアルファテストを開始。その際、映画のワンシーンなどと構図・服装などが極めて類似しているAI生成画像が出力されたと指摘。記事（英語）⇒https //www.thestreet.com/technology/users-of-midjourney-text-to-image-site-claim-issues-with-new-update 出力画像のまとめ（日本語）⇒ https //min.togetter.com/rMFlb4x 12/20 ドイツのAI関連団体LAIONが構築したAI開発用データセットLAION-5Bの中に、児童の性的虐待画像が1000件以上含まれていたことが米スタンフォード大学によって判明。なおこのデータセットは有名な画像生成AIであるStable Diffusion等のトレーニングに使用されている。記事1⇒ https //www.nikkei.com/article/DGXZQOGN20F220Q3A221C2000000/ 記事2⇒ https //gigazine.net/news/20231221-ai-dataset-laion-child-abuse-images/ 12/20 文化庁が令和5年度第5回文化審議会分科会法制度小委員会を開催。この小委員会では著作権とAI学習に関しどのようなケースが著作権法30条の4の例外となるかについての素案が提示された。https //www.yomiuri.co.jp/culture/20231220-OYT1T50149/ 12月中旬 音楽生成AI「Suno AI」がX（旧Twitter）上でブームとなる。https //www.itmedia.co.jp/news/articles/2312/14/news202.html 12/6 Googleが生成AIに関連する新たな基盤技術Gemini（ジェミニ）を発表した。https //www.yomiuri.co.jp/economy/20231207-OYT1T50066/ 11/29 米国人アーティスト集団訴訟について、原告側が修正した訴状を提出。この訴状では新たに7名の原告が加わり合計10名となったほか、被告側企業も1社追加された。https //news.artnet.com/news/lawyers-for-artists-suing-ai-companies-file-amended-complaint-after-judge-dismisses-some-claims-2403523 11/27 中国で発生したAI画像の無断使用に対し著作権侵害であるとして画像の作成者が提訴した裁判について、中国の裁判所は画像作成者側の主張を認める判決を出した。今後控訴が行われる予定。https //www.scmp.com/tech/tech-trends/article/3243570/beijing-courts-ruling-ai-generated-content-can-be-covered-copyright-eschews-us-stand-far-reaching 11/21 Stability AI社がテキストより動画を生成するAIモデル「Stable Video Diffusion」のリサーチプレビュー版をリリースした。https //www.itmedia.co.jp/news/articles/2311/22/news100.html 11/21 ノンフィクション作家のジュリアン・サンクトン氏がOpenAIとマイクロソフトを著作権侵害で提訴した。https //www.reuters.com/legal/openai-microsoft-hit-with-new-author-copyright-lawsuit-over-ai-training-2023-11-21/ 11/17 Stability AI社は「Stable Diffusion XL」を日本向けに特化させた「Japanese Stable Diffusion XL（JSDXL）」をリリース。なおStability AI側はJSDXLについて、オプトアウト要求のあったデータ、robots.txtや利用規約に基づいて使用を禁止しているデータについては学習データより除外しているとした。https //www.techno-edge.net/article/2023/11/17/2274.html 11/16 NovelAI V3がリリース。全体的な品質が向上し出力される作風も以前より多様になったものの、特定の作品やクリエイターの絵柄を想起させるような生成物も多く出力される事で問題に。https //min.togetter.com/qDBZuI8 11/15 動画投稿サイトのYouTubeは、生成AIを利用したコンテンツを投稿する際のガイドラインを発表した。現実と見紛うようなAI生成コンテンツを作成した場合その事実を開示する義務や、自身の声や顔を無断で使用したAIコンテンツの削除リクエストを出来るようにする事などが盛り込まれた。https //blog.youtube/inside-youtube/our-approach-to-responsible-ai-innovation/ https //www.itmedia.co.jp/news/articles/2311/15/news086.html 11/9 日本俳優連合が、内閣府へ提出したパブリックコメントの内容を発表。https //www.nippairen.com/jaunews/post-20229.html 11/8 2023年7月中旬より開始された全米映画俳優連合（SAG-AFTRA）によるストライキについて、暫定合意に達したと発表。これを以て118日間続いたストは終了することとなった。https //theriver.jp/actors-strike-ends/ 11/7 日本アニメフィルム文化連盟が『AI時代における知的財産権』に関するパブリックコメントを発表。https //nafca.jp/public-comment01/ 11/3 日本脚本家連盟と日本シナリオ作家協会は共同で生成AIに関する声明を発表。内容は映画・テレビなどの制作における生成AI利用事実の明示、著作権法30条の4に対する懸念といったもの。脚本家の権利と生成ＡＩに関する共同声明（PDF） 11/2 岸田首相にそっくりな声で首相本人は言っていない卑猥な言葉を発するという内容のフェイク動画がX（Twitter）上に投稿、拡散された。この動画は生成AIを利用して作られたもので、動画内に日本テレビの番組ロゴが映っていたことから同社は「ロゴをフェイク動画に使うのは到底許せない」と反応。さらに11月6日の会見で松野官房長官は、本件について「一般論として政府情報を偽装するのは民主主義の基盤を傷つけることになる」と述べた。https //www.yomiuri.co.jp/national/20231103-OYT1T50260/ https //www.sankei.com/article/20231106-YNGYGR6Y7JI75BCWDIF5H7XOLU/ 11/2 女優スカーレット・ヨハンソン氏がAIアプリの会社に対し自身の映像を無許可で使用していたとして法的措置を行う事が報道された。https //www.crank-in.net/news/136335/1 10/31 米国人アーティスト3名が行っていたAI企業に対する集団訴訟について、同事件を担当する裁判所はMidjourneyとdeviantARTに対するものについては訴訟を棄却、Stability AIについては一部の訴えを認め、訴状を修正し問題を追求し続けても良いとした。https //gigazine.net/news/20231031-stable-diffusion-midjourney-copyright-lawsuit/ 10/30 米バイデン政権はAIの安全性に関する新たな基準を盛り込んだ大統領令を公表。開発過程に関する規制やAI製コンテンツであると分かる仕組みを作ることなどを含めた。https //www3.nhk.or.jp/news/html/20231030/k10014241801000.html 10/30 日本新聞協会が「生成AIに関する基本的な考え方」を発表。著作権法30条の4改正などを主張した。https //www.pressnet.or.jp/statement/broadcasting/231030_15193.html 10/23 米シカゴ大学のチームは、画像生成AIの画像無断使用に対するプロテクトツールである「Nightshade」を発表した。記事1：https //japan.zdnet.com/article/35210693/ 記事2：https //www.technologyreview.com/2023/10/23/1082189/data-poisoning-artists-fight-generative-ai/ 10/19 米国の作家5名が、Metaやマイクロソフトなど4社に対し、自分達の作品を許可なくAIのトレーニングに使用したとして提訴した。https //www.reuters.com/legal/litigation/authors-sue-meta-microsoft-bloomberg-latest-ai-copyright-clash-2023-10-18/ 10/19 ユニバーサル・ミュージックと他2社の音楽会社がAI開発企業であるAnthropic社に対し、著作権で保護された曲の歌詞への権利侵害があるとして提訴した。https //www.reuters.com/legal/music-publishers-sue-ai-company-anthropic-over-song-lyrics-2023-10-18/ 10/18 G7「広島AIプロセス」の非公式会合が行われ、AI開発者を対象とした国際的指針についての草案に大筋合意した。この草案では著作権の適切な保護、開発段階でのリスク減少措置など11項目が盛り込まれた。https //www.yomiuri.co.jp/economy/20231017-OYT1T50322/ 10/14 日本SF作家クラブが現状の生成AI技術に関する提言を発表した。https //sfwj.jp/news/statement-on-current-generative-ai-technologies-japanese-edition/ 10/7~ イスラエルとパレスチナ（ハマス）間で戦争が勃発。開戦以降、インターネット上ではこの戦争に関するAI製の偽画像が拡散された他、本物の画像がAI製ではないかと疑われる事例も起きた。記事1：https //gigazine.net/news/20231016-ai-images-detectors-discredit-real-war/ 記事2：https //nou-yunyun.hatenablog.com/entry/2023/11/04/090000 10/5 内閣府の知的財産戦略推進事務局が生成AIと著作権に関するパブリックコメントの募集を開始。募集は1か月後の11月5日まで。（終了）https //public-comment.e-gov.go.jp/servlet/Public?CLASSNAME=PCM1031 id=095230820 Mode=0 10/5~ マイクロソフトの画像生成AI機能を悪用し、アメリカ同時多発テロや人種差別に関する不謹慎な画像を作成される事態が発生した。記事1：https //gigazine.net/news/20231005-bing-ai-generate-images-how-uncontrollable/ 記事2：https //gigazine.net/news/20231006-4chan-bing-racist-images/ 10/4 アメリカのFTC(連邦取引委員会)は「クリエイティブ・エコノミーと生成AI」というWeb会議を開催した。SAG-AFTRA(全米映画俳優組合)、WGA WEST(西部脚本家組合)、SF雑誌Clarkesworldの創業者兼編集長Software Freedom Conservancy、全米作家協会、全米声優協会、モデル・アライアンス、コンセプト・アート協会アメリカ音楽家連盟、アーティスト・ライツ・アライアンスの代表がそれぞれ生成AIに対する規制などを訴えた。https //www.ftc.gov/news-events/events/2023/10/creative-economy-generative-ai https //www.ftc.gov/system/files/ftc_gov/pdf/creative-economy-and-generative-ai-transcript-october-4-2023.pdf 10/4 マイクロソフトの検索エンジンBingのAIチャット機能「Bingチャット」でもDALL-E3の利用が可能に。https //gigazine.net/news/20231004-bing-chat-dall-e-3/ 9/24 適切な対価や生成AI利用の制限などをハリウッドの制作会社に求め2023年5月初旬より行われていた全米脚本家組合（WGA）によるストライキについて、労使間での暫定合意が結ばれた。この合意では脚本家組合側の主張が大筋で認められた。https //www.yomiuri.co.jp/world/20230925-OYT1T50159/ 9/20 米OpenAI社が新しい画像生成AIであるDALL-E3を発表。https //gigazine.net/news/20230921-openai-dall-e-3-announced/ 9/19 全米作家協会（AG）が17名の作家と共に作品が違法に使用されているとしてOpenAIを提訴した。https //jp.reuters.com/life/entertainment/643PKXKQB5MTDPKQCZ2QRWUG6M-2023-09-21/ 9/19 日本俳優連合は生成AIに関する実演家向けのアンケートを実施し結果を公表した。https //www.nippairen.com/jaunews/post-19289.html 9/13 アメリカ議会上院はテスラやメタなどAI開発企業のトップらを招き超党派の特別会議を開いた。参加者らは政府主導のAI規制が必要であると示した。https //www.yomiuri.co.jp/world/20230914-OYT1T50125 9/12 フランスにおいて著作物を生成AIに利用する際に許諾を得る事、AI生成物の表記を義務付ける事、出処が不明な著作物をもとにAI生成された作品について、AIシステムを運営する企業に課税する事などを定めた著作権法の改正案が提出された。https //pc.watch.impress.co.jp/docs/news/1534411.html 9/12 日本アニメフィルム文化連盟（NAFCA）がアニメ業界を対象とした生成AIに関する意識調査アンケートの結果を発表した。https //prtimes.jp/main/html/rd/p/000000002.000121993.html 9/11 米国の作家5名がAI訓練のためのコンテンツ利用は著作権侵害に当たるとしてOpenAIを提訴した。https //nordot.app/1074147385982829289 9/10 AmazonがKindleにおけるコンテンツガイドラインを更新し、出版するコンテンツを生成AIで作成した場合申告する事を義務付けた。https //www.itmedia.co.jp/news/articles/2309/10/news048.html 9/8 政府がAI事業者向け指針の骨子案をまとめた。指針では学習データの開示が定められた。https //www.nikkei.com/article/DGXZQOUA081ZX0Y3A900C2000000/ 9/6 世界新聞・ニュース発行者協会（WAN-IFRA）など世界のメディア26団体が生成AIの開発や著作権に関する世界AI原則を定め公表した。https //www.yomiuri.co.jp/national/20230906-OYT1T50244/ 9/5 米国著作権局はMidjourneyと人の手による加工を用いて制作され、2022年8月に絵画の品評会で1位を取った絵画「Theatre D'opera Spatial」の著作権保護の請求を却下した。https //www.reuters.com/legal/litigation/us-copyright-office-denies-protection-another-ai-created-image-2023-09-06/ https //gigazine.net/news/20230912-theatre-dopera-spatial-copyrights-denied/ 8/23 日本写真家協会は生成AI問題に対する声明を発表した。https //www.jps.gr.jp/about-generated-ai-images/ 8/17 日本美術著作権連合は生成AIに対し規制を求める声明を発表した。生成AIに関する声明（PDF） 8/17 日本新聞協会など4団体は、17日生成AIに関して著作権保護策の検討を求める声明を発表した。https //www.asahi.com/articles/ASR8K4WMGR8KULFA009.html https //www.jiji.com/jc/article?k=2023081700660 8/4 日本弁理士会は、生成AIと著作権法に関する論点整理のためメディア向けの説明会を開催した。https //ascii.jp/elem/000/004/148/4148646/ 7/24 日本音楽著作権協会は24日、生成AIと著作権問題に関するプレスリリースを発表した。生成AIに関する著作権問題に触れられており、AI生成物の大量流通による創造サイクルの破壊、それによる文化芸術の持続的発展の阻害を懸念している。https //www.jasrac.or.jp/release/23/07_3.html 7/21 ホワイトハウスはOpenAI等AI開発企業7社を招集し、生成AI製コンテンツに「透かし」を入れる等の対策を自発的に実施する事を約束させたと発表。https //news.infoseek.co.jp/article/21reutersJAPAN_KBN2Z119Y/ 7/20 著作権協会国際連合（CISAC）は12の団体と共同で生成AIに関するオープンレターを公開した。創作者の権利の保護、一刻も早い法規制、立法の場にクリエイティブ関係者を呼ぶこと等を求めた。オープンレター原文（英語）・日本語訳 7/20 米国のアーティスト集団訴訟で初の公聴会が開かれ、担当判事は原告側の主張が明確化されていなかったり証拠不十分であるとして主張の大半を却下する方針だが新たな告訴を認める方針であると表明した。https //www.reuters.com/legal/litigation/us-judge-finds-flaws-artists-lawsuit-against-ai-companies-2023-07-19/ 7/18 全米作家協会が生成AI開発企業に対し無許可で作品を生成AIへ利用しない事を求める書簡を公開した。https //www.itmedia.co.jp/news/articles/2307/19/news089.html 7/14 武蔵野美術大学は6月22日にAI Picasso株式会社と合同で「AI絵画アワード」を開催すると発表するも、Stable Diffusionによる生成AIモデル問題を起因として7月14日に受賞者無しと発表されたhttps //kai-you.net/article/87241 7/14 全米俳優連合（SAG-AFTRA）が生成AIに関する俳優の肖像権問題やストリーミングの普及に伴う還元不足等の理由によりストライキに突入した。なお既に同様の理由でストライキを行っている全米脚本家協会と共同でストに参加する。https //realsound.jp/movie/2023/07/post-1378348.html 7/13 アメリカ議会上院の知的財産小委員会はAIと著作権についての公聴会を開催した。ユニバーサルミュージックグループの Jeffrey Harleston氏、コンセプトアーティストのKarla Ortiz氏エモリー大学のMatthew Sag氏、AdobeのDana Rao氏、Stability AIのBen Brooks氏が発言をした。https //www.judiciary.senate.gov/artificial-intelligence-and-intellectual-property_part-ii-copyright 7/13 中国が生成AI関連サービスへの規制を1か月後の8月15日より施行すると発表。https //www3.nhk.or.jp/news/html/20230713/k10014128841000.html 7/11 アメリカ国民8名がgoogleに対し、AIの学習目的で個人情報や著作物を不正に取得しているとして提訴を行った。https //edition.cnn.com/2023/07/11/tech/google-ai-lawsuit/index.html 7/7 有名コメディアンなど作家3名がOpenAIとMetaに対しデータセットの著作権侵害を主張し訴訟を提起した。https //gigazine.net/news/20230710-openai-meta-chatgpt-llama-copyright/ 6/30 米Valve社が運営するゲーム配信プラットフォームSteamにて、権利関係が不明瞭な生成AI出力素材を使って制作されたゲームが販売不可となった。https //jp.ign.com/steam/68941/news/valveaisteamhttps //pc.watch.impress.co.jp/docs/news/1513342.html 6/29 コミッションサイトSkebは29日、AI生成データ検出AIを故意に逃れる手法を公開した生成AI使用者に対し、発信者情報開示請求訴訟を提起したと発表。https //medium.com/skeb-jp/cidr-4eabf0f1a76 6/28 アメリカ人小説家2名がOpenAIに対しデータセットの著作権侵害を主張し訴訟を提起した。https //gigazine.net/news/20230704-pirate-training/ 6/28 アメリカの法律事務所を主導とする原告団がOpenAIに対しデータセットが人々のプライバシーを侵害しているとして訴訟を提起した。https //gigazine.net/news/20230630-openai-sued-chatgpt-dataset/ 6/26 同人販売最大手のメロンブックスは、実本・電子作品ともに生成AIを使った同人作品の取り扱いを一時停止すると発表した。https //circle.melonbooks.co.jp/news/?news_id=736 6/23 画像生成のNovelAIがリークモデル使用をめぐり、法的処置を含めて警告をした。これにより、リークモデルをベースとしたマージモデル使用者に激震が走った。https //twitter.com/novelaiofficial/status/1672077089233838080 6/21 米Disney傘下のMARVELにて、生成AIから出力された画像を使って動画を作成していたことが発覚し、炎上した。https //twitter.com/DiscussingFilm/status/1671463183490400256 6/14 EUの欧州議会で「AI法修正案」が採択された。https //www.yomiuri.co.jp/world/20230614-OYT1T50188/ 6/8 生成AI使用者「852話」氏が複数件の誹謗中傷に対し開示請求を実施数日前より弁護士に相談していたとツイートしている。https //twitter.com/8co28/status/1666673355565707264 6/7 集英社がAI写真集「さつきあい」を5月31日に発売するも、生成AIの論点・問題点の検討が不十分だったとして販売終了を発表した。https //www.grajapa.shueisha.co.jp/post/202306/ 5/27 海外の弁護士がChatGPTを利用し、多数の「存在しない」判例を出力し、引用したことで裁判所と揉める。https //twitter.com/d_feldman/status/1662308313525100546 5/26 AI利用ユーザー「852話」氏がショタボイスと称した少年の声のRVCを販売(852話氏曰く「母子に許諾済み」)。その後、該当ページでの説明が「リアル少年の声」から「リアル少年らしい声」に変更される。https //twitter.com/tatatataniguthi/status/1662031824028315650https //twitter.com/aikanshishakai/status/1662133538261733377 5/18 BOOTHにて「あの艶っぽい声が手に入る！」と称したAIボイスチェンジャーツール(RVC向け学習済みモデル)が販売されるが10時間後に強制削除される。https //midishop.booth.pm/items/4784295 5/16 一般社団法人「日本芸能従事者協会」、AIによる創作活動への影響についてアンケートの中間集計を発表。https //mainichi.jp/articles/20230515/k00/00m/200/169000c 5/16 Pixivが運営するBOOTHにおいて、運営から検索結果からAI生成作品を外すと発表があった。https //www.pixiv.net/info.php?id=9554 5/12 Pixivリクエスト機能において、AI生成作品の取り扱いを当面中止することとなった。https //www.pixiv.net/info.php?id=9554 5/12 とらのあなの電子書籍コーナーにおいてAI生成作品の登録受付を一時停止すると発表したhttps //news.toranoana.jp/notification/248696 5/11 株式会社エイシスが運営するオンラインストア「DLsite」とクリエイター支援サービス「Ci-en」において、AI生成作品の取り扱いを停止すると発表した。https //info.eisys.co.jp/dlsite/5d752c85cd1379a4https //info.eisys.co.jp/cien/b930b87fcd0a9653?locale=default 5/10 クリエイター支援サイトのPixivFANBOXとFantiaが相次いで、AI生成作品の取り扱いを停止すると発表した。https //official.fanbox.cc/posts/5932126https //spotlight.fantia.jp/news/ai_policy-2 5/8 日本芸能従事者協会は、都内で記者会見し、生成AIによって長年培った表現の技術が奪われ、失職の危機にあるとして法整備などを含めた実演者の権利保護を文化庁に求めた。https //mainichi.jp/articles/20230508/k00/00m/200/170000c 5/6～7 生成AI使用者によるPixiv上の無断収集行為の炎上とPixiv社に対する生成AI対応の不信感がきっかけで、多数のイラストレーターがPixivで公開停止処置に踏み切った。https //www.itmedia.co.jp/news/articles/2305/08/news068.html 5/2 pixivが「画像生成技術を悪用して特定のクリエイターの利益を著しく阻害する行為」に対し、注意喚起を行った。→サービス共通利用規約・ガイドライン類改定の事前のお知らせ 4/29 StabilityAI.社、GoogleのImagen技術を元にDeep floyd IFをリリース。精度の高さが仇となり、版権絵がそのまま出力される事態に利用者が困惑。 4/27 クリエイター有志が会見を開き、画像生成AI登場によって起きたi2i画像盗用などの被害状況について訴え、法規制を求める提言を発表しました。→画像生成AIに対する法整備を求める記者会見がNHKニュースで放送 4/23 AIでシューマッハ氏の架空インタビューを作成・掲載、独週刊誌の編集長が解雇https //news.yahoo.co.jp/pickup/6461104 4/22 Niji Journey v5を用いたAI背景画像107枚無料配布が物議をかもす。VTuberの配信用の素材用途として配布され、背景アーティストの市場破壊が懸念された。https //gamejksokuhou.com/archives/87494320.html 4/18 ドイツ人芸術家がAI製作品である事を隠し写真展に応募。入賞後AI製だと明かし賞を辞退するという騒ぎが起きた。https //www.jiji.com/jc/article?k=2023042300126 g=int1 4/18 AI画像生成モバイルアプリ「Dayseum」リリース。 4/17 "誰の声にでもなりきれる"AIボイチェン「RVC WebUI」が日本語表示に対応。なりすましや詐欺のリスクがあり、音声学習方面の倫理的混乱が危惧される。その危険性やリスクが周知される前に、VRChat界隈などを中心にDiscordサーバーを使用して水面下で広がっており、BOOTHで市場形成が始まりつつある。 4/17 イベント「銀座今昔きもの大市32th」の告知ツイートにAI製と思われる画像が使用される。https //twitter.com/konjyaku_kimono/status/1647968046802440192 4/16 イーロン・マスク氏、X.AI社をネバダ州で登録 OpenAI対抗かhttps //www.itmedia.co.jp/news/articles/2304/16/news045.html 4月中旬～ Niji Journey V5を使用したAI画像での「手描きの自作イラストを偽った投稿」する者がTwitterで頻出する。サムネで騙される人が続出。 4/14 Amazonも生成AIに参入、独自の大規模言語モデルをAPI経由で提供。画像生成AI「Stable Diffusion」も選択できる。https //active.nikkeibp.co.jp/atcl/act/19/00012/041400923/ 4/14 23億パラメーターをもつStable Diffusion XLのベータ版のAPI提供を開始https //twitter.com/StabilityAI_JP/status/1646745334469758976 4/13 AIで作成したクローン音声で誘拐をでっち上げて身代金を要求する事件が発生https //www.wkyt.com/2023/04/10/ive-got-your-daughter-mom-warns-terrifying-ai-voice-cloning-scam-that-faked-kidnapping/ 4/12 Stability AI Japanのアドバイザーにnoteで CXOもつとめるTHE GUILDの深津貴之氏が就任https //twitter.com/StabilityAI_JP/status/1646025635247300612?s=20 4/11 回転寿司チェーン大手のスシローが公式Twitterでスシンギュラリティと称して、AI生成画像を大量にアップしてしまう。そしてほぼ同時期に、ウエルシア、森永乳業、zzzgooといった企業でもAI生成画像の利用が確認された。https //twitter.com/akindosushiroco/status/1645637801868775425 4/6 Microsoft Edgeに画像生成機能「Image Creator」が実装される。米OpenAIの「DALL・E2」採用https //www.itmedia.co.jp/news/spv/2304/07/news083.html 4/5～6 pixiv事務局がウマ娘のR18イラスト投稿者をアカウント停止処分→pixivウマエロアカウント停止騒動 4/4 画像AI「Midjourney」の二次元特化版「にじジャーニー」（nijijourney）で、新モデル「nijijourney V5」の解放。版権キャラクターがプロンプトで直接指定しなくてもそのまま出てきたり、Twitterのトレンド系の絵柄を出してくることから、学習内容の怪しさが問われるhttps //www.itmedia.co.jp/news/articles/2304/04/news125.html 3/31～4/1 コンセプトアーティストのよー清水氏による、プロのイラストレーターを対象にした画像生成AIについてのアンケートが実施・公表された。→よー清水さんによる画像生成AIに関するアンケート調査結果 3/31 AI画像生成『Midjourney』利用者が悪用しすぎて無料版利用停止https //togetter.com/li/2114663 3/29 東北ずん子公式アカウントが自身のLoRAモデルを公開するも、リークモデルベースで物議を醸すhttps //twitter.com/t_zunko/status/1641004037876383746 3/29 女子大生が自分のディープフェイクポルノを発見、犯人は罪に問われず 米https //rollingstonejapan.com/articles/detail/39321 3/24 AIイラスト依頼サイト「プロンプトン」リリース。 3/23 画像生成AI「Midjourney V5」を利用して偽の「トランプ前大統領が逮捕された」画像を生成した人物が利用禁止処分を受けるhttps //gigazine.net/news/20230323-ai-fake-donald-trump-arrest/ 3/23 自民党のAIに関するプロジェクトチームが英Stability AI社幹部を招き会合赤松健参議院議員の「著作権法30条の4がある以上、勝ち筋はこの方面からだろうという意見でも一致」発言が物議を醸した。https //www.itmedia.co.jp/news/spv/2303/28/news163.html 3/22 『最近のpixivで好きなキャラクターのイラストを探すとR18なAIで作られたイラストばかり出てきて絶望してしまう』が8万いいね越えの話題となるhttps //togetter.com/li/2107976 3/22 マイクロソフトの新しい「Bing」、テキストから画像を生成するAI機能を追加https //japan.cnet.com/article/35201549/ 3/21 米Microsoft「新しいBing」に画像生成機能「Bing Image Creator」を追加。米OpenAIの「DALL・E2」採用https //www.itmedia.co.jp/news/spv/2303/22/news123.html 3/21 米Adobeが画像生成AIサービス「Firefly」ベータ版としてリリース。権利関係をクリアしたAIかと期待されたが学習元のAdobe Stockが無断転載やAI生成物が跋扈する無法地帯だったり、オプトアウト不可であるため問題点が多い。https //pc.watch.impress.co.jp/docs/news/1487097.html 3/9 画像生成AI「Midjourney」を使って作られたフルカラーコミック『サイバーパンク桃太郎 (著：Rootport)』が、新潮社から3月9日に発売される。https //nlab.itmedia.co.jp/nl/articles/2303/09/news027.html 3/1 「Skeb」、AIが生成した作品を検出するため米HIVE社製AIを導入・取締まり強化へ 「AIはクリエイターを置換する技術ではない」※Skebは2018開設当初から「イラストジャンルでの本人が直接描いていない作品」を禁止しており、その理由についても度々アナウンスされている。https //news.yahoo.co.jp/articles/f3711cabc8fa59f5a77524a9cc56b9a143dc7b94 2/28 画像生成AIを用いて制作されたアニメ『ANIME ROCK, PAPER, SCISSORS』訳して「アニメじゃんけん」が話題になる。役者の動きを撮影した動画をStable DiffusionでAI変換しているが『吸血鬼ハンターD ブラッドラスト』のスタイルを取り込んでいることが問題視される。 https //togetter.com/li/2091310 2/24 画像生成AI「Midjourney」のイラストに著作権を認めず 米著作権局の見解 https //kai-you.net/article/86115 2/24 無料で使えるAIが生成した声で銀行口座への侵入に成功したとの報告https //gigazine.net/news/20230224-bank-account-ai-generated-voice/ 2/22 「画像生成AIから自分のイラストを守る」学習・模倣の対策ツール「Glaze」無償公開へhttps //kai-you.net/article/86102 2/17 「AIコスプレイヤー」と紹介され実写系のSDモデル「Chilloutmix」を用いたAI生成画像がSNSで注目される。「コスプレイヤーいらなくなったな」などの声が問題視される。https //togetter.com/li/2082714注目集める「AIコスプレイヤー」の作り方を調べてみたら、“無規制地帯”が見つかった イラスト生成のダークサイドhttps //www.itmedia.co.jp/news/articles/2302/17/news168.html 2/16 Stable Diffusionローカル環境にて使用される「ControlNet」の登場。ポーズや深度情報を指定してAI画像生成がされる手段が増えた。 2/15 イラスト生成AI「mimic」の正式版がリリース。不正利用対策を施したベータ版にサブスクなどの機能追加。https //nlab.itmedia.co.jp/nl/articles/2302/14/news020.html 2/14 東方アルカディアレコードのイラストコンテストにて、選考の対象外と明記されていたAI生成による作品が多数投稿されてしまう。https //twitter.com/Touhou_AR/status/1625416625339105282/ 2/6 有料フォトストック最大手の米Getty Images社がStability AI社に対し、著作物の・商標権の無断使あ用・無断複製を理由にアメリカ・デラウェア州地方裁判所で提訴したと発表。https //gigazine.net/news/20230207-getty-sues-stability-ai/ 2/3 Netflix、背景に画像生成AIを使ったショートアニメ公開 作業効率化の実験も海外ファンは非難の声https //www.itmedia.co.jp/news/articles/2302/03/news141.html 2/1 MMDモデル＆モーションデータによる動画をimg2imgでAI変換する事例が出て、MMDモデラーは規約に「AI使用禁止」の追加を余儀なくされる。イラストのi2iは叩かれるのに動画ならいいの？と審議された。https //togetter.com/li/2067260 1月下旬 SKIMA、画像生成AIを使用した商品の売買禁止声明文を発表https //onl.tw/QZyG3bM] 1/17 有料フォトストック最大手の米Getty Images社が著作物・商標権の無断使用と無断複製を理由に、ロンドンの高等法院にて提訴したと発表。https //gigazine.net/news/20230118-getty-images-suing-stability-ai/ 1/13 アメリカでアーティストら3人がStable Diffusion開発元のStability AI.社・midjourney・DeviantARTに対して集団訴訟を提起。https //pc.watch.impress.co.jp/docs/news/1470744.htmlhttps //stablediffusionlitigation.com/ 1/9 AIイラストレーターゆーます氏i2i疑惑 1/2 Jerry Chi氏「Stability AIの日本代表として、日本支社を立ち上げます。」と発表。https //twitter.com/peacej/status/1609824753149411328?s=20 年始～ SDローカル環境の追加学習LoRA登場、更なる絵柄無断学習問題LoRAファイルの配布が問題になる 2022年 日付 出来事 年末～ SDローカル環境の普及 12/25 SDローカル環境の人気モデル「AbyssOrangeMix」が公開される。インスタ系実写系モデルを混ぜて学習されたので肉感のある美少女生成物が特徴。 12/17 SDローカル環境の人気モデル「Counterfeit-v1.0」が公開される。背景学習もされた美少女生成物が特徴のモデル。 12/15 StabilityAI設立者EmadがStable Diffusion 3.0のトレーニングデータセットから、アーティストが自分の作品を削除できるようにすると発表「Have I Been Trained?」というサイトで自身の作品がデータセットに収録されているか確認し、収録が判明すれば作品のオプトアウト要求ができるというもの。ただし、あくまでStable Diffusion3.0におけるデータセットでの話であり、そもそもがオプトアウト形式である点、アーティスト側が能動的に検索・削除申請する必要がある点、それ以前のモデルのデータセットに対しては何ら対処されない点、削除申請されても今後も学習されない保証はない点など、根本的な解決には至っていない。https //gigazine.net/news/20221216-stability-ai-opt-out/ 12月上旬 LoRAの登場。SDローカル環境にて使用される。ベースのモデルに追加で学習して画像生成に用いられる。それまでのハードルが高かった追加学習を簡易にしてしまい、版権キャラクターの出力物が増える。特定個人のイラストレーターの作品を無断でLoRA作成され始める。絵柄のコピーが本格的に始まった。→→LoRAによる個人や作品の無断学習問題 12/2 セルシス「CLIP STUDIO PAINTへ画像生成AI機能を搭載しないことといたしました」炎上を受け、「画像生成AIパレット」の実装を撤回。以下のユーザーの意見があったことを公表する。・現状の方式の画像生成AIが、著作権を侵害していなくとも、誰かの著作物を利用して画像が生成されており、その由来が不明であるアプリは使いたくない。・アーティストの為のツールを名乗っているが、画像生成AI機能はむしろアーティストを苦境に追い込み、その活動を阻害する。・倫理的に問題がない方法で収集されたデータを利用していないのであれば、使えない。・CLIP STUDIO PAINTを使っただけで、画像生成AIで作ったと疑われてしまう。・なぜ要望が多い機能の改善に取り組まずに、問題視されている機能を追加するのか理解できない。・信用できない機能が搭載されている道具は、創作のパートナーとして受け入れられない。・他者の権利が侵害される可能性のある画像が生成され得る機能を提供しておいて、そうならないよう自身で気をつけてほしい、というセルシスのスタンスは無責任だ。https //www.clipstudio.net/ja/news/202212/02_01/ 12/1 画像加工アプリ「Meitu（メイツ）」のAIイラスト機能がPCを持たないライト層や若年層の間で流行する。自撮りを変換してSNSに投稿する人が続出した。 11月下旬～12月上旬 AI画像生成webサービス「Rivera」リリース。 11/30 AIチャットボット「ChatGPT」のプロトタイプ版がOpenAI社によりリリースされる。 11/29 セルシス、CLIP STUDIO PAINTに「画像生成AIパレット」の試験的実装予定の発表動画付きで日本アカウントと英語アカウントで告知される。→炎上するが日本と英語圏とで「画像生成AIパレット」への反発具合が違うと話題に。英語アカウントでは「クリスタ内にStable Diffusionを搭載する」旨が記述されていたが、日本には無かったので多くのユーザーがオリジナルAIだと誤認した。https //www.clipstudio.net/ja/news/202211/29_01/ 11/21 AIイラスト交流サイト「AI PICTORS」リリース。 11/16 MidJourneyのアニメ絵特化型「NijiJourney(にじジャーニー)」テスタースタート。東方ProjectやVTuberなどの版権キャラが直接プロンプトで指定していないのに出てくる。SD系やNovelAI系とも違う絵柄の幅から、学習内容が怪しまれる。 11/10 「MidJourney v4」に2枚の画像を混ぜた結果を生成するremix機能(ブレンド機能)が実装される。 10/31 pixiv、AI作品のフィルタリングを可能に 判別は“自己申告”https //www.itmedia.co.jp/news/articles/2210/31/news118.html 10/30 株式会社ccppにより「chichi-pui(ちちぷい)」というAI生成画像専用投稿サイトが開設される。最初はTwitterアカウントのみが会員登録の手段だった。投稿された画像を生成したプロンプトとネガティブプロンプト、使用モデル、設定などを閲覧できるのが特徴で"AI絵師"のコミュニティを促進する結果に。https //www.itmedia.co.jp/news/articles/2210/31/news103.html 10/20 pixiv、AI作品に対する公式声明を出す。AI生成作品の取り扱いに関するサービスの方針発表。AI作品ランキングの発表。10月下旬予定。https //www.pixiv.net/info.php?id=8715 10/18 pixivに絵をアップすると勝手に「Novel AI」のタグを付けられてしまう被害が横行して地獄と化す。https //togetter.com/li/1960745 10/17 NovelAI流行の中、美麗な画像を出力するためのプロンプト記述をまとめた「元素法典」が話題になる。中国発。低品質な画像を除外するためのネガティブプロンプトの存在が周知されるきっかけとなった。NovelAIのWEB版では全部を使用することができなく、リークモデルを前提としたつくりになっていた。下手な絵、低クオリティ、というタグステータスを学習画像に付与されていることを露わにした。https //kai-you.net/article/85064 10/12 img2img盗作の新しい問題が浮上。作家がお絵描き配信中の画面をスクショしたものを他人が勝手にAIに読み込ませ、作家より早くアップする行為が問題視される。https //togetter.com/li/1957605 10/11 「ファンアートは自分で描いて」画像生成AIのイラストにVTuberが苦言。https //www.itmedia.co.jp/news/articles/2210/11/news138.html 10/8 NovelAIのモデルデータがハッキングされリークされる。https //togetter.com/li/1955160 10/6 「AI絵師」という単語が日本のTwitterでトレンド入り。NovelAIのリリースがきっかけ。https //www.softbank.jp/biz/blog/cloud-technology/articles/202212/diffusion-model-trends/ 10/3 NovelAI Diffusionのサービス開始。25枚無料体験だったMidJourneyと違い完全サブスクだったが広まる。エロが生成できることや美少女を出しやすいことからAI画像生成に手を出す人を増やした。10月3日以降に新規作成されたTwitterアカウントはAI生成物を自作と偽る投稿者の判断基準となった。マスピ顔という概念はここから生まれ、後のローカルAI生成環境にも影響を与えることになる。https //www.itmedia.co.jp/news/articles/2210/03/news146.html【炎上】画像AI『NovelAI Diffusion』が無断転載サイト『Danbooru』を学習させていた・・・https //matomedane.jp/page/114714 9/28 『「AIに埋め尽くされる」画像生成AIブームの影で苦悩するアーティスト』日本語版の記事が公開される。初期のStable Diffusionで作家名プロンプトとして一番名前を使われたGreg Rutkowski氏がインタビューに答え苦悩を語る。https //www.technologyreview.jp/s/286267/this-artist-is-dominating-ai-generated-art-and-hes-not-happy-about-it/ 9/26 静岡県の水害巡りフェイク画像が拡散 画像生成AIを利用 投稿者はデマと認めるも「ざまあw」と開き直り日本国内で早くも写真系のAI画像生成によるフェイク画像の問題性が話題になった例https //www.itmedia.co.jp/news/articles/2209/26/news180.html 9/23 日本初のAI画集がインプレスR Dから発売される。合わせてインタビュー記事が公開される。『AIと人間、どちらが描いたかは意味がなくなる。日本初のAI画集（紙）を出すアーティスト、852話さんが考えていること』https //www.techno-edge.net/article/2022/09/22/308.html 9/22 カリフォルニア州選出の民主党議員アンナ・エシュー氏はアメリカ国家安全保障局(NSA)とアメリカ合衆国科学技術政策局(OSTP)に対し、オープンソースのStable Diffusionは安全フィルターが簡単に回避できDALL-E等では制限されている人種差別や暴力的な画像、フェイクポルノなどが生成できるとして規制を求めた。https //eshoo.house.gov/media/press-releases/eshoo-urges-nsa-ostp-address-unsafe-ai-practices 9/15 8月に一般公開された画像生成AI「Stable Diffusion」を二次元イラスト490万枚以上のデータセットでチューニングした画像生成AI「Waifu-Diffusion」登場『Danbooru(イラスト転載サイト)で学習したWaifu Diffusion』https //togetter.com/li/1943300 9/8 AI作品が絵画コンテストで優勝、アーティストから不満噴出https //www.cnn.co.jp/tech/35192929.html 9/7 Stable Diffusionローカル環境をWEB UIで動かす「AUTOMATIC1111」登場。後の定番ローカル環境ツールとなる。 9/5 Stable Diffusionで海外のアーティスト「Greg Rutkowski氏」の名前がプロンプトで「鉄板のおまじない」としてかなりの回数使用される事態となる。https //knowledge-swimmer.com/stable-diffusion-02 夏～秋 「退屈な道具」Stable Diffusion 炎上「イラストやデザインの仕事は退屈」──Stable Diffusion開発元の代表インタビュー記事が話題https //www.itmedia.co.jp/news/articles/2210/26/news183.html 8/31 Stable DiffusionをPCローカル環境で動作させるGUIが公開される。以降9月上旬にかけてローカル環境ツールが進化・導入され始める。それまではPythonやAnacondaなどを扱える技術や知識が必要だったが、簡易な導入方法と直感的なグラフィックユーザーインターフェース(GUI)で敷居を下げた。 8/31 AI画像生成モバイルアプリ「AIピカソ」リリース。 8/30 「AI学習禁止」を表明しても、現行の法律では対応できない？技術と著作物の今後について議論盛り上がるhttps //togetter.com/li/1937447 8/30 中国Baidu、中国産の画像AI「ERNIE-ViLG」デモページを公開。「日本はこの分野でも米中の企業に遅れるかもしれない」などと懸念する声も見られる。同日の日本産AIサービスmimicの慎重な動きを受けて「日本は海外に乗り遅れる」という言葉が多用され始める。 8/30 炎上を受け、mimic公式からの声明文が出るAIイラスト生成「mimic」、β版の全機能を停止 不正利用などの課題を改善次第、正式版をリリースhttps //www.itmedia.co.jp/news/articles/2208/30/news205.html 8/29 AIイラストメーカー「mimic」（ミミック）β版の提供を開始。日本国内イラストレーターの間での初めてのAI画像生成炎上。「AI学習禁止」という文言をプロフィールに加える人も出た。https //www.itmedia.co.jp/news/articles/2208/29/news133.html 8/28 LINEのテキストメッセージからStable Diffusionを用いAI画像生成する「お絵描きばりぐっどくん」がリリースされる。(西海クリエイティブカンパニー)LINEで友だち登録するだけで使用できるので日本の幅広い層に普及した。https //kai-you.net/article/84593『有志の方が作ったStable DiffusionをLINEで遊べるbotが登場→日本語対応＆画像から呪文も生成できてしまうらしい』https //togetter.com/li/1937182 8/23 Midjourney上でStable Diffusionの出力ができる「--beta」コマンド実装。『やばいやばいやばい #midjourney の--betaコマンド機能追加でミッドジャーニーが完全に二次元のKAWAIIを理解した 凄い すごい』の投稿がバズる。https //togetter.com/li/1934577 8/23 「Stable Diffusion(略称SD)」がオープンソース化。様々なアプリやモデル、AI出力環境に派生するきっかけとなる。「基本的に出力した画像は商用・非商用を問わず、自由に利用できる」というライセンスで大きな話題になった。開発はStability AI社。SDをWEB上のUIで使う「Dream Studio」も公開される。https //www.itmedia.co.jp/news/articles/2208/23/news160.html 8/22 『世界変革の前夜は思ったより静か』note社のCXO・深津貴之氏による記事が話題になる。Twitter4.2万いいね。noteのハートは6700越え。『メルカリで悪魔の実が売り出されるぐらいのスゴイ展開』『世界のルールが根本的に変わってしまう…』https //twitter.com/fladdict/status/1561406014540640256https //note.com/fladdict/n/n13c1413c40de 8/14 「名探偵ピカチュウ」などを手掛けたコンセプトアーティストのRJ Palmer氏、Stable Diffusionがアーティストの権利を侵害していると批判。Stable Diffusionが「明らかに現在活動中のアーティストで訓練されている」と問題視するツイートを発信。英語圏でTwitter8.6万いいねの話題となる。https //twitter.com/arvalis/status/1558623545374023680?s=20 8/10 『サイバーパンク桃太郎』が話題になる。「AIにマンガを描かせてみるテスト」として投稿された。Midjourneyを使用。https //togetter.com/li/1928717 8/6 『弁護士 柿沼太一先生によるMidjourneyのようなAI自動画像生成ツールの著作権についての考察』が公開される。https //togetter.com/li/1927053 8/1 「AIは超高度な作品ではなく、低質なゴミの超量産で検索結果を埋め尽くし、創作界隈を破壊する危険性」が危惧される。同時期のAI使用と作品に対する議論はMidjourney流行の勢いと話題性に流れていく。https //togetter.com/li/1924391 8月 日本のSNSはMidjourneyによる大喜利画像や、「存在しない○○」、エモAI生成画像、AIアート、MidjourneyのTIPS等の投稿が流行る。 7/31 「Midjourney」が日本国内で話題になる。「廃業です 神絵が1分で生成される 参った」https //www.itmedia.co.jp/news/articles/2208/02/news124.html『MidjourneyというAIに「そのもの蒼き衣を纏て金色の野に降り立つべし」描かせてみたらイラストレーターの将来が心配になるレベルのものができた』https //togetter.com/li/1923946 7/28 note深津貴之氏による「中世の都市の俯瞰図」AI画像作成の過程が話題になる。「錬成」「呪術師」という言葉が比喩として使われるように。https //togetter.com/li/1922405 7/20 「DALL·E2」オープンβ版リリース。OpenAI社が開発。 7/13 「Midjourney」オープンβ版リリース。 7/9 note深津貴之氏によるAIにゲームのコンセプトアートを生成させる研究が話題になる。「AIがまるパクリの絵を出力することはある？」という質問に対しての雑感も公開される。他、「AIのオタク文脈理解テスト」など投稿される。https //togetter.com/li/1913416 7/3 note深津貴之氏による"AIに描かせた、「新しい時代の到来を祝福するメチャクチャ太った猫の神聖で素晴らしい油絵」"が10万いいね越えの話題になる。https //togetter.com/li/1911082 1/7 「Dream by WOMBO」が"AIで絵を描いてくれるアプリ"として話題になりSNSに投稿する人が続出する。https //togetter.com/li/1827752 2021年以前 日付 出来事 2021/11/12 Open AI社がDALL・E2の前身となる「DALL・E」をリリース 2021/7/19 WEBサービス「AIのべりすと」が公開される。数行の文章を書き込むとその続きをAIが書く。日本のクリエイターSta氏が個人で開発。 2021年1月 テキストから抽象画を生成するAIサービス「Dream」iOS・androidアプリでリリース。カナダのスタートアップ企業WOMBOが開発。日本国内でもSNSに投稿する人が見られた。 2020年1月1日 『故人の意志を無視して喋らせる「AI美空ひばり」は倫理的な問題をはらんでいるのか？』https //togetter.com/li/1449922 2019年 「Waifu Labs」発表。美少女イラストのポートレートを無料で生成できるサービスとして展開された。文字入力によるプロンプトは使われず、表示された複数枚の画像候補の中から選んで絞り込む形式だった。 2019年2月 StyleGANをベースとし、実在しない人間の肖像を生成するWebサイト、This Person Does Not Exist公開。 2018年12月 StyleGAN発表。https //en.wikipedia.org/wiki/StyleGAN 2018年10月2日 『AIが自動生成するイラストが、数年で劇的に進化していて驚嘆「AIは既に私たちを超えている」「絵師が血ヘド吐く勢い」と話題に』https //togetter.com/li/1272795 2018年6月11日 Google『Google と AI 私たちの基本理念』を発表https //japan.googleblog.com/2018/06/ai-principles.html 2018年5月18日 著作権法改正(成立日、翌平成31年施行)。旧47条の7が新30条の4として解消。47条の5改正。(法改正について)一定の条件の下、情報解析目的での著作権制限が公衆送信権等を含む全権利に拡大。 2017年 GANベースのアニメ風キャラクター自動生成サイト、MakeGirlsMoe公開。 2009年6月12日 著作権法改正(成立日、翌平成22年施行)。47条の7新設。(法改正について)電子計算機による情報解析を行うことを目的とする場合、必要と認められる限度で複製権、翻案権を制限。 1993年11月 平成5年著作権審議会第9小委員会(コンピュータ創作物関連)がコンピュータ創作物と著作権について報告(報告書)。コンピュータ・グラフィックスをはじめとするコンピュータ創作物の著作権法上の問題について検討。 1967年6月 昭和48年著作権審議会第2小委員会(コンピューター関連)がコンピューター創作物と著作権について報告(報告書)。コンピューター創作物の著作権性と著作権者について検討。
https://w.atwiki.jp/genai_problem/pages/34.html
画像生成AIをはじめとする生成AIに関連する人物についてまとめたページです。 + 編集者の方へ 可読性を保つため、長くなりすぎる場合は個別ページの作成を検討してください。 (TwitterやHPへのリンクは，直ぐに飛べるようにするために，このページ内にも設置することを推奨) 下の画像はSNS等にこのwikiのURLを貼り付けた際表示されるサムネイルとなることを想定して作った画像です。仮の画像ですので自由に差し替えて頂いて構いません。 【目次】 AI研究者(国内) AI研究者(海外) AI開発者 国会議員クリエイター・エンターテイメント系議員 デジタル庁・AI推進関連議員 AI・web3PT AI戦略会議構成員 弁護士 生成AIユーザー/生成AIインフルエンサー 生成AI規制などに関連する人物 その他の人物 AI研究者(国内) 岡野原大輔 PFN (Preferred Networks)社の代表取締役・研究者。 日経Roboticsなどで連載を持つなど、3次AIブームの頃から、研究開発者向けへディープラーニングや技術解説を行ってきた。 岡野原氏は、3次AIブームの頃から、PFN社と共に「強化学習」を中心に、大手企業と提携をして各種ディープラーニング技術の推進役を担ってきた。とりわけ「強化学習」と「拡散モデル」の2つのキーワードが好きな研究者で，研究開発者層にむけて、これらの宣伝を続けている。2023年以降の岡野原氏は、「拡散モデル」の解説書を出版するなど、生成AI系の情報発信にも精力的であり、AI開発者・AI研究者への発信力や影響力が，非常に大きい。 また、もう１人の社長の西川氏は、声優好きのオタクで知られており、社員にもアニメ漫画が好きなエンジニアが多く、画像生成や画像変換技術を用いたエンタメサービスが展開されている。 Twitter PFN社のyoutubeチャンネル PFN社のエンタメ系サービスのページ 著書： 「Learn or Die 死ぬ気で学べ プリファードネットワークスの挑戦」西川 徹，岡野原 大輔 2020, KADOKAWA. https //amzn.to/3oEyqgP 「ディープラーニングを支える技術」2022, 技術評論社. https //amzn.to/43UOOdg 「拡散モデル データ生成技術の数理」2023, 岩波書店. https //amzn.to/43V3V6r (あるふ氏によるレビューコメントあり) 今井翔太（えるエル） 東京大学 松尾研究室 所属のAI研究者。 松尾教授と同じく「強化学習」が専門で、ChatGPTやLLMs(大規模言語モデル)系の最先端研究の情報を、研究開発者へ紹介しているインフルエンサー。 Twitter 日経XTREND執筆記事一覧 著書： 『AI白書』株式会社角川アスキー総合研究所 株式会社KADOKAWA 『G検定公式テキスト 第2版』翔泳社 (日本ディープラーニング協会の資格「G検定」の参考書) AI研究者(海外) Ilya Sutskever OpenAIの研究所長． Twitter Wikipedia (英語) Geoffrey Everest Hinton AI研究の第一人者。2012年に画像認識の精度を競うコンテストである「ILSVRC」において、畳み込みニューラルネットワークを持ち込み高い精度をあげ、AI開発流行のきっかけをつくった ホームページ AI開発者 David Holz LeepMotionの設立者でありMidJourneyのCEO。 twitter 当初、Midjourney創業者のDavid Holzは、Stability AIのCEOのEmadと協力し、開発を行っていた模様。 参考資料：The Lost Penny Files – MidJourney’s Beginning 【インタビュー】 ミッドジャーニーCEOが語った「イマジネーションの解放」という未来（2023年1月23日-WIRED） "クリエイティビティは誰にでも備わっていますが、その力に自分で気づく必要があるんです。例えば、多くの人はMidjouneyのDiscordに参加して、最初は『犬』と一言だけ打ち込んで遊びはじめます。しかし、さまざまな言葉を入力して画像生成するうちに上達し、その過程で『自分には何かをつくり出す力がある』と感じるわけです。そして、他のユーザーと情報やできた画像を交換して知り合い、いずれは一緒につくりはじめるようになる"と自身のユーザーが創造性を獲得していくプロセスをDavid Holzは語る。 ライゾマティクスの真鍋氏とMidjourneyのDavid Holzは口をそろえて画像生成AIが既存のアーティストを淘汰することはないと語る。 "「画像生成AIがアーティストを淘汰することはないし、むしろクリエイティブな新しい脳の使い方を生むのではないか」と真鍋が語るのに対して、デイヴィッドは同じく楽観的な見方を示す。 「AIの進化を乗り物に例えてみましょう。自動車の登場により、『歩く』という移動手段が淘汰されたわけではありませんよね。自動車や飛行機の登場により移動手段が多様化しましたが、それはより自由な人々の移動を生んだはずです。AIの発展は、人間の“イマジネーション”に対して同様の影響をもたらすと考えています」" なお、このインタビューはMidjourneyとRhizomatiksが共同で開催したイベントで行われた。 ライゾマティクス公式サイト 画像生成AIのMidjourney創業者が語る「AIアートが起こす混乱と未来」（2022年9月23日-Forbes） "Midjourneyは、絵画的な美しさを強調した画像を制作することで、この技術世界内での差別化を図っている。このプラットフォームは、写真と見間違うような写実的な画像を作ろうとしているわけではない。CEOのデヴィッド・ホルツは、むしろディープフェイクなど現実を模倣しすぎた作品の不気味さに個人的にとても不安を感じているという。"と語っているが、MidjourneyV5では写真と見間違うような画像の生成が可能である。 "Midjourney v5.1が出たので色々画像生成してみてるけど、いよいよ写真と見分けつかないわ笑" https //twitter.com/kajikent/status/1654409097041817601 また、Midjourneyはインターネット上より同意なく集められた画像を使用していることも明かされる。 "──現存するアーティストや著作権で保護されている作品に対して同意を求めたのでしょうか？ いいえ。1億枚もの画像を集めて、それがどこから来たのか知る手段は現実問題として存在しないのです。画像に著作権者などのメタデータが埋め込まれていたら良かったのですが。しかし、それはモノではなく、登記所もないのです。インターネット上で画像を見つけ、その所有者を自動的に追跡しそれを認証できる何らかの手段がないのです。" さらに、Midjourneyはプロのアーティスト向けには作られていないとのこと。 "私の製品は、プロのアーティスト向けに作られたものではありません。" そして、Midjourneyは既存のアーティストと競合しないことを語る。 "──とはいえ、あなたの製品のアウトプットは画像で、それは他のすべての特性に加えて、プロの文脈での商業的価値を持ちますよね。そして、これはそのプロ経済を大きく混乱させるものです。 私たちはボートを作っていて、誰かがそのボートでレースに参加することはできます。でも私はそのボートはレースのためのものであるとは限らないと考えています。もしレースで使うのであれば……まあ、そうなるかもしれませんね。使われた瞬間はそうでしょう。でも、本当に大切なのは人間性だと思うんです……。私たちは、画像を美しく見せたいのです。花がミツバチのために美しくあろうとしているのと同じです。それは自然の美しさであり、アートの美しさではありません。機械に意図はありません。そして私たちの意図も、アートとは無関係です。私たちは世界がもっと想像力に溢れた世界になってほしいし、醜いものよりも美しいものを作りたいのです。" Midjourney Founder Admits to Using a ‘Hundred Million’ Images Without Consent（2022年12月21日-Petapixel） ‘An engine for the imagination’ the rise of AI image generators An interview with Midjourney founder David Holz（2022年8月2日-The Verge） Emad Mostaque 「イラストやデザインの仕事はとても退屈です。芸術的であることが重要なのではなく、あなたは道具なのです。｣ 上記の名言を残したことで知られる、Stability AIのCEO。 画像生成AI問題において、所謂"全ての元凶"のような扱いをされることも多い人物。 この発言はアーティストからの反感を買い、画像生成AIがどのような思想のもとで開発されたのか広く知らしめた。 Twitter Wikipedia英語版「Emad Mostaque」 インタビュー記事(英語) 【CEO直撃】THE GUILD深津氏が画像生成AI「Stable Diffusion」開発元に聞く、AIビジネスの“新時代” DIAMOND SIGNAL 202/9/12 The AI Founder Taking Credit For Stable Diffusion’s Success Has A History Of Exaggeration Forbes 2023/6/4 →日本語要約ツイート 2024年3月23日、StabilityAIのCEOを辞任した。 同社のプレスリリースによると辞任は分散型AI（decentralized AI）推進のためであるとされる。 StabilityAIのリリース⇒https //stability.ai/news/stabilityai-announcement 【Emad氏やStabilityAIに関するニュース記事など】 Getty Images is suing the creators of AI art tool Stable Diffusion for scraping its content（2023年1月17日-The Verge） Leaked deck raises questions over Stability AI's Series A pitch to investors（2023年4月22日-sifted） Stability AI swerves copyright infringement allegations in response to Getty lawsuit（2023年5月3日-sifted） The AI Founder Taking Credit For Stable Diffusion’s Success Has A History Of Exaggeration（2023年6月4日-フォーブス） On Setting the Record Straight（2023年6月5日-Emad氏のブログ） 画像生成AI「Stable Diffusion」開発元のCEOは大嘘つきと批判する報道に本人が猛反論するブログを公開（2023年6月5日-GIGAZINE） Stability AI Head of Research Resigns From Startup（2023年6月27日-ブルームバーグ） The AI Founder Taking Credit For Stable Diffusion’s Success Has A History Of Exaggeration（2023年7月4日-フォーブス） Stability AI Boss Admits to Using ‘Billions’ of Images Without Consent（2023年7月13日-Petapixel） 680億円分以上になる株式を2万円以下でだまし取られたとしてStable Diffusion開発元のStability AIを共同創業者が訴える（2023年7月14日-GIGAZINE） Stability AI Is Losing Executives, Engineers and Its Edge（2023年8月8日-ブルームバーグ） 画像生成AI「Stable Diffusion」の開発元・Stability AIで幹部やエンジニアが相次いで辞任、CEOのリーダーシップが問われる（2023年8月10日-GIGAZINE） Sam Altman ChatGPTを開発したOpenAIのCEO。 Twitter 金陽華（Jin Yanghua）（Aixile） nijijourney、spellbrush、midjourneyのReseacher Twitter 2016～2017年まで京都大学に交換留学生として在籍し、今年（2018年）6月に上海の復旦大学を卒業。 在学中の2017年6月にPreferrd Networksからオファーをもらい、2018年7月からPreferrd Networksに入社。 在学中の2017年8月にMakeGirlsMoeを発表。日本のオタク界をざわつかせる。 この開発はCrypkoに生かされ、Preferrd Networksのサービスとして展開される。 なお、Crypkoのリリースは2018年4月。PFNとはMakeGirlsMoeのころから協力関係にあった模様。 Crypkoに使用した学習データは正式版の予備モデルで8万枚程度。しかし、量よりも質が重要で、何千枚でもクオリティの担保は可能とのこと。 2022年3月にPFNを退職。 2022年6月にはSizigiStudioで開発された拡散モデルを使用してpixivに生成画像を投稿していたことを明かす。 この時点でSizigiStudioとは協力関係にあったことがわかる。 その後、2022年11月にnijijourneyのベータサインアップが開始される。 1クリックで2次元美少女キャラを生成 深層学習でネットをざわつかせた中国人学生インタビュー 深層学習でアニメキャラを生成する「Crypko」、技術者が明かす開発秘話 MakeGirlsMoe公式サイト Crypko公式サイト Cory Li spellbrushのCEO MITでバイオエンジニアリングを専攻していた。 Twitter 2022年6月にはRuwen Liuが拡散モデルの開発を行っていることを明かす。 https //twitter.com/Cixelyn/status/1540423235090513921 拡散モデルに触れているツイート https //twitter.com/Cixelyn/status/1556494482446569472 下記ではSpellBrushの概要を説明する。 SpellBrush公式サイト SpellBrushはArrowmancer、CAKE DUEL、にじジャーニーを開発している企業。 Arrowmancer公式サイト にじジャーニー公式サイト CAKE DUEL公式サイト しかし、開発はSizigiStudioが行っているとの記載もあり、SpellBrushの内部チーム？にSizigiStudioが存在すると考えられる。 https //waifulabs.com/about 事実、Cory LiやRuwen LiuはSizigiStudioのメンバーであり、Arrowmancer、CAKE DUEL、にじジャーニーの開発を手掛けていると記載がある。 SizigiStudioのgithub SizigiStudioはWaifuLabsというGANによる生成AIの開発を行っている。 WaifuLabs公式サイト WaifuLabsは「ロゴをいじらないこと」や「商業利用不可」という条件で、個人利用が可能となっているとのこと。 【紹介】お前は「Waifu Labs」で嫁を作れる Ruwen Liu Spellbrushの共同創業者 Spellbrush,nijijourneyのクリエイティブディレクター MITの機械学習研究者 イラストレーター Carbon3D,Incのソフトウェアエンジニア Twitter 個人サイト インタビュー waifulabsの開発を行った実績があり、下記に解説ブログがある。 Welcome to Waifu Labs v2 How do AIs Create? Gigazineによる解説 AIで自分好みの美少女イラストを作れる「Waifu Labs」の開発者が「AIが俺の嫁を作る方法」を解説 2014年にマサチューセッツ工科大学卒業 2022年5月にはDALL-E2を触っている。 https //twitter.com/ramblingrhubarb/status/1527469666150404096 また、SpellBrushが開発したサービスのアートワークは生成AIによるものを除き、ほとんどが彼女によるものと思われる。 Eren (Kurumuz) AnlatanのCEO Twitter 個人サイト？ Anlatanはアメリカのデラウェア州に本社を置いてるものの、それは税の優遇のためにペーパーカンパニー的に設置してるだけで、オーナー兼主任開発者兼研究責任者のkurumuz氏はトルコ人らしい。社員にはドイツ人やブラジル人もいて、要するにかなりグローバルな企業であって、中身は全然アメリカ企業じゃないらしい。 https //soysoftware.sakura.ne.jp/archives/3622 これまたディスコやRedditの噂だが、NovelAIのkurumuz氏がStability.aiのEmad氏に頼んで圧力をかけてもらったらしい。というのも、kurumuz氏とEmad氏はかなり仲良しの友達だとかなんとか。 https //soysoftware.sakura.ne.jp/archives/3622 そして、この声明で、Emad氏はNovelAIとはずっと協力関係にあって、単に友達だからヒイキしてAUTO氏を処罰したと言ったも同然だった。 https //six-loganberry-ba7.notion.site/22-10-10-Emad-aae60a74858a4f52ab453aab7f4e3a1e さらに、NovelAIのリークされたコードをガン掘りしたら、実はNovelAIだってAUTO氏のコードをコピペしてるのが見つかった。AUTO氏のコードはオープンではあるものの、ライセンスが付いてないから勝手に使うのは違反行為である。 https //six-loganberry-ba7.notion.site/22-10-10-Emad-aae60a74858a4f52ab453aab7f4e3a1e さらに、これについてkurumuz氏は「インターンが勝手にやった」と言い訳したが、だが流出コードのGitログを辿ると普通にkurumuz氏がコードをコミットしていた。kurumuz氏は大嘘ついてたわけだ。 https //six-loganberry-ba7.notion.site/22-10-10-Emad-aae60a74858a4f52ab453aab7f4e3a1e Emad氏いわく、「NovelAIはもうすぐオープンソース化する予定だった」とのこと。 https //six-loganberry-ba7.notion.site/22-10-10-Emad-aae60a74858a4f52ab453aab7f4e3a1e Virginia (Aini) Anlatanのコミュニティマネージャー Twitter 深読みかもしれないが無関係な/改変されたモデル（twitterにアップロードされるローカル生成の画像はリークモデル系統を多数含むことを鑑みて）にNovelAIのハッシュタグをつけられていることを悲しく思うと発言している。 https //twitter.com/redraw_0/status/1672064450751496192 この投稿にNovelAI公式より下記の返信が入る。 リークモデルを使用することは、カスタマーサポート、ドキュメンテーション、UXと一般的な品質基準、私たちのサービスの標準である暗号化を提供できません。また、これらのモデルはNovelAIを正確に反映したものではなく、私達はリークモデルを使用しないことを強く勧めます。自身のパソコンへのインストールやオンラインホストバージョンは、セキュリティとプライバシーのリスクを引き起こすかもしれません。リークモデルを見かけた場合、法的措置を取る場合もあります https //twitter.com/novelaiofficial/status/1672077089233838080 菅原健太 RADIUS5 Inc. COO Twitter コーヒーブランド「ジョージア」のブランドリニューアルに伴う販促としてAIイラストメーカーのAIのエンジニアリング、ディレクションを担当。 "新しくなったジョージアが「毎日って、けっこうドラマだ。」のメッセージを掲げ、毎ドラ部 AIイラストメーカーを公開！" https //twitter.com/k_ikasumipowder/status/1656099149258059776 "毎ドラ部 AIイラストメーカーは、Stable Diffusion をベースに、イラストレーターの個性を反映し、描き分ける独自のパイプラインを構築したジェネレーティブAIです。" https //komeinc.com/works/ai-illustration-maker/ 以下ではRADIUS5の概要を説明する。 RADIUS5公式サイト RAIDUS5は以前よりAIによるクリエイティブ事業を行っている。 経営理念には「手の届く範囲+α の人たちを助けられる存在になる」とあり、人を助けるサービスを作ることを目指していることが伺える。 さらにビジョンには「非クリエイティブな仕事をAIを用いて減らして、クリエイターが本当にクリエイティブになれる社会を実現していきます。」とも記載があり、「人の創造性を最大化する」ことを掲げている模様。 主要なサービス cre8tiveAI クリエイティブ編集作業に革命を起こすAIプラットフォーム。 https //cre8tiveai.com/ cre8tiveAIにて複数のサービスが展開されている。 その中には下記のような生成AIも含まれる。 SAI(顔イラスト生成AI） https //cre8tiveai.com/sc 使用例に「SNS用オリジナルアイコン」、「広告とチラシ」、「企業やサービスのイメージキャラクター」、「キャラクターデザイン制作の参考」、「ゲーム素材・自主制作素材」が挙げられているが、RADIUS5のビジョンに記載のある"非クリエイティブな仕事"がこれに該当するということだろうか？ また、"高価なキャラクターデザインやイラストをデザイン会社に発注し、結果が出るまで長時間待つことに慣れている場合、SAI なら数分の1の時間と価格でキャラクター デザインのニーズに対応できます。"や"ゲームや自作のプロジェクトを制作したいと考えていますが、独自のキャラクターを描いたり、制作を外注したりするための時間、お金、リソースがありません。SAI はこれらすべての問題を解決するのに役立ちます。"との記載もあり、"クリエイターが本当にクリエイティブになれる"というよりは既存クリエイターの代替として、時間やコストの削減を目的としたサービスであるように見えてしまう。 SAI+（全身イラスト生成AI） https //cre8tiveai.com/scplus AIと絵師のコラボレーションをうたっており、AIが描いた顔をもとにイラストレーターが全身を作成するというサービス。 特徴として高クオリティ、安価、高速納品を売りにしている。 このサービスも"クリエイターが本当にクリエイティブになれる社会"になるためのサービスであるのかは疑問である。 AnimeRefinder アニメを4Kや8Kなどの高解像度に変換できるサービス。 https //ja.animerefiner.com/ mimic あなたの個性を学んだイラストメーカーを作るサービス https //illustmimic.com/ 参考：https //twitter.com/seijitsugaku/status/1564904018643525633 OOH AI 屋外広告・交通広告に利用できる特大サイズの画像を、AIを利用することで高速に制作するサービス https //ooh-ai.mystrikingly.com/ また、公式サイトでは記載がないが、Twitterで「Copainter」のクローズドβのテスターを募集している旨が発表されている。 https //twitter.com/RADIUS5Inc/status/1656968095943254022 https //twitter.com/RADIUS5Inc/status/1660579040615596032 https //twitter.com/RADIUS5Inc/status/1664539551636029440 Copainterに関する懸念は下記を参照。 https //w.atwiki.jp/genai_problem/pages/46.html Lvmin Zhang（チャン・リュミン） style2paints、ControlNet、Fooocusの開発者 twitter "チャンさんはもともと香港中文大学で、白黒のイラストに着彩するAI技術「Style2Paints」を研究されていた方です。この研究は日本でもずいぶんと話題になりました。現在は、2022年にシリコンバレーの中心地にある米スタンフォード大学の博士課程に進み、画像生成AIの研究室に所属しているようです。" 画像生成AIに2度目の革命を起こした「ControlNet」より引用。 "Fooocusの開発過程で明らかになったのが、lllyasvielさんのハッカー的な思想が込められていることでした。Fooocus最大の特徴とも言えるのが、画像にメタデータを残さないことです。" "ここには表現の自由というか、表現者のプライバシーは守られるべきだという考えが根底にあります。ハッカー思想の伝統のなかには、「データは誰にも束縛されるべきでない」というカウンターカルチャー的な側面があります。Stable Diffusionの極端な公開性にも通じる思想です。lllyasvielさんは、生成時にあえてメタデータを残さないことにより、どんな権威にも拘束されない画像データを生み出せる仕組みを担保しようとしているのです。" 画像生成AIに“表現の自由”を スーパーハッカーが挑んだ「Fooocus」より引用 個人サイト github huggingface 国会議員 クリエイター・エンターテイメント系議員 山田太郎 (東京都大田区出身) 自由民主党 衆議院議員 表現の自由を守る会会長 エンターテイメント表現の自由の会名誉顧問。 なるがみ氏：今日は同人作家の青水庵さん(@ti_jiyuugyou)と一緒に山田太郎議員(@yamadataro43)から生成AIに関するヒアリングを受けました。 https //twitter.com/nalgami/status/1660846878739636225 デジタル庁・AI推進関連議員 西村康稔 (兵庫県明石市出身) 自由民主党 衆議院議員 経済産業大臣(29代) wikipedia 松本剛明 (東京都出身→兵庫県姫路市) 自由民主党 衆議院議員 /総務大臣(28代) wikipedia 平将明 (東京都大田区出身) 自由民主党 衆議院議員/ 「AIの進化と実装に関するプロジェクトチーム」座長． wikipedia Metaverse Japan Lab シンポジウム2023 プレスリリース 2023/5/15 大串正樹 (兵庫県西宮市出身→伊丹市) 自由民主党 衆議院議員 / デジタル副大臣兼内閣府副大臣 wikipedia AI・web3PT 平井卓也 (香川県高松市出身) 自由民主党 参議院議員/ デジタル改革相 wikipedia 平将明 官邸、オープンAIとの面会を当初拒否 自民・平氏「本当にだめ」毎日新聞 2023/5/11 永田町が主導するＡＩ戦略、日本の“勝ち筋”はどこだ ニュースイッチ2023/3/30 宮下一郎 塩崎彰久 (愛媛県松山市出身) 自由民主党 衆議院議員 / 「AIの進化と実装に関するプロジェクトチーム」の広報担当． note記事：「自民党AIの進化と実装に関するプロジェクトチーム(各定例会での資料PDF添付あり)」 公式ブログ：「OpenAI社のサム・アルトマンCEOが緊急来日。(2023/04/10)」 wikipedia note 川崎ひでと 自民党の川崎ひでと議員、AIのアート展に参加し「アーティストは特権」「しょーもない規制で潰されないように頑張る！」とツイート。まるでAI絵師の様な発言で炎上してしまう。さらに生成AIを使いNFT販売をしてる事が発覚、特権階級を活かして小遣い稼ぎをしてる模様 https //twitter.com/tatatataniguthi/status/1663539971901513729 nijijourney川崎ひでと衆議院議員自民党三重２区さんにフォローされてるう https //twitter.com/niwani14/status/1665311636222259200 【炎上】自民党・川崎ひでと議員「アーティストの特権のためにAIがしょーもない規制で潰されるないようがばる」→絵師激怒炎上 長文で謝罪へ まとめダネ！2023/5/31 小森卓郎 赤松健 (愛知県名古屋市出身) 自由民主党 参議院議員 表現の自由を守る会最高顧問 日本漫画家協会常務理事 赤松健氏「画像生成AI、珍しく日本が勝つチャンス」 ASCII.jp 2023/2/6 AI戦略会議構成員 江間有沙 東京大学未来ビジョン研究センター 准教授 東京大学HP 東京大学未来ビジョン研究センターHP 岡田淳 森・浜田松本法律事務所 弁護士 浜田松本法律事務所HP 川原圭博 東京大学大学院工学系研究科 教授 東京大学HP 北野宏明 株式会社ソニーリサーチ 代表取締役CEO Wikipedia 佐渡島庸平 株式会社コルク 代表取締役社長 Wikipedia Twitter note 株式会社コルクHP 田中邦裕 さくらインターネット株式会社 代表取締役社長 Wikipedia Twitter さくらインターネット株式会社HP 松尾豊【座長】 東京大学大学院工学系研究科人工物工学研究センター／技術経営戦略学専攻の教授。 政府へ意見することができるほどの発言力を持つ。 東大松尾教授「ChatGPTはあらゆる領域にインパクト。やるしかない！」日経ビジネス 2023/3/20 「日本の緩い規制はチャンス」東大松尾教授、AI利用ガイドライン公表 日経ビジネス 2023/5/9 Wikipedia Twitter 松尾研究室HP 山口真一 国際大学グローバル・コミュニケーション・センター 准教授 Wikipedia 弁護士 柿沼太一 STORIA法律事務所に所属。 HP 生成AIの猛烈な進化と著作権制度～技術発展と著作権者の利益のバランスをとるには～ STORIA法律事務所ブログ 2023/4/16 日本ディープラーニング協会(JDLA)の「顧問弁護士的」な人物。 JDLAの一覧ページにプロフィール掲載あり (ページ中盤の「有識者会員」を参照) HP Twitter 日本が先頭に立てる？「AIのビジネス活用」現場で直面する法的課題…柿沼弁護士語る 弁護士ドットコムニュース 2017/11/3 生データ使い放題？！ 「日本は機械学習パラダイス」になった ― DEEP LEARNING LAB 勉強会ITmedia 2019/1/30 AIが創造性を持つ時代だからこそ、起業家を増やすことが重要な社会的テーマだ Harvard Business Review 2023/3/22 福岡真之介 西村あさひ法律事務所の弁護士。AI，Web3，メタバース系に注力している。 著書： 「AIデータ倫理の教科書」https //amzn.to/3NtIMus 「AI開発のための法律知識と契約書作成のポイント」https //amzn.to/44bB4Lr twitter note 上野達弘 早稲田大学知的財産法制研究所コラム2017/9/9 情報解析と著作権-「機械学習パラダイスとしての日本」2021/8/31 赤松健議員「いよいよ早大の上野達弘教授を迎え、AIと著作権に関してヒアリング。」2023/4/7https //twitter.com/KenAkamatsu/status/1644306301978312704 第1回US-Asia国際著作権シンポジウム［人工知能と著作権法］早稲田大学知的財産法制研究所 2023/4/8 生成AIユーザー/生成AIインフルエンサー あるふ 本名、尾崎安範。サイバーエージェント AI Lab所属のAIエンジニア。 大阪大学基礎工学研究科 石黒研究室 招聘研究員を兼務。 2022年末に「画像生成AI Advent Calendar 202」を開催 twitter 個人HP サイバーエージェント AI Labのプロフィール 大阪大学 石黒研究室 - メンバー一覧 852話 自称・30代前半主婦のイラストレーター・背景グラフィッカー・AI Director。 2022年8月初旬頃に画像生成AIに目覚めてからバズりツイートを飛ばし、現在ではフォロワー約30万人を誇るAI絵師であり界隈の第一人者である。 梶谷健人 生成AI (ChatGPT系)や、それを用いたUXデザイン系のインフルエンサー。 かなりのTwitterフォロワーを抱えており、複数のWebメディアに寄稿している。 twitter 日経クロストレンド Forbes JAPAN note 白井 暁彦 しらいはかせ。メタバースとVRと生成AI系の研究者。 GREE VR Studio Laboratory / デジタルハリウッド大学大学院 で活動。 Twitter Note 「生成AI利用のガイドライン」にモヤモヤしたクリエイター側のガードライン note 2023/5/3 著書 「AIとコラボして神絵師になる 論文から読み解くStable Diffusion」インプレスR D」 紹介記事 https //note.com/o_ob/n/n2b87af213279 ※ 第10章 作例紹介とクリエーター対談（852話さん）の章あり 松崎みさと からあげ エンジニア界隈で有名な「すぐやるハッカー」系のインフルエンサー． 最先端技術やそのAPIが出るたびに，すぐアプリ化してバズることが多く、生成AIブーム開始後も，ChatGPTのコンテストで上位に入り、目立っている． また、１つ下にあげるshi3z氏とも交流が多く，氏の画像生成系記事についてのRTが多い． twitter https //twitter.com/karaage0703 はてなブログ：https //karaage.hatenadiary.jp/ 清水亮 (shi3z) (下記WN連載より、プロフィールを引用) 新潟県長岡市生まれ。1990年代よりプログラマーとしてゲーム業界、モバイル業界などで数社の立ち上げに関わる。現在も現役のプログラマーとして日夜AI開発に情熱を捧げている。 WirelessWire News 連載「プログラマー経営学」 twitter note 深津貴之 noteで CXOもつとめるTHE GUILDの深津貴之氏。 初期のAI画像生成ブームの火付け役の一人。それ以降もSDローカル用の水彩画LoRAなどを作成したり、情報発信をしたりと画像生成AIによく関わっている。 2022年8月9日 『魔術として理解するお絵描きAI講座』の記事を公開 この記事では画像生成AIを魔術になぞらえ、プロンプトを呪文と呼ぶ等、面白おかしく画像生成AIの紹介を行っている。 2022年8月22日 『世界変革の前夜は思ったより静か』の記事が話題になる。 ツイート https //twitter.com/fladdict/status/1561406014540640256 2022年10月12日 作家がお絵描き配信中の画面をスクショして、AIに読み込ませて作家より早く仕上げて上げる行為（いわゆる他人の著作物のi2i）が行われる件について、「個別事例すぎるので、あんまり大きな問題にはならないんじゃないかなと。もっと考慮すべきものいっぱいあるので」と問題を小さく見ている。実際にはこの後に似たような問題が多発している。 https //twitter.com/_J_u_n_/status/1580180928223399936 https //twitter.com/Naoyuki_Vixen/status/1580203053768093697 https //twitter.com/fladdict/status/1580205084444884992 https //twitter.com/Naoyuki_Vixen/status/1580207346038452225 2023年3月8日 『「この波に乗らないと沈んでいくだけだと思っています」AIが使えない人材を待ち受けている“末路”とは』 2023年4月3日 StableDiffusionの水彩拡張を作成。 note https //note.com/fladdict/n/n367297ede07c 2023年4月12日 Stability AI Japanのアドバイザーに就任。 たいよう(Daichi Nagashima) Stable fusionやLoRAなどを独自データでfine-tuningし、露出度の高いAIグラビア美少女画像を生成してTwitterなどに多数投稿している。 HP https //longisland3.com twitter https //twitter.com/longislandtea3 追加学習したモデルから、@ria_ai と名付けた仮想アイドルを生成 twitter https //twitter.com/ria__ai @ria_aiのLoraモデルをhuggigfaceで再配布している https //huggingface.co/aww-develop/ria_lora Stable Fusion公式による@ria_aiの紹介： https //twitter.com/longislandtea3/status/1641693781744566272?s=61 t=Wa3fEa3bOzBjgibZGqZ4Yw TASUKU2023 「ChilloutMix」製作者 ChilloutMixはbasilmixをマージして製作されたモデル。 basilmixにNSFW方面を強化している。 ディープフェイクやポルノ等の画像が容易に製作できるため、危険性が高いモデルである。 nuigurumi 「basilMix」製作者 アニメ系モデルも製作している。 Twitterではウマ娘のAIイラストを投稿している。 andite 人気モデルのpastelmix開発者 そのほかにも特定作家、特定作品の集中学習モデルを制作している。 twitter https //twitter.com/anditeAI huggingface https //huggingface.co/andite Rootport 「サイバーパンク桃太郎」著者 高坂 「pixiv VRoid Studio」エンジニア 参考 https //w.atwiki.jp/ai-illust/pages/41.html まじかる☆しげぽん 「pixiv VRoid Studio」テクニカルアーティスト、技術サポーター うみゆき@AI研究 UnityやUEを扱うフリーランスエンジニア。 HP http //soysoftware.sakura.ne.jp/ 「はい、ゲームエンド」のツイート https //twitter.com/umiyuki_ai/status/1625738499986178050 クリエイターと生成AIのスライド https //docs.google.com/presentation/d/1nov2MnLn047sJ1nNFS7OEmWkJYlkQz2ThoaCbf1eWII/mobilepresent?slide=id.p Twitter 生成AIアカ https //twitter.com/umiyuki_ai ツイログ：https //twilog.togetter.com/umiyuki_ai ※1.本アカ https //twitter.com/_darger ※2.サブ垢 https //twitter.com/kaigyoPG インタビュー記事 創業手帳「AI研究インフルエンサー うみゆき｜あらゆる業界に急速な変化をもたらしていくChat（チャット）GPTやAIの展望」 KEIO@AIディレクター 画像編集/映像編集 界隈むけの、生成AI活用インフルエンサー ChatGPTや画像生成の話が多い twitter https //twitter.com/keitowebai youtube https //www.youtube.com/@keitoaiweb 七瀬葵 プロの漫画家・イラストレーターであったが、2022年10月からAIイラストの生成に転向。 23年現在は「AIアートディレクター」を名乗っている。 AIイラストを強く信奉しており、イベントでもグッズを出すなど傾倒。 Twitter https //twitter.com/aoi_nanase3 https //twitter.com/AI_7577 小猫遊りょう(たかにゃし・りょう) AI関連技術を取り扱っているアカウント。 twitter https //twitter.com/jaguring1 アカウントの中の人： 横田 理央 (東京工業大学 学術国際情報センター 教授) twitter https //twitter.com/rioyokota https //www.rio.gsic.titech.ac.jp/jp/member/yokota.html 東工大の「富岳」チームにおいて、富士通と共に、LLMs(大規模言語モデル)の事前学習の、富岳上での並列実行の研究をしている。 富岳やGPU並列でのディープラーニング学習を研究しているからか、流行初期の頃から、画像生成モデルやLLMの最新論文やそのコードが公開されているgithubを、沢山のフォロワーのAIエンジニア層などに紹介してきたアカウント。 「第2回計算科学フォーラム」での発表「「富岳を用いた大規模言語モデルの分散並列学習」に関するツイート(富岳上でGPT-3やGPT-4を学習させた実験)． https //twitter.com/jaguring1/status/1645437257468489728 納村聡仁 twitter https //twitter.com/akinoriosamura note https //note.com/mitsuya2635/ やまかず Generative AI エバンジェリスト 画像生成AIの登場時から生成AIにまつわる情報を提供するインフルエンサー。 もちろん生成AI全般のニュースを取り扱うが、その中にはNAIリークマージモデルや特定絵師の集中学習疑惑モデル、版権物の海賊版のようなモデルも紹介している。 twitter https //twitter.com/yamkaz note https //note.com/yamkaz 新清士 (株)AI Frog Interactive代表 デジタルハリウッド大学大学院教授 twitter https //twitter.com/kiyoshi_shin 生成AI規制などに関連する人物 Zakuga Mignon SupportHumanArtists運動の創設者。 twitter https //twitter.com/ZakugaMignon/status/1602629045254082560 高橋 尚吾 Twitter https //twitter.com/Shogo_tkhs note https //note.com/takahashishogo アメブロ https //ameblo.jp/shogotakahashi-tosei Karla Ortiz アメリカのコンセプトアーティスト。米国で進行中のアーティストと画像生成AI開発企業との訴訟、「Andersen v. StabilityAI」における原告の一人。訴訟については「生成系AIに関する訴訟・法的対応一覧／アーティスト3名+7名による集団訴訟」へ 【関連記事】 ◇Can artists protect their work from AI?（2023年6月19日-BBC） ◇An artist explains why Marvel's use of AI to animate a sequence is worrying（2023年7月29日-NPR） ◇How artists are fighting generative AI（2024年2月23日-DISCONNECT） Kelly McKernan アメリカのアーティスト。米国の訴訟、「Andersen v. StabilityAI」における原告の一人。 【関連記事】 ◇Visual artists fight back against AI companies for repurposing their work（2023年9月1日-AP通信） Sarah Andersen アメリカの漫画家。米国の訴訟、「Andersen v. StabilityAI」における原告の一人。 その他の人物 Ben Y Zhao シカゴ大学のプロフィール：https //people.cs.uchicago.edu/~ravenben/ Twitter(X)：https //twitter.com/ravenben シカゴ大学所属のコンピューターサイエンス研究者。画像生成AI開発にアーティストの作品などが無断で利用される問題を解決することを目的とした、画像生成AI学習防止ツールである「Glaze」「Nightshade」の開発に関与している。 Glaze／Nightshadeについては当wikiの「AI学習防止ツール「Glaze」について【利用方法・意義】」へ。 Ed Newton-Rex Twitter(X)：https //twitter.com/ednewtonrex AI開発者、作曲家。元々StabilityAI社に所属し、音楽生成AI「Stable Audio」の開発責任者を務めていたが生成AI開発のためにクリエイターの作品の無断利用を行い、このことを「フェアユース」であると主張する同社の姿勢に疑問を感じ2023年退社。現在は自身のX(Twitter)アカウントで許諾の無い生成AIに対する自身の意見を発信したり、権利侵害の無い生成AIを認定する非営利団体Fairly Trainedを設立するなどの活動を行っている。 【関連記事】 ◇WHY I JUST RESIGNED FROM MY JOB IN GENERATIVE AI.（2023年11月15日-Musicbusiness Worldwide） ◇AI chief quits over 'exploitative' copyright row（2023年11月17日-BBC）
https://w.atwiki.jp/genai_problem/pages/24.html
主要な画像生成AIサービスについてまとめたページです。 + 編集者の方へ 可読性を保つため、長くなる場合は個別ページ作成を検討してください。 下の画像はSNS等にこのwikiのURLを貼り付けた際表示されるサムネイルとなることを想定して作った画像です。仮の画像ですので自由に差し替えて頂いて構いません。 【目次】 はじめに 主要な画像生成AI一覧Stable Diffusion（SD、ステーブル・ディフュージョン) Mid Journey (Mid、MJ、ミッドジャーニー) Niji Journey (Niji、にじ、にじジャーニー) Novel AI (ノベルAI、NAI) Waifu Diffusion (ワイフ・ディフュージョン) TrinArt (とりんアート、とりんさまアート、でりだ) Holara AI お絵描きばりぐっとくん AIピカソ メイツ DREAM by WAMBO DALL·E2 Bing Image Creator (ビング イメージクリエイター) Adobe Firefly (アドビ ファイアフライ) chichi-pui (ちちぷい) mimic (ミミック) 関連資料 はじめに 2023年8月現在、よく利用されている画像生成AIは大きく分けて２つ。 一つはStableDiffusion系、もう一つはMidjorney(Nijijorney)である。 なかでもStableDiffusionはオープンソースで公開され、それを利用した様々な派生モデルが登場してる。 よって、関係性が非常に複雑だが、データセットが公開されていることなどから、画像生成AIの構造及び問題点を理解する上でよい例と考える。 また、多くの問題を引き起こしているのもStableDiffusion系のモデルだ。 簡単な関係図を以下に示す。 画像生成AIはデータセットをもとに画像を生成を行う。 そのデータセットはインターネット上の画像を権利者の許諾なしにWEBスクレイピングすることによって取得したものである。 StableDiffusionに使用されているLAION-5Bデータセットには著作権で保護された画像や、医療記録、家族写真、戦争の写真等が含まれている。 日本の法律や海外のフェアユースの概念では研究目的としての利用は認められていることが多いが、この点について様々な議論が巻き起こっている。 2022年8月にStableDiffusionがオープンソースで公開されたことにより、それをもとに様々な画像生成AIモデルが作成され、インターネット上で共有されている。 画像生成AI利用者は生成できる画像の幅を広げるために、インターネット上の画像を権利者に無許諾で収集し、追加学習させている。 これによりモラルハザードが加速し、諸問題が発生している。 日本でよく見かけるモデルはアニメ系モデルと実写系モデルである。 アニメ系モデルで代表的なものはNovelAIやWaifuDiffusionである。NovelAIは一企業によって製作されたモデルであり、サブスクリプションのWebサービスの形態をとっていたが、リリース後、直ちに不正アクセスによりリークされた。そのリークモデルをベースに様々なモデルが作られている。画像生成AI利用者が使用しているもののほとんどはこのNovelAIリークモデルがベースといわれている。 さらに大元のNovelAIについてもDanbooru（アニメ系イラスト無断転載サイト）を学習元としており、権利者への許諾は得ていない。 なお、リークモデルがベースでないものもあるが、これについても権利者に許諾をとったモデルはほとんどないと言っていいだろう。 また、実写系モデルについてはInstagram（写真・動画共有SNS）のデータセットを利用している。当然だが、権利者の許諾は得ていない。こちらのモデルはディープフェイクや実写系NSFWが制作できるため、危険性が高い。 アニメ系、実写系それぞれ倫理的リスクがあるが、そのリスクを複合的に持っているのが画像生成AI利用者の中で人気の高い「AbyssOrange mix」というモデルである。これはリークモデルにInstagramデータセットを使用して表現力を高めており、財産権（イラスト及びプログラム）、肖像権の合計3つの倫理的リスクを孕む。このようなモデルは他にも複数確認されている。 よく問題に上げられるLoRAは、上記のアニメ系や実写系のモデルに追加学習をかけることで特定作家、特定キャラクターに特化した生成モデルを作成することができる技術である。追加学習してもその作家やキャラクターだけの絵にならないのはベースとなるモデルの存在があるからだ(LoRAについての詳細は⇒LoRAによる個人や作品の無断学習問題)。 このようにして作成されたモデルは共有サイトのHuggingFaceやCivitaiなどにて共有され、不特定多数が利用できる状態となる。そして、そのモデルはさらにマージ元やベースモデルなどとして利用され、新たなモデルが生まれている。 主要な画像生成AI一覧 Stable Diffusion（SD、ステーブル・ディフュージョン) WEBサービス、ローカル、モバイルアプリ LAION-5Bデータセット使用。 「テキスト入力でフォトリアリスティックな画像を生成できる潜在的なテキストから画像への拡散モデル」（公式HPの文言を翻訳） 【概要】 LMU（ミュンヘン大学）のComputer Vision Learning Group(CompVis)・runwayhttps //runwayml.com・Stability AIhttps //ja.stability.aiの三者の合同で研究・開発された。（Wikipediahttps //ja.wikipedia.org/wiki/Stable_Diffusion参照） 2022年8月22日に初版公開。 有料のアプリケーションだが、公式サイト上のWebサービスhttps //stablediffusionweb.comを利用することで制限付きではあるが無料で画像生成を使用できる。 「モデル」と呼ばれる学習アセットとプロンプトを組み合わせることでイメージに沿った画像を生成する。 stable diffusion自体は操作するためには逐一コマンドを打ち込む必要があるが、WebUIというパーツを導入することで比較的扱いやすいツールに出来る。 特徴として「テキストに基づく画像生成（txt2img/text-to-image・通称t2i）」と「画像に基づく画像生成（img2img/image-to-image・通称i2i）」という二つの機能を持つ。 所謂サンプリングスクリプトであり、 t2iはテキストプロンプトや画像解像度、シード値をランダムにするか他の生成画像と同一のものを使用するかなど入力された情報を解釈して出力する。 i2iは「強度値」という数値を入力することで、上記の情報に紐づけられた画像を基にした新しい画像を出力する。すなわち「ノイズ」とも呼ばれる元画像からの新解釈・追加情報・相違を含んだ画像を強度値に入力された情報を参照しつつ出力する。 ただし、これらはstable diffusionにモデルファイルというアセッツを学習させること≒元になった画像及びそれを基にしたAIによる生成画像の情報が既に存在しているということが前提の機能であり、wikipediaの「機能」の欄にある「ゼロから新しい画像を生成する機能を備えている」という文言は誤解を招く表現である。 具体例として、Civitaiというカスタムモデル（一分野に特化させた学習アセット）のアップロード・ダウンロードができるサイトがある※1が、そこに写真風のリアルな女性の画像に特化したモデルがアップロードされている。 その説明には「特定の人物ではなく、中国のtiktokインフルエンサーの画像をミックスした」という記述がある。 つまりこのモデルは複数の実在の人物の画像をAIに学習させて生成した画像をアセットとして公開しているということであり、これを使用した場合「存在していなかった画像をゼロから生成した」とはいえない、ということになる。 おそらくは現行の著作権法の法解釈を踏まえた「言い回し」の一つと考えられる（あえて擁護するならば出典にCompVisの名義で公開されているstable diffusionのGitHubのリンクが貼ってあるため、記事作成者が能書きをそのまま書いただけの可能性もある）。 ちなみにstable diffusionやNovelAIに使用されているモデルには「Danbooru」という海外の画像転載サイトに転載された画像を学習させたものがあり、サイト上のタグをそのままテキストプロンプトに流用している。 カスタムモデルが大量に配布されている現在では殆どのモデルがこの「danbooruタグ」によってプロンプトを紐づけた無断転載された画像の影響を受けているとされる。 2022年11月24日にリリースされたStable Diffusion 2.0には新たに「depth2img」という画像の深度情報を推測することでより立体的な（具体的には実際の写真のような）画像を出力するという機能も追加された。 コードとウェイトは一般に公開されており、殆どのハードウェアで実行可能である点もクラウドサービス等でアクセスするものが多い他の画像生成サービスとの違いである。 画像生成では広く使用されており、専門のガイドブックが販売されている※2ほど。 【論争・訴訟一覧】 Stable Diffusionは著作権関連での訴訟を多数起こされており、また個人・企業・団体によって使用の是非を問う等の論争が巻き起こっている。 主な理由として著作権の存在する画像を権利者の許可なく学習アセットに使用している・ディープフェイクの作成に関する制約の少なさ等が挙げられる。 Stable Diffusionは「『どのような画像を生成するか』と『その取扱い』はユーザーの判断に委ねる」という方針を前面に打ち出しているため、現在これらの問題が改善される兆しは見られていない。 ここでは特に訴訟や論争について記述する。 【論争】 「ハーバード・ビジネス・レビュー」というアメリカの経済学誌は開発企業が実施している「権利者が申請することで著作物を学習データから除外する」という通称オプトアウトを批判し、「企業側が著作物の使用許可を権利者に申請する」というオプトイン式を採用するのが適切であると述べている。 「名探偵ピカチュウ」などを手掛けたデザイナーのR・J・パーマーは「現役のクリエイターの作品を多数学習データに取り込んでおり、潜在的に作品を学習されたクリエイターの仕事を奪いかねず権利侵害にあたる」と非難している。 プリンストン大学のアーヴィンド・ナラヤナンは「画像生成AIの開発企業は学習データを同意や補填なしに収集するなどアーティストに敵対するような方法で開発を行っている」とし、「特定のアーティストの画風に寄せた画像生成ツールを許容することはアーティストの労働や独自性を明確に流用しているように思える」と述べて「アーティストをパートナーでなく訓練データの素材として扱っている現状が必然であったと主張している人物は企業が責任ある技術開発を行えなかったことへの言い訳に過ぎない」と結論付けた。 またナラヤナンはメディアによる画像生成AIの宣伝に関し、「過度に擬人化するなどの誤解を招くような印象を蔓延させ、誇大広告に加担している」と厳しく批判し、「AI報道で気をつけるべき18の落とし穴」というチェックリスト（https //aisnakeoil.substack.com/p/eighteen-pitfalls-to-beware-of-in）の中で、「AIが人間と同じように学習すると示唆し人間の知能と比較すること」や「AIが電気の発明や産業革命といった歴史的な出来事になぞらえること」等が印象操作によってAIやそれを応用した技術に対する誤った認識を広めていると批判している。 東京大学は理事・副学長の太田邦史の署名付き文章で全学生・教員向けにChatGPT, BingAI, Bard, Midjourney, Stable Diffusion等の生成AIの利用に関する注意喚起を行い、元データの作成者が知らない間に著作権を侵害されたとして問題提起を行っている現状を指摘し、将来的に画像生成AIが生み出したコンテンツが訴訟の対象になる可能性に言及した。 【訴訟】 2023年1月13日にアメリカ在住の漫画家サラ・アンダーソンら3人が原告となり、Stability AIとStable Diffusionを利用した画像生成サービスを展開するMidjourney、DeviantARTの3社に対して訴訟を提起した。学習データに使用されているインターネット上の何十億もの画像はその大半が著作権によって保護されているものであり、使用するにあたっての権利者への同意も得ていないという倫理的・法的な問題を抱えるAIアートの違法性を訴えている。アンダーソンは「ワシントン・ポスト」紙の取材に対し「AIは私の作品を盗んだ」と答えた。 イギリスのストックフォト企業である「Getty Images」は画像生成AIが膨大な量の画像を盗用し知的財産権を侵害しているとして英国・米国の2か国でStability AIへの損害賠償請求訴訟を提起した。 訴訟に関する詳細は⇒「生成系AIに関する訴訟・法的対応一覧」 ※1セキュリティ上安全なサイトであると断言できないためURLは省略。 ※2https //www.amazon.co.jp/Stable-Diffusion-AI%E7%94%BB%E5%83%8F%E7%94%9F%E6%88%90%E3%82%AC%E3%82%A4%E3%83%89%E3%83%96%E3%83%83%E3%82%AF-%E4%BB%8A%E6%9D%91-%E5%8B%87%E8%BC%94/dp/4802614055/ref=d_pd_sbs_sccl_3_2/355-7332775-0596163?pd_rd_w=QkqMa&content-id=amzn1.sym.820591ed-a555-4556-9bf6-5ebd5493c69e&pf_rd_p=820591ed-a555-4556-9bf6-5ebd5493c69e&pf_rd_r=NWA8Y3WY7MFD4ETG6Z9B&pd_rd_wg=Pyo8c&pd_rd_r=6c86b162-72f2-44a4-af1e-b60364059b08&pd_rd_i=4802614055&psc=1 【参考資料】 まるで人間のアーティストが描いたような画像を生成するAIが「アーティストの権利を侵害している」と批判される（2022年8月15日-GIGAZINE） Mid Journey (Mid、MJ、ミッドジャーニー) WEBサービス データセット非公表。 【特徴と傾向】 日本で最初に大きく話題となった画像生成AIサービス。 モードの種類 V1、V2、V3、V4、V5、Niji4、Niji5、MJ Test、MJ Test Photo フォトリアル性とディティール、独自のアートスタイライズ(美術的調教)されたアウトプットが特徴。 表現の幅も広いが、全体的に黒の使い方に特徴があり特にMJ Version4以降は画面に黒いシャドウが大きくかかっている傾向がある。 また、新しいバージョンモードで生成しても過去のバージョンと同じ出力結果にはならず、 2022年8月の黎明期の頃の味わいが欲しければモードを変更して過去のバージョンモードで生成する必要がある。 そのため、初期のMidjourneyの流行時に生成結果をよくSNSで目にしていたという人は、 最新のMidjourneyでどのような生成物が出力されるのかを知らない可能性が高い。V4、V5以降はかなりフォトリアルな表現を得意としている。 日本のイラスト投稿界隈でのSNS上の傾向を踏まえて注意が必要なのが、 「Midjourneyが得意とするようなフォトリアルな作風、風景、コンセプトアートにも元となった学習された画像とそのクリエイターたち」が存在することである。 「キャラクターイラストの背景に使えるかも」となる前に、生成画像が一体どのようにして出てくるかを立ち止まって考えることが必要である。 非Nijiモードでの二次元キャラの描写は非常に癖があり、同じような顔になるため「Midjourney」で生成したと一目で分かることも難しくない。 また、後述されるNijijourneyの生成機能も内包している。Nijiモードに切り替えることで使用できる。 【概要】 Discordのチャットに単語や文章（プロンプト）を入力することで画像を生成できる。 かつては無料トライアルで25枚まで画像を生成できたが、現在（2023/4/12）ではフェイク画像の生成などの問題で出来なくなっている。 Midjourneyでは画像を指定して生成するimg2imgのことを「イメージプロンプト」と呼ぶ。 利用規約 ・生成した画像はMidjourney側にも同等の著作権が発生する ・更に画像プロンプトとして使用した画像にも同等の著作権が発生する ・生成された画像によって生じた問題についてMidjourneyは責任を負わない。 ・ただし、ユーザーが権利や商標の侵害によってMidjourney側に損害を与えた場合、ユーザーに対し法的請求を行う ・サービス変更や停止によって損害が生じても責任を負わない 等の規約について理解、承諾する必要がある（現行の法律に関しては各自弁護士に相談することが推奨されている）。 上記は要約・意訳でもあるため、詳しくはMidjourneyの利用規約（https //docs.midjourney.com/docs/terms-of-service）を参照。 プランにはbasic・standard・proの3つがあり、それぞれ月額料金のほかに「fast hour」という消費することで画像を高速で生成できるポイント(生成にかかった時間分消費する。ソシャゲのスタミナやスマホのデータ通信量のようなもの、%で表示される)・ステルスモードの有無などに違いがある。 この「fast hour」は使い切ると追加で購入することができる。 basicより上のプランであれば「Relax」というfast hourを消費せずに無制限に画像を生成できるモードが開放される。 ただしアップスケール(高解像度化)を行うためにはRelaxモードでは時間がかかるため、サイズの大きい画像や高解像度の画像を大量に生成するためにはよりグレードの高いプランに加入し、Fast hourクレジットを購入する必要がある。 ギャラリー(会員に出力画像やプロンプト設定などが公開される機能)の非公開設定ができるステルスモードは、proプラン(月60$)の特典である。これを行うことで画像生成のために入力した単語や文章、通称「呪文」を非公開にできる(自分の出力履歴を隠すことができる)。proプラン以外のプランの加入者でも、現行のプラン+月20＄の追加課金を行うことで、ステルスモードを解禁することができる。 【簡易年表】 Niji Journey (Niji、にじ、にじジャーニー) WEBサービス データセット非公表。 あなただけのオリジナルアニメイラストを描く最先端AI（公式HPより）。基本的な仕様はMidjourneyとほぼ同じ。 【特徴と傾向】 NovelAI派生のキャラクターイラスト生成AIと違うので、生成結果がマスピ顔ではない。 マスピ顔ではない画風の幅のあるAI生成出力者・投稿者がいたら、SDローカルでの追加学習を使用していなければこの「Niji journey」を使用している可能性は高い。 また、SDローカル等におけるマスピ顔はないものの、「スタイル値が1000(MAX)」になるほど出やすい絵柄・顔は数パターンある。 Niji journeyのユーザー投稿作をTwitterのハッシュタグなどで何作か見ていくと、その傾向や癖を理解することができる。 【概要】 Spellbrush（@spellbrush）※1とMidjourney（@midjourney）が「一緒にデザインした」画像生成AIツール。 Discordのチャットに単語や文章（プロンプト）を入力することで画像を生成できる。Midjourneyの会員(同一のアカウント)でも同じDiscord上で利用できる。 かつては無料トライアルで25枚まで画像を生成できたが、現在（2023/4/12）ではフェイク画像の生成などの問題で出来なくなっている。 Nijijourneyでは画像を指定して生成するimg2imgのことを「イメージプロンプト」と呼ぶ。 「スタイル」と呼ばれる入力したスタイル値によって生成する画像の傾向をコントロールするシステムがあり、現行のv5モデルはスタイル値によって生成物が大きく変化する。スタイル値(--s XXX)が1000に近ければ近いほどNiji Journeyがチューニングした固定の絵柄に近くなり、スタイル値が低ければバラつきが出る。（基本的には、Default・Styleというアニメ調の画像を生成できるスタイルではスタイル値を下げるとプロンプト内容を反映しやすいデータベース素材に近いと思われる生成結果になり、上げるとNiji Journeyがスタイライズした日本のアニメ、イラスト風の生成結果になる） 利用規約は「一緒にデザインした」Midjourneyのものが適用され、 ・生成した画像はMidjourney側にも同等の著作権が発生する ・更に画像プロンプトとして使用した画像にも同等の著作権が発生する ・生成された画像によって生じた問題についてMidjourneyは責任を負わない。 ・ただし、ユーザーが権利や商標の侵害によってMidjourney側に損害を与えた場合、ユーザーに対し法的請求を行う ・サービス変更や停止によって損害が生じても責任を負わない 等の規約について理解、承諾する必要がある（現行の法律に関しては各自弁護士に相談することが推奨されている）。 上記は要約・意訳でもあるため、詳しくはMidjourneyの利用規約https //docs.midjourney.com/docs/terms-of-serviceを参照。 プランにはbasic・standard・proの3つがあり、それぞれ月額料金のほかに「fast hour」という消費することで画像を高速で生成できるポイント(生成にかかった時間分消費する。ソシャゲのスタミナやスマホのデータ通信量のようなもの、%で表示される)・ステルスモードの有無などに違いがある。 この「fast hour」は使い切ると追加で購入することができる。 basicより上のプランであれば「Relax」というfast hourを消費せずに無制限に画像を生成できるモードが開放される。 ただしアップスケール(高解像度化)を行うためにはRelaxモードでは時間がかかるため、サイズの大きい画像や高解像度の画像を大量に生成するためにはよりグレードの高いプランに加入し、Fast hourクレジットを購入する必要がある。 ギャラリー(会員に出力画像やプロンプト設定などが公開される機能)の非公開設定ができるステルスモードは、proプラン(月60$)の特典である。これを行うことで画像生成のために入力した単語や文章、通称「呪文」を非公開にできる(自分の出力履歴を隠すことができる)。proプラン以外のプランの加入者でも、現行のプラン+月20＄の追加課金を行うことで、ステルスモードを解禁することができる。 NijiJourneyはプロンプトとスタイル値によって様々な画風を出力でき、また新たなスタイルの追加を予告しているため(後述)幅広い種類かつ相当数の画像を既に学習し、かつ細かいプロンプトとの結びつけも完了していると予想され、さらに生成画像を学習してまた画像を生成する……という行為を繰り返すため、元になった画像を特定し著作権の侵害を訴えるといった民事訴訟による個別の対策は学習が進めば進むほど不可能になっていくと思われる。 またこれはNijiJourneyに限った話ではないが、あらゆる種類の画像を少数の企業の運営する画像生成AIによって生成されるということは、多くのイラストレーターやアニメーター、デザイナー、漫画家、画家、写真家といった画業・芸術業を営む人々の作品を駆逐し、企業による独占状態を招く恐れがある。 【簡易年表】 ≪2022年≫ 11月7日：クローズドベータが実施中という情報がツイートされ、同年12月10日にはオープンベータ版を公開。 12月31日：コミックマーケットC101にユーザ投稿イラストとnijijourneyを使用して生成したフルカラーの漫画同人誌を頒布。（※2）購入者には10$分のサブスクリプションクーポンが配布された。 ≪2023年≫ 2月11日：「nijijourneyコンテスト」を開催、入賞者にはfast hourやDiscord Nitroが配布されたようである。 4月2日：「にじジャーニーv5モデル」が公開。「Default・Style」を追加。「『アニメ』に見える絵を作る」プロジェクトであり、niji 4までの生成画像の改善版（主に陰影の表現と立体感と流行の絵柄の再現度）。4月6日にはMidjourneyのtwitterでも紹介され、曰く「an anime-focused version of Midjourney（Midjourney のアニメに焦点を当てたバージョン）」とのこと。 4月9日：「Expressive・Style」を追加。「洋風で大人びた雰囲気」と紹介されており、イラストでも写実的でリアル寄りな画風で画像を生成する。 4月10日：画像からテキストプロンプトを抽出生成することが可能になる。 4月16日：「Cute・Style」を追加。「平面的でシンプルな描写、余白や装飾的なディテールが特徴」と紹介されており、デフォルメタッチやファンシーな画風で画像を生成する。 4月23日：「Scenic・Style」を追加。「v5新スタイルの集大成」と銘打たれ、「詳細で印象的な背景」と「キャラクターがそこに息づくような目を引く構図」が特徴。風景写真のような細やかな背景によるスケールの大きな画像を生成する。 下記にて開発ログを見ることができる。 niji・journey dev logs ※1 Spellbrushはwaifulabsやarrowmancerといったサービスを提供している「SizigiStudios」のAI関連のエンターテイメント事業の総称？のようである。 ※2販売された同人誌「niji・journal vol.01 」はメロンブックスで委託販売中。 Novel AI (ノベルAI、NAI) WEBサービス（有料サブスクリプションサービス）→ハッキングによるリーク→ローカル派生 danbooruデータセット使用。 【概要】 デラウェア州に拠点を置くAnlatan社によって運営されている。 日本のアニメイラストが高品質で生成されることから、登場当初は話題となった。 しかし、データセットが無断転載サイトだとの批判がある「danbooru」だと明らかになると批判の声が出るようになった。 サービスリリースは2022年10月3日。その後、2022年10月6日にハッキングされている。 NovelAIサービス開始。 2022/10/3「NovelAI's Image Generation, #NovelAIDiffusion is live on http //novelai.net now!」 https //twitter.com/novelaiofficial/status/1576784138807693312 NovelAIハッキングされる。 2022/10/8「2022年10月6日に弊社のGitHubとセカンダリリポジトリに権限のない第三者による不正なアクセスを許してしまいました。」 https //twitter.com/novelaiofficial/status/1578660537742696449 NovelAIのデータセットはdanbooruである。 「NovelAI Diffusion has been trained on Danbooru tags」 https //twitter.com/novelaiofficial/status/1576794201672802305 NovelAIのベースはStableDiffusionである。 「オリジナルのStable Diffusion モデルに基づいています」 https //twitter.com/novelaiofficial/status/1583688206192500736 NovelAI公式による仕組みの説明（ツリー含め参照）。 「#NovelAIDiffusion の仕組みの魔法について話しましょう」 https //twitter.com/novelaiofficial/status/1583688167604948992 2023年4月1日にControlNetが実装された。 「この度、NovelAIは完全に生まれ変わりました！」 https //twitter.com/novelaiofficial/status/1642061444257644544 【リークモデルについて】 ハッキングにより流失したリークモデルによって、ほとんどの二次元系のAIイラストは生成されていると言われている。 リークモデルはマージされ、様々な派生モデルを生んだ。 リークすることは不正行為であり、マージされたところで、その問題が解決されるわけではない。 しかし、マージされることにより、リークモデルが使用されているか否か判断が難しくなっており、問題の追跡が困難になっている。 また、Novel AIのリークについて検索すると、明らかに不正行為であるのにもかかわらず、リークモデルの使用方法が簡単に出てくる。 感覚の麻痺した利用者がいかに多いかよくわかるのではないだろうか。 また、リークしたことにより、特定の絵に対して「LowQuality」などの冒涜的なタグ付けがなされていることが判明した。 【元素法典】 NovelAIがリークされたことにより中国語圏でプロンプトの研究が行われ、長大なプロンプト及びネガティブプロンプトにより通常よりも情報量の多い画像を生成することが可能となった。このプロンプトは元素法典と呼称される。 元素法典はWEBサービスではプロンプトの文字数の制限のためになしえなかったが、リークされたことによりその制限が取り払われた。 当時のNovelAIのWEBサービスのユーザーはNovelAIに課金して、プロンプトの制限のある中で画像生成を行っていたが、リークモデル使用者は無料でプロンプトの制限なしに情報量の多い画像を生成していた。 まっとうにサービスを利用していたユーザーにとって、このような状況に不満を覚えることは想像に難くない。 そして、リークモデルはダウンロードしようと思えば可能な状況なのである。 リークモデルがここまで蔓延ったのは、元素法典の存在が原因の一つかもしれない。 2022年10月17日「「元素法典」と呼ばれる魔導書」 https //twitter.com/jaguring1/status/1581825977625157633 （余談だが、上記ツイートはハッキングされたはずのNovelAI公式がリツイートしている。） 【Novel AIがStable Diffusionに加えた改善について】 Blog Post NovelAI Improvements on Stable Diffusion https //twitter.com/novelaiofficial/status/1579512480472399872 NovelAI Improvements on Stable Diffusion https //blog.novelai.net/novelai-improvements-on-stable-diffusion-e10d38db82ac 超高精度なイラストを生成できると話題の「NovelAI」は本家Stable Diffusionにどんな改善を加えたのか？ https //gigazine.net/news/20221011-novelai-model-improvements-stable-diffusion/ 【danbooruデータセットに関する記事】 画像生成「NovelAI Diffusion」無断転載サイトからの学習で物議 有償提供も問題視 https //kai-you.net/article/84966 「われわれはNovelAIと関係ない」──海外のイラストサイト「Danbooru」が日本語で声明 https //www.itmedia.co.jp/news/articles/2210/05/news133.html 【リーク問題に関する記事】 【公式声明発表済】イラスト生成AI「NovelAI」のモデルデータが流出？情報が不確かで偽物・マルウェアの可能性があるという指摘も https //togetter.com/li/1955160 画像生成AIの激変は序の口に過ぎない https //weekly.ascii.jp/elem/000/004/115/4115793/ AIの著作権問題が複雑化 https //weekly.ascii.jp/elem/000/004/124/4124486/ NovelAIのリークで何が終わったのか？ http //soysoftware.sakura.ne.jp/archives/3622 waifu/NAI/Anything-V3.0 あれから何があったの? (10月と11月のこと) https //blog.deepfort.net/posts/20221119/ Waifu Diffusion (ワイフ・ディフュージョン) ローカル danbooruデータセット使用 NovelAI同様にStableDiffusionをアニメスタイルにファインチューニングしたモデル。 haru氏、salt氏、sta氏の3名により制作された。 danbooruデータセットを使用しているが、NovelAIリークモデルよりは違法性が低い。 NovelAIを参考にして製作しているものと思われる。 リークモデルではない為、こちらのモデルが法律上もどちらかと言えば安全であり、Waifu Diffusionの利用を推進していこうという動きもある。 ただし、ローカルで使用できるように共有されているために、LoRAをはじめとする追加学習が加速していくことは時間の問題であり、モラルハザードの危険性は今後も発生する恐れがある。 Danbooru(イラスト転載サイト)で学習したWaifu Diffusion https //togetter.com/li/1943300?page=3#h53_0 WD1.5にまつわる参考資料 https //twitter.com/kuronagirai/status/1612714668044455936 TrinArt (とりんアート、とりんさまアート、でりだ) WEBサービス、ローカル AIのべりすとの運営と同じ。 なお、製作会社は株式会社Bit192であり、Waifu diffusionの製作にも関わったSta氏がCEOである。 「ルミナ」と呼ばれるサイト内通貨を消費して、AIイラストを生成することができる。 このルミナの消費量は出力の際の設定で調整出来るようになっている。 「とりん」と「でりだ」と呼ばれるモデルがあるがベースはStable Diffusionを使用していると思われる。 Holara AI WEBサービス 無料プランと有料プランがあり、無料プランの場合、プロンプトがランダムとなる。 有料プランの場合、自身でプロンプトを指定できるため、狙った画像が出しやすくなる。 Stable Diffusion 1.5がベースとなっている。 データセットは非公表だが、公式サイト曰く、「他のアニメモデルのウェイトを使用していない」とのこと。 「Akasha」と「Aika」2つのモデルを提供している。 「Akasha」と「Aika」の違いについては下記を参照。 画像生成HolaraAIにモデルAika登場！Akashaと比較してみました！ https //ai-generated-art-materials.com/holara_ai_new_model/ お絵描きばりぐっとくん 「stable diffusion」を使用してAI自動画像生成LINEアプリケーションのこと。1日に生成できる画像は10枚。 日本の幅広い層に普及している画像生成AIである。 AIピカソ モバイルアプリ Stable Diffusionベース メイツ モバイルアプリ 写真などを加工するアプリで機能の1つに「AI絵画」と呼ばれるものがある。 これはスマホの画像フォルダから画像をアップロードし、それを元にAIイラスト化する、というもの。 アップロード後は4つの候補を選び、そこから更にAIによる描写を行う。 AI技術はDiffusionモデルに基づき、技術は独自に開発したものであると発言している。（該当ツイート） DREAM by WAMBO モバイルアプリ 2021年11月13日リリース WOMBO開発 DALL·E2 WEBサービス 2022年07月21日発表 OpenAI開発 Bing Image Creator (ビング イメージクリエイター) WEBサービス DALL·E最新版データセット使用 2023年03月22日発表 マイクロソフト開発 Adobe Firefly (アドビ ファイアフライ) Photoshopやillustratorといったクリエイティブツールで知られるAdobe社が開発。2023年3月21日に発表された。Fireflyを開発するにあたって使用したデータは、一般に公開されているライセンスコンテンツや著作権の失効したパブリックドメイン、そしてAdobe社が運営するストックフォトサイト「Adobe Stock」内の画像から成り立っているとされる。 【沿革】 2022年後半、MidjourneyやStable Diffusionといった本格的な画像生成AIが次々とリリースされていたものの、インターネット上の著作物等を権利者の許可なく生成AIに使用していることが問題視されていた。Adobe社は同年10月19日、「クリエイターと作品を尊重した責任ある画像生成AIの開発と利用における標準を定義する」として倫理・法律面での透明性を確保した画像生成AIツールを開発し、クリエイターが正当な利益を得られる仕組みを構築すると発表。さらにAdobe社が誤報や偽情報の氾濫を防ぐためとして2019年に設立した「コンテンツ認証イニシアティブ（CAI）」の技術もAdobe製画像生成AIに組み込むと発表した。 2023年3月21日、半年を経てAdobe社は自社製の画像生成AI「Adobe Firefly（ファイアフライ）」を発表、同時にプライベートベータ版も公開した。Adobe社は、「クリエイターの製作効率向上」や「クリエイターへの対価」、「オープンスタンダードの提言」などを掲げ、Adobe Stockにおいてクリエイターが作品提供した時に、Fireflyより生成された画像から得られる利益を還元する方法を検討しているとし、さらにCAIを活用して生成AIの学習に使用されないためのコンテンツへのタグ付け機能（Do Not Train）や生成AIが作成したコンテンツに「AI生成」を示すタグが付けられるというようなメリットがあるとした。Fireflyは将来的にCreative Cloudへ統合されるとも発表。 2023年5月23日、Adobe社はFireflyに「ジェネレーティブ塗りつぶし」機能を搭載するとし、同時に画像編集ツールPhotoshopとFireflyの連携も行うと発表した。この機能はまずphotoshopデスクトップ版にベータ版として実装された上で同年後半には一般に公開される予定となっている。 2023年6月8日には「Adobe Firefly」のエンタープライズ版が発表された。Adobe社によるとエンタープライズ版は企業を対象としたもので、企業は自社のブランディングに沿ったコンテンツの迅速な生成や配信が可能になり、商業的な利用が可能で、将来的には企業自身が持つブランド資産でFireflyをカスタムトレーニングする事が可能になる、などと説明されている。さらにAdobe社は、Fireflyで作られたコンテンツによって企業が訴訟を受けた場合、「商業的な安全性と即応性に責任を持っていることの証拠」としてAdobe社が完全な法的補償を行うと表明した。そしてAdobe社は、Adobe Fireflyへ元画像を提供したコントリビューターに対する補償モデルを開発中であるとし、Fireflyがベータ版を終えた後にモデルの詳細を共有すると述べた。そのモデルは「最初の顧客がFireflyを使う前にリリースする予定だ」とした。 【偽情報等への対策】 Adobe社の担当者によると、Fireflyでは「銃」や「攻撃する」といったリスクがあるようなワードは除外しているが、銃の画像が出ない事がクリエイターにとって致命的問題になるわけではないし必要があればクリエイターが自身で入れればよく、むしろユーザーが意図していないのにそのような画像が出る方が商用利用の際のリスクになり得るとの事。 【学習用データセットに著作物、AI製画像等が含まれている可能性とそれに対するAdobe社の対応】 Fireflyのデータセットの一部はAdobe社のストックフォトサイト「Adobe Stock」から構築されているが、Adobe Stock内には著作権で保護された画像などが無断でアップロードされているとの指摘があり、同サイトを学習元としたFireflyがどれだけ問題あるデータを除外できているかが一部で不安視されている。Adobe社の担当者は、Adobe stock内には報道用途などで提供している「エディトリアル」というコンテンツが存在し、キャラクターの画像などはそれに当たるものでFireflyの学習データからそれらのコンテンツは除外されていると説明している。さらにあるAI研究者が行ったMidjourneyとFireflyで同一のプロンプトを打ち生成された画像から著作権で守られたキャラクター等が出力されるかどうかといった諸要素を比較したツイートでは、デッドプール、マリオ等を生成しようとしているものの、似ても似つかない人物が出力されている。これらの事実を鑑みるとある程度は問題を有しているデータが除外されたと言う事も出来る。(AI研究者による元ツイートは削除済みだが、2023年4月4日付のGIGAZINE記事内にマリオを生成した画像のみが残っている。) 2024年4月12日、米紙ブルームバーグが、Fireflyの学習用データセット内にMidjourneyなど他の画像生成AIで作られたAI画像が5%ほど含まれていると報道。同紙によれば「画像生成AIを含むデータセットでAI学習を行うかは開発初期段階からAdobe社内でも意見が分かれていた。」とし、2023年3月のFireflyベータ版公開の際、担当者が「正式版の公開の際は新しいトレーニングデータベースを用意し生成AIコンテンツを除外する予定だ。」と話していた。 【Fireflyへの学習データ利用同意に関する問題】 「Adobe stock」に素材を提供してきた投稿者の一部からは「Adobeは自分の作品をFireflyのAI学習に使用する際に明示的な通知も同意も無しに行った」との指摘をされている。さらにFireflyを用いて容易に画像の加工等が出来る事でAdobe stock製素材への需要が落ち込んでいるとの意見もある。Adobeは現状AI学習からオプトアウトできる仕組みを構築しておらず、ここでも問題が指摘されている。 【Firefly等の普及で顧客の仕事が減少しAdobe製品の需要も減るとの指摘とAdobe社の反応】 2023年7月末、Adobe社のある社員はメディアの取材に対し、Firefly等のAIテクノロジー普及により同社の主要な顧客であるグラフィックデザイナー等の雇用に悪影響を及ぼし、結果的にAdobe製製品の需要も落ち込む事を懸念していると表明した。この報道に対し、Adobe社のプロダクト最高責任者（CPO）のスコット・ベルスキー（Scott Belsky）氏は、「一部の業界はAI時代には存在する必要がないかもしれないが、グラフィックデザイナーは今後も繁栄し続けるだろう」と語った。さらに、企業などはAIの普及によって「一人ごとの創意工夫」が増えると、さらに多くの人々を求めるようになりより多くの製品を開発し、より多くのコンテンツを作成し、より多くの成果を達成できるようになる、とした。 【Fireflyの懸念に対するAdobeの公式回答】 2024年3月25日、Adobe社主催のオンラインイベント「Adobe Firefly 公開1周年記念 みんなで学ぼう生成AIと著作権！」が開催され、生成AIと著作権やFireflyに関してユーザーから募集した質問にAdobeの担当者が返答した。その中のFireflyの懸念点に関する質問とその回答を一部抜粋する。 以下の質問と回答は全てAdobe公式ブログ「『Adobe Firefly Camp みんなで学ぼう生成 AI と著作権！』ダイジェスト＆参加者からの質問への回答／参加者からの質問への回答」(2024年4月9日)より引用。 ■Fireflyの学習元にAI生成画像が含まれているのではないかとの懸念について Q Adobe firefly の学習元に、生成 AI による AI 生成画像が含まれているのではないか、という懸念があるようです。学習元のデータに AI 生成物は入っていますか？また、最初に学習元として発表されたデータの内容は全ての学習データでしょうか、または事前学習分は別にあり、追加学習分だけ権利クリアなのでしょうか。 A Adobe Stock 内のキュレーションされた生成 AI 画像が含まれています。また、著作権の問題がある学習データが発見された場合でも、Firefly は定期的に問題データを排除した再学習を定期的に実施しています。 ■Adobe stock内に無断転載画像、AIタグ無しのAI生成物などが含まれているのではとの懸念について Q Adobe stock の中には、他者の無断転載なども含まれ、生成 AI タグのない AI 生成物が紛れているという話もあります。不適切な画像を具体的に除外する対策や、学習を望まない人がオプトアウトするシステムなどは構築されているのでしょうか。 A 著作権の問題がある学習データが発見されたとしても、問題となったデータを排除し再学習を定期的に実施しています。また、Adobe Stock に不適切なコンテンツが認められた場合、コンテンツの削除などの対応をしております。Adobe Stock で販売する作品はコントリビューターの利用規約に則り、アドビ製品開発に使用することを前提にお預かりしています。現時点ではオプトアウトの仕組みはないため、問題ないと判断いただいた作品のみを投稿いただけるようお願いします。 ■Fireflyのオプトアウトについて Q Adobe Stock に登録したイラストを、AI 学習の対象にしないとオプトアウトすることはできますか？ A 検討中ですが、現時点ではオプトアウトする仕組みはございません。 ■「Do not train」タグについて Q 画像の AI 学習オプトアウト技術である「Do not train タグ」は Adobeの技術であったと思いますが、実際の運用は現在どうなっているでしょうか。 A 「Do Not Train タグ」に埋め込まれた情報から判断して学習の対象から外す仕組みにはなっておりません。オプトアウトの機能がないため、学習用データの対象として問題ない作品だけを投稿いただけるようおねがいします。」 【参考資料】 + 参考資料一覧 Adobe社による「Adobe Firefly」の解説ページ Adobe、画像生成AIを開発へ 倫理や法律面で“透明性”高めたクリエイターのためのツール目指す（2022年10月19日-ITmedia） Adobeが独自のジェネレーティブAI「Firefly」を発表、PhotoshopやIllustratorといったCreative Cloudへの統合も（2023年3月22日-GIGAZINE） ジェネレーティブAIの「Adobe Firefly」では「マリオ」「ピカチュウ」などの著作権で保護されたコンテンツが回避されるというのがよく分かる「Midjourney」との比較画像（2023年4月4日-GIGAZINE） 〔現地レポート〕アドビが発表した「画像生成AI」は世の中をどう変えるのか？（2023年4月18日-Japan Innovation Review） 「画像生成AIはあくまで補助」、アドビが「Firefly」で考える著作権問題（2023年4月24日-日経クロステック） 画像生成AI ｢Adobe Firefly｣がPhotoshopへ統合。｢ジェネレーティブ塗りつぶし｣ が近く利用可能に（2023年5月23日-CORRIENTE.TOP） アドビ、「Adobe Firefly エンタープライズ版」を発表（2023年6月8日-Adobe） Adobeが画像生成AI「Firefly エンタープライズ版」で作った画像で訴訟された場合は全額補償すると発表、自社AIは権利侵害していないという自信の表れ（2023年6月9日-GIGAZINE） Adobe Stock creators aren’t happy with Firefly, the company’s ‘commercially safe’ gen AI tool（Adobe Stockクリエイターは同社の「商業的に安全な」生成AIツールであるFireflyに満足していない）（2023年6月20日-VentureBeat） Can artists protect their work from AI? （アーティスト達は彼らの作品をAIから守れるのか？）（2023年6月19日-BBC） Adobe Staff Worried Their AI Tech Could Kill The Jobs Of Their Own Customers（2023年7月25日-BENZINGA） Adobe product leader says AI won’t kill graphic design, even as employees worry（2023年7月26日-ventureBeat） Inside Adobe, some staff worry their AI tech will kill graphic designer jobs and undermine the company's business model 'Is this what we want?'（2023年7月25日-Business Insider） アドビ社員たちは画像生成AI機能が自社ビジネスを破壊すると本気で悩んでいる。デザイナーが減ると…（2023年7月28日-ビジネスインサイダー日本語版） Adobe’s ‘Ethical’ Firefly AI Was Trained on Midjourney Images（2024年4月12日-ブルームバーグ） Adobeの画像生成AI「Firefly」の学習用データセットにMidjourneyなど別の画像生成AIが生成した画像が全体の約5％ほど混入していることが判明（2024年4月15日-GIGAZINE） chichi-pui (ちちぷい) AI画像投稿WEBサービス、2023年4月にイベント「AICOLLECTION」でWEB上にAI画像生成ツールを実装すると発表 mimic (ミミック) WEBサービス データセット非公表。 【概要】 日本の企業、ラディウス5が開発した画像生成AI。2022年8月29日にベータ版がリリース。単に画像を出す他の画像生成AIと異なり「クリエイター自身の画風を模倣」する事に特化しており、これを通して「イラスト制作の参考資料」や「SNS・ファンコミュニティの活性化」に活用できるサービスであると同社は説明している。 【利用可能なデータについて】 利用規約の第12条（知的財産権等）の７に下記の記載がある通り、サービス利用者は自身が製作したもののみを学習素材とするよう定めている。 「登録ユーザーは、送信データについて、当社に送信することについての適法な権利を有していること（送信データが画像データの場合にあっては、さらに、自らが創作したものであること）、及びこれらの行為が第三者の権利を侵害するものではないことについて、当社に対し表明し、保証するものとします。登録ユーザーが、第三者から本サービスの利用に関し権利侵害等の主張その他何らかの請求等を受けた場合、直ちにその旨を当社に通知するとともに、当該請求等について、自らの負担と責任のもとで解決しなければならないものとします。なお、当社が第三者から権利侵害の通報等を受けた場合には、対象の登録ユーザーを特定したうえで、当社の裁量により、対象の登録ユーザーによるサービス利用の停止、送信データ又はAI出力物の削除等必要な措置を講ずることができるものとします。」（引用元：mimic利用規約第12の7） mimicは当初、他人の著作物を学習させることができる状態となっており、物議を醸した。 これにより、いくつかのイラストレーターは「AI学習禁止」の表明を行った。 mimicはイラストレーター等により批判を受け、炎上した。 一方で「絵描きが技術の発展を阻止した」等の批判もあり、「絵描きがmimicを潰した」との意見も出ている。 これにより、絵描きがAIを批判すると非難を浴びる状況の要因の一部となったと思われる。 事実、日本の絵描きはAIによるモラルハザードが深刻化してもなかなか声を上げられていない。 【参考資料】 大ウケした「Midjourney」と炎上した「mimic」の大きな違い “イラスト生成AI”はどこに向かう？ https //www.itmedia.co.jp/news/articles/2209/06/news117.html 画風を学ぶAIイラストメーカー「mimic」が物議 他人の絵を学習させる悪用を懸念 https //kai-you.net/article/84595 イラストAI「mimic」運営が「全機能の停止」発表 他人の絵の無断利用リスクで物議...不正対策見直しへ https //www.j-cast.com/2022/08/30444697.html?p=all 不正利用への懸念で物議をかもしたイラスト生成AI「mimic」が再始動 運営が語る“炎上”の原因とは https //nlab.itmedia.co.jp/nl/articles/2209/30/news005.html 関連資料 画像生成AIを網羅的に解説したスライド DiffusionによるText2Imageの系譜と生成画像が動き出すまで https //speakerdeck.com/nhamanasu/diffusionniyorutext2imagenoxi-pu-tosheng-cheng-hua-xiang-gadong-kichu-sumade Stable Diffusionの仕組みについての記事 世界に衝撃を与えた画像生成AI「Stable Diffusion」を徹底解説！ https //qiita.com/omiita/items/ecf8d60466c50ae8295b 画像生成AI「Stable Diffusion」を使いこなすために知っておくと理解が進む「どうやって絵を描いているのか」をわかりやすく図解 https //gigazine.net/news/20220914-stable-diffusion-illustrated/ アーティストの権利侵害やポルノ生成などの問題も浮上する画像生成AI「Stable Diffusion」の仕組みとは？ https //gigazine.net/news/20220831-stable-diffusion-process-performance/ fully integrated article (7 pages) on the experiment performed on a small diffusion model with some discussions https //twitter.com/GSNotArt/status/1588439657641291777 Stable Diffusion を基礎から理解したい人向け論文攻略ガイド【無料記事】 https //ja.stateofaiguides.com/20221012-stable-diffusion/ ニューラルネットワークの中をのぞく https //ml4a.github.io/ml4a/jp/looking_inside_neural_nets/ 画像生成 AI の最前線！拡散モデル・画像生成モデルの最新研究を解説 https //ja.stateofaiguides.com/20220817-text2image-updates/ 画像生成AIのしくみ【後編】 AIの絵筆はどんな形？「画像生成器」について知る https //gihyo.jp/article/2023/03/how-ai-image-generator-work-02#ofn1 NVIDIA’s New AI Wow, 30X Faster Than Stable Diffusion! https //www.youtube.com/watch?v=qnHbGXmGJCM t=4s 【初心者向け】Stable Diffusion や Midjourney を支える技術 画像生成入門 1 https //blog.kikagaku.co.jp/image-generation-course1
https://w.atwiki.jp/genai_problem/pages/27.html
はじめに（必読！） このページは、生成AIを用いて作られた作品の投稿や販売に対して各プラットフォームがどのような対応を取ったのかについて記述しています。※ページ一番下に簡単な年表があります。 【AI禁止】の表記があるプラットフォームはAI作品の投稿・販売を一切禁止しています。 【AI一部禁止】の表記があるプラットフォームは「AI作品の投稿自体は可能だがマネタイズには何らかの制限（禁止など）を課している」、「あるジャンルではAI作品が一切禁止だが別のジャンルでは取り扱っている」、「特定の形態のAI作品のみを禁止する（例えば電子書籍）」といったAI作品の投稿・販売を一部禁止する対応を取った場合に付けています。対応の内容はプラットフォームによって異なるので、各項目での記述内容の確認を推奨します。 【AI対応】の表記があるプラットフォームは、AI作品の投稿・販売を禁止してはいないが「AI作品をフィルタリングして検索結果から消せる」機能を付ける、「AIの利用形態に制限がある」といった緩やかな対応を取った場合に付けています。対応の内容はプラットフォームによって異なるので、各項目での記述内容の確認を推奨します。 + 編集される方へ イラスト投稿サイト、作品販売サイト、支援サイト、フリー素材サイト、クリエイティブ系ソフトウェアの開発会社などが画像生成AIに対してどのような反応・対応をしたのかについて記述する事を目的としたページです。 事実の誤認などを防ぐため出来るだけ反応・対応についての記載がある記事やプレスリリースのリンクなどを貼ってくださると助かります。 自由に編集して頂いて構いません。 下の画像はSNS等にこのwikiのURLを貼り付けた際表示されるサムネイルとなることを想定して作った画像です。仮の画像ですので自由に差し替えて頂いて構いません。 【目次】 はじめに（必読！） イラスト投稿サイトpixiv (ピクシブ)【AI対応】 ニコニコ静画【AI一部禁止】 ニジエ/ホルネ【AI禁止】 kakuba【AI禁止】 Xfolio（クロスフォリオ）【AI禁止】 pictBLand（ピクトブランド）【AI禁止】 TINAMI【AI対応】 Artstation【AI対応】 DeviantART【AI対応】 コミッションサイトskeb【AI禁止】 pixivリクエスト【AI禁止】 SKIMA【AI禁止】 ココナラ【AI禁止】 つなぐ【AI禁止】 同人作品等販売サイトDLsite【AI対応】 FANZA【AI対応】 とらのあな【AI一部禁止】 メロンブックス【AI禁止】 BOOTH (ピクシブ)【AI対応】 支援サイトFANBOX (ピクシブ)【AI禁止】 FANTIA【AI禁止】 ci-en【AI禁止】 Fantasfic ゲーム販売サイト等Steam【AI一部禁止】 写真・素材等販売サイトAdobe stock Shutterstock Getty Images【AI禁止】 アマナイメージズ【AI禁止】 PIXTA 動画サイトニコニコ【AI一部禁止】 YouTube【AI対応】 同人イベント等COMITIA（コミティア）【AI一部禁止】 クリエイティブツール開発会社セルシス Adobe 関連年表2022年 2023年 2024年 イラスト投稿サイト pixiv (ピクシブ)【AI対応】 日本最大手のイラスト投稿サイト。ピクシブ株式会社運営。AI生成作品の投稿自体は容認しながらも、検索結果から除外可能なフィルター機能などを実装している。2023年5月頃には相次いでpixivFANBOX、pixivリクエスト、BOOTHといったpixivの関連サービスにおいてAI作品の販売禁止・制限する措置を取った。（詳細は各プラットフォームの記述を参照） + pixivの検索結果からAI生成作品を除外する方法 ・pixivの検索結果からAI生成作品を除外する方法 ■デスクトップ版 画面右上の自分のアカウントのアイコン画像をクリック⇒メニュー画面内の「設定」をクリック⇒「ユーザー設定」内にある「AI生成作品」の項目に「表示しない（2022年5月以前は"表示を減らす"表記）」にチェック ■モバイル版 画面左上のメニュー「三」部分をタップ⇒メニュー画面が出てくるので下へスクロールし「設定」をタップ⇒「閲覧制限」内の「AI生成作品」をタップ⇒「表示しない」にチェック ■アプリ版 pixivアプリ左上のメニュー「三」部分をタップ⇒メニュー画面が出てくるのでそれを下へスクロールすると「設定」の項目があるのでそれをタップ⇒「AI生成作品の表示設定」をタップ⇒「表示しない」にチェック 非表示機能についての詳細⇒pixivヘルプセンター「AI生成作品の表示オプションとはなんですか？」 + pixivが生成AIに対し行った対応の詳細（長いので折り畳み） 2022年夏～秋ごろより画像生成AIで作られた作品が大量に投稿されたため、作品の検索をした際に人間の作品が埋もれてしまうなどの問題が発生。2022年10月20日に「投稿時にAI生成作品であると設定する機能」、「検索時にAI生成作品をフィルタリングできる機能」、「既存のランキングとAI生成作品限定ランキングで分離する機能」を発表、同年10月31日に実装した。 AI生成作品の取り扱いに関するサービスの方針について（2022年10月20日-pixiv） AI生成作品の取り扱いに関する機能をリリースしました（2022年10月31日-pixiv） pixiv、AIイラスト急増で機能改修 検索フィルター、専用ランキングなど実装へ（2022年10月20日-itmedia） 2023年5月2日には「画像生成AIを悪用して特定クリエイターの利益を損害する行為について多数のお問い合わせを頂いている」として、サービス共通利用規約やガイドライン類の改定準備を進めていると告知。さらに改定内容の一部を公表し、以下のような悪質な行為は利用を制限するとした。 運営者、他のユーザー、その他の第三者になりすます行為、またはそのように誤認されるおそれがあると当社が判断する行為 特定のクリエイターの画風・作風を模倣した作品発表を、反復・継続して行うことで、当該のクリエイターの利益を不当に害すると当社が判断する行為 特定のクリエイターの画風・作風を模倣した作品発表を幇助するツール等を配布・販売することで、当該のクリエイターの利益を不当に害すると当社が判断する行為 サービス共通利用規約・ガイドライン類改定の事前のお知らせ(2023年5月2日) 同年5月6日、ある画像生成AIユーザーが学習元画像の収集の際、pixivを利用していることをツイート。（元ツイート削除、魚拓⇒https //megalodon.jp/2023-0506-1217-52/https //twitter.com 443/shohei__creator/status/1654655869718757376） このツイートをきっかけに、画像の収集元としてpixivが利用されていることについて問題視するツイートが大規模に拡散、作品を置いたままでは画像生成AIに無断で利用されかねないとの懸念が広がりpixivに投稿した作品をクリエイター達が相次いで非公開にするという事態が発生した。 5月9日にはpixiv側が画像生成AIに関するお知らせを再び発表。画像生成AIについて、 ➀特定のクリエイターが不利益を被ること ②プログラムなどで、クリエイターの作品が不当に収集されること ③AI生成作品を見たくないユーザーにも、AI生成作品が多く表示されること 主に以上3つの問題についての問い合わせを多数頂いているとした。pixiv側はこれらの問題に対しての対応内容について告知した。 ➀の問題について⇒特定クリエイターの作風模倣をした作品を繰り返し投稿する行為などを禁止項目に追加した上で取り締まりも強化する。さらに新しい監視システムを導入し生成AIの悪用、児童ポルノといった問題がより発見しやすくなるようにする。 ②の問題について⇒pixivでは以前から不当な目的での収集を禁じて対処している、その上で様々な技術的対策を講じているとした。 ③の問題について⇒同じユーザーが短時間に何回も投稿すると検索結果から他の人の作品を見つけづらくなるとして、大量投稿への対策を強化すると表明。さらに既に提供されているAI生成作品のフィルタリング機能をより分かりやすい位置に表示するとした。 また、pixivの関連サービスであるpixivFANBOXについても対策を取るとし、5月10日にAI生成作品の投稿を禁止すると発表。さらに、pixivリクエストについてもAI生成作品のリクエストを募集出来ないようにする措置を5月12日に発表した。5月16日にはBOOTHでも作品が他者と差別化されていないといった条件に当てはまる場合は作品を検索結果に掲載しない措置を取ると表明。 それぞれの詳細は当ページの該当する見出しを参照。 pixivによるお知らせ「AI生成に関わる問題と、対応についてご報告（2023年5月9日）」 不当な目的で作品を取得する行為への対策を解説するpixiv公式ブログの記事「ピクシブにおける不当な目的での作品取得行為に対する対策技術について（2023年5月9日）」 5月25日にはAI生成作品の非表示フィルターに改良を加えたと告知、今までは設定画面まで行ってAI作品の表示/非表示を切り替える必要があったが、pixivの作検索結果画面の「検索オプション」から直接表示/非表示を選択できるようになった。すでに設定画面で「表示しない」を選択している場合は、検索結果画面にこのオプションは表示されない仕組みとなっている。 pixiv運営はさらに、機械的なアクセスに対する監視・警告・対応の強化を行ったと発表。機械的アクセスを行っているアカウントより検知しやすくなり、発見したアカウントには停止措置を順次行っているとした。 AI生成作品に関する作品検索オプションの追加と、その他改善のお知らせ（2023年5月25日） 5月31日には急速に発展するAI技術への対応として大規模な利用規約・ガイドラインの改定を発表した。主に画像生成AIを悪用した第三者への嫌がらせ行為、不適切なコンテンツの投稿、特定のクリエイターの作風を模倣する行為といった禁止事項が新たに追加された。 以下に詳細を記す。 ■サービス共通利用規約への新たな条項の追加と条項の改定 ・追加箇所➀ 第14条 禁止行為 4.本サービスまたは個別サービスに投稿等されている投稿情報を情報解析（人工知能を開発するための学習行為を含みます。以下同じ。）した結果を用いた行為であって、当該投稿情報を投稿等したユーザーの利益を害すると当社が判断する行為。ただし、当該情報解析につき投稿情報を投稿等したユーザーの許諾を得た場合はこの限りではありません。 pixivに投稿されたコンテンツを生成AI等に学習させ、それによって投稿者に不利益が生じるとピクシブ社が判断した行為の禁止。具体例としては生成AIを悪用し著しく似た作品を投稿したり、特定の作品投稿者の作風模倣によって元の投稿者に不利益が起こると判断される行為が挙げられる。 ・追加箇所② 5.情報解析した結果を用いて、反復継続して特定の第三者の作品、肖像または音声等に類似した投稿情報を投稿等する行為、またはその投稿等を幇助または助長するツールやモデル等を配布または販売する行為、その他の第三者の利益を不当に害すると当社が判断する行為 生成AI等を用い他人の作品や肖像、音声を勝手に使用してそれらに似た投稿等を行い、さらにそれを助長するツールもしくはモデルを配布・販売する行為の禁止。 ・改定箇所 改定前：12.運営者または第三者に成りすます行為 改定後：14.運営者、他のユーザー、その他の第三者になりすます行為、またはそのように誤認されるおそれがあると当社が判断する行為 生成AI等を用いたなりすまし行為防止のため追加。 ■pixivガイドラインで改定された箇所 ・追加箇所➀（禁止行為について） 徒（いたずら）に反復継続して特定の第三者の画風等を模倣した投稿情報を投稿する行為、その他の第三者の利益を不当に害することを目的としていると当社が判断する行為 作品発表の範囲を逸脱し、大量に作品を投稿することで、ページを占有する等、他のユーザーの体験に重大な影響を生じさせる行為 他人の名誉や信用を毀損する行為 嫌悪、偏見、不寛容に基づく中傷、煽動、攻撃的な行為 運営者、他のユーザー、その他の第三者になりすます行為、またはそのように誤認されるおそれがあると当社が判断する行為 本サービスやユーザー体験に重大な影響を生じさせる行為 生成AI等の利用で起こりえるなりすましに繋がる行為の禁止、生成AI特有の圧倒的生産力で起こる大量投稿によってページが占められてしまう行為の禁止。また今まで利用規約にも記載があった名誉棄損や中傷等についてガイドラインへも改めて明記された。 ・追加箇所②（投稿等の責任について） ユーザーは、本サービス上での自身の行為や自らが投稿等した投稿情報によって発生する結果に対し、利用するソフトウェアやツール、使用したプログラム等、その他利用態様・過程にかかわらず、また、故意または過失の有無を問わず、責任を持つものとします。ガイドラインや利用規約に違反する行為か否かだけでなく、社会通念上問題ない行為であるか、よく精査した上でご利用ください。 生成AI等を使用して出来た作品について、もしそれが偶然既存の作品と似たものであった場合やガイドラインの投稿禁止情報に触れる場合は、投稿者として責任を持たなければならないとする条項。 ・追加箇所③（投稿禁止情報について） 実在する、または実在し得る児童を対象とした性的表現がされているもの プログラム等の機械的な手段を用い、作者本人当人の許可なく作品を著しく模倣したもの 作者・被写体等の許可なく既存の画像等を不当に制作過程に組み込み、作者・被写体等の利益を著しく害するもの 実在を否定する事が出来ないような児童に関する性的な表現についての禁止。また、生成AI等を用い特定投稿者の作品を著しく真似る行為や他人の作品を制作過程で不当に利用する事の禁止。 ・追加箇所④（イラスト、マンガ、うごイラ、及び各種投稿画像について） 実写と同等もしくは著しく写実的で、性的意図を認められるもの 実際には写真で無かったとしても写真に見えてしまうような性的な作品を投稿する事の禁止。 ・改定箇所➀（イラスト、マンガ、うごイラ、及び各種投稿画像について） 改定前；実写を主体とした画像であるもの（※） 改定後：フィルターや画像加工の有無を問わず、実写を主体とした画像であるもの（※） フィルターや加工があったとしても実写を主体とする作品を投稿する事を禁止。ただしpixiv運営は小説の表紙として利用する場合等は投稿が認められる場合もあるとしてガイドラインの確認を薦めている。 ・追加箇所⑤（小説投稿時の禁止事項について） 機械的なテキストの羅列等、文章による表現を目的としていない、第三者から見て十分に内容が理解できないもの テキストを用いないもの。ただし書籍のページを模すなどして、画像において文章表現している場合はその限りではありません 文章表現と確認できない小説作品は削除される場合があるとの追加事項。 追加箇所⑥（AI生成作品について） 以下に該当する作品を投稿する場合は、利用するソフトウェアやツール等、その他利用態様・過程にかかわらず、投稿時に必ずAI生成作品にチェックを入れてください。 本ガイドラインに基づき、AI生成作品にチェックがない作品のうち、ご利用状況から当社がAI生成作品と客観的に判断できる場合に限り、当社の裁量により、AI生成作品にチェックを追加する場合があります。 pixiv運営は「制作の過程においてほぼ全てに生成AI等が使われている作品を投稿する際は、必ず投稿画面の「AI生成作品」の項目にチェックを入れる事」との規約を追加し、同運営がAI生成作品であると判断した場合は利用状況を確認した上でチェックを追加する場合があるとした。 pixiv運営は最後に、今回の改定は技術の進歩によって迷惑行為が簡単になってしまったり、他人へ不利益を与える行為についての悪用を制限しユーザーに安心してサービスを利用できるようにするためであると表明した。 AI技術等に関する、サービス共通利用規約、pixivガイドライン改定のお知らせ（2023年5月31日-pixiv） 2024年3月4日、ピクシブ社が運営するお絵かきコミュニケーションアプリ「pixiv sketch」はAI生成イラストに対するスタンスを発表。「イラストの作成方法には様々なものがあるが、投稿者の手による描画が全く含まれていないものは本サービスに適さないと考えている」「これに当てはまるものについては投稿を遠慮して欲しい」「『このイラストはOKか』といった個別の質問への回答は控える」「すでに投稿されたアイテムのうちサービスに適さない投稿は取り下げて欲しい」「不適切な利用を続けていると判断される場合アカウント停止などの措置を行う場合もある」と表明した。 近頃AI生成によるイラストの投稿についての、お問い合わせや通報を複数いただいております。（2024年3月4日-pixivsketch） ニコニコ静画【AI一部禁止】 ニコニコ動画などで知られる株式会社ドワンゴが運営するイラスト・漫画投稿サイト。AI作品の投稿自体は容認しているものの、作品の収益化に関しては「プログラムから自動出力された生成物をそのまま投稿した場合には不可能」という条件を付けている。詳細は「ニコニコ」の項目へ。 ニコニコ運営、AI絵師のi2iによる無断改変イラスト投稿を実質放置宣言（2023年3月25日-togetter） ニジエ/ホルネ【AI禁止】 「ニジエ」は株式会社ニジエが運営する男性向けR-18イラストに特化したイラスト投稿サイト。2022年10月6日にAI生成作品の投稿禁止を利用規約に追加。 AIで生成されたイラストの投稿について（2022年10月6日-ニジエ） 同社が運営するBL系作品に特化した作品投稿サイトである「ホルネ」においても同様にAI生成物の投稿は禁止されている。 ホルネ利用規約：第9条(イラスト投稿に関する禁止行為) (10)AIを利用して作成された画像の投稿。 ホルネ利用規約 kakuba【AI禁止】 ▼一部利用規約改訂とAI作品のご投稿に関して kakubaでは今後、当社の審査により、AI作品をご投稿されていると判断した場合、kakubaポイントの交換の対象外とさせていただきます。 ※審査基準や審査内容は開示いたしません、またAI作品と判断いたしました作品につきましては、運営側にて予告なく非表示・削除させていただきますので、何卒ご理解のほどよろしくお願い申し上げます。 https //kakuba.jp/article/20221006?lang=ja Xfolio（クロスフォリオ）【AI禁止】 凸版印刷株式会社のグループ会社、株式会社BookLiveが運営するイラスト・小説投稿サイト。AI生成物の投稿は原則禁止とし、さらには大量のデータを収集する際に利用されるWebスクレイピング（bot）によるアクセスをブロックするための技術「reCAPTCHA」を実装した。 2023年5月18日、「コンテンツ生成AIはクリエイターの利益を不当に害する」として、今後はAI生成コンテンツの掲載を禁止するとの方針を発表した。さらに「自作品がAI学習に使われたくない」という懸念に対しても、6月上旬を目途に、「ポートフォリオ毎にbot除けとして使われているreCAPTCHAシステムをONに出来る機能」を搭載するとした。Xfolio運営は、全てのbotを回避できる訳ではないと前置きした上で、スクレイピングの難易度が上がる効果であったり、クリエイター自身が「自らの作品をAI学習に使用してほしくない」という意思を明確に示すことが出来る点に大きな意義があるとした。 コンテンツ生成AIに対する対応方針について(2023年5月18日) 同年6月19日にはreCAPTCHA機能が実装された。 「ポートフォリオ毎にreCAPTCHA(bot除け)設定をONに出来る機能」を公開しました（「コンテンツ生成AIに対する対応方針について」の続報）（2023年6月19日） 2023年7月3日、同年8月7日を目処に生成AIに関する規約改定を実施すると発表した。 生成AIを使って作られたコンテンツの投稿・販売を禁止とし、投稿コンテンツをAI学習データとして利用することも禁止となる。同時に「AI生成コンテンツを検知するAIソリューションの導入」を進めていくとしている。 コンテンツ生成AIに関する規約改定について（「コンテンツ生成AIに対する対応方針について」の続報）（2023年7月3日） 同年8月7日に、Xfolio規約の改定が実施された。 BookLive運営、クリエイター向け総合プラットフォームサービス「Xfolio」、コンテンツ生成AIによるクリエイターの権利侵害防止に向け、利用規約改定（2023年8月7日-BookLive） 8月25日には、「投稿作品がBooklive社やその関連会社においてコンテンツ生成AIの学習データとして使用されないか」との問い合わせを受け、利用規約に「投稿情報をコンテンツ生成AIの学習データとして利用しない」と明記したと発表。効力発生日は2023年8月30日。（Xにおける該当ポスト） pictBLand（ピクトブランド）【AI禁止】 BL系作品が中心のイラスト・小説投稿サイト。2023年6月27日、以前実施したアンケート結果に基づきAI生成作品の投稿を禁止すると発表した。 投稿禁止にする理由として、pictBLand運営は以下の懸念点を挙げた。 AI生成作品が大量に投稿され、サービス内の秩序が乱れる危険性を想定 AIに関する著作権や法について追いついておらず、トラブル発生時において迅速な解決が困難になる可能性 AIを利用したなりすまし等のプライバシーを脅かす危険性 AI生成作品かそうでないかの判断ができる体制と技術が、運営事務局に存在していないため 同運営は、これらの判断はあくまで現時点での判断であるとして将来時流や技術の変化によって諸問題の解決が出来そうになった場合、投稿ガイドラインを見直す可能性があると付け加えた。 AI生成作品について作品投稿ガイドラインへ追加のお知らせ（2023年6月27日-pictBLand） TINAMI【AI対応】 TINAMI社が運営するイラスト、漫画、小説、モデル、コスプレが投稿できるサイト。2022年10月17日、画像生成AI製作品の投稿に対するガイドラインを発表した。 ◇作品投稿ガイドライン（補足事項）＞「画像生成AI」による作品について（TINAMIガイドライン） Artstation【AI対応】 Epicgames傘下のアート作品投稿サイト。2022年後半頃からArtstationでもAI生成作品が大量に投稿されていたものの、放置状態であったため同サイトで投稿していたアーティスト達が猛反発。同年12月に「NoAI」運動が発生し一時は新着作品欄がNoAIのシンボルマークで埋まる事態となった。 ◇Use of AI Software on ArtStation（Artstationヘルプ） DeviantART【AI対応】 2000年から運営されている海外のアートサイトで、大型データセットLAIONの無断学習元にもなっている。 DeviantArt運営は生成AIの無断学習からアーティストを守るどころか、Stable DiffusionベースのDreamUpをリリース。 2023年1月にアメリカで提起された集団訴訟先の一つである。 コミッションサイト skeb【AI禁止】 コミッションサイト（個人のクライアントからの依頼を受け個人のクリエイターがイラストなどの作品を納品する形式の販売サイト）。skebはAI作品の納品は原則として禁止、AI画像検知AIの導入も行っている。 2023年3月1日、Skebは同サービスのAIに対するスタンスを発表。同時にクレジットカード不正利用等を意図してAI生成物が納品されるという事態への対策として、米国企業開発の生成AI製画像検出AI「HIVE」を導入したとも発表した。以下はSkebのAIに対するスタンス。 AIはクリエイターを置き換えるものではなく将来的には創作活動を加速させるものになる。 Skebでは2018年のサービス開始時より「イラスト」ジャンルにおいてはクリエイターが直接描いたイラスト・漫画のみを納品物として認めており、3Dやスクリーンショット、AI生成によるデータの一部または全部を納品する事は規約とポリシーに違反している。この規定はクレジットカードの現金化（チャージバック詐欺）などサービスの不正利用を防ぐために設けられたものである。転載画像を使用し盗難クレジットカードの現金化を試みる不正行為に対しては転載画像の検出AIを利用してきたが、イラスト生成AIはユニークなデータを大量生成できることから更なる対策が必要である。 日本の著作権法30条の4では当該著作物の種類及び用途並びに当該利用の態様に照らし、著作権者の利益を不当に害することとならない場合は、情報解析のために他人の著作物を許諾なく利用することが認められている。 Skebではサービス開始時より様々なAI（※）を積極的に導入している。どのAIも許可なく他人の著作物を許可なく学習したものであると思われるが、著作権者の利益を不当に害しておらずこれらは適法であると考えている。（※NSFWコンテンツの検出⇒Microsoft Azure Cognitive Services、転載画像の検出⇒(Google Cloud Vision API、リクエスト文の翻訳⇒DeepL） イラスト生成AIのうち、「特定イラストレーターの画風を模倣したイラストを生成する無許諾のAI」と「任意のイラストを読み込ませ類似したイラストを生成するAI」については該当する著作権者の利益を不当に害する恐れがあり、問題であると考えている。 SkebのAIに対するスタンスとAI生成データを検出するAIの導入につきまして（2023年3月1日-Skeb） Skeb、AI画像検出AIを導入 取り締まり強化へ「AIはクリエイターを置換する技術ではない」（2023年3月2日-itmedia） 2023年6月30日、Skebではクレジットカードの不正利用等を防ぐため以前よりAI生成物の納品を禁止し生成AI製画像検出AI「HIVE」の導入など諸々の対策を施しているが、これらの対策をAI生成物へ加工を行う事で検出AIによるチェックを故意に逃れるための手法をブログ上に公開し、記事の閲覧者に対し積極的にSkeb上でイラスト生成AIを使用するよう促したアカウントの運営者に関して、発信者情報開示請求訴訟を提起したと発表。（申し立ては2023年5月18日に行われた） 該当記事は運営者によって自主的な削除が行われたものの、発信者情報を有するプロバイダよりその情報を提供され次第、営業権侵害等を理由として損害賠償請求等の法的対応を実施する事を検討していると明らかにした。 イラスト生成AIを用いたSkebの不正利用への対応につきまして（2023年6月30日-Skeb） 「SkebはツールとしてのAI利用を認めていない」 創業者が明言 規約には4年前から記載（2022年10月5日-itmedia） pixivリクエスト【AI禁止】 イラスト・小説投稿サイトpixivにあるリクエスト機能。2023年5月12日にAI生成作品の取り扱いを禁止すると表明。 2022年11月25日、pixiv運営はpixivリクエストにおけるAI生成作品の取り扱いについて立場を表明した。同運営は、AI技術をはじめとした様々な創作スタイルでリクエスト作品を投稿する事についてファンとクリエイター間ですれ違いが起きやすくなっているとし、すれ違いを未然に防ぐため2022年12月上旬より従来のリクエストとAI生成作品に特化したリクエストの棲み分けが可能になるサービス変更を開始すると発表。 変更として以下三つの機能を新規に追加した。 ■クリエイターがプラン上で、AI生成作品を投稿することを表明する機能の追加 クリエイター側はプラン作成時、AI生成作品を投稿するかどうかを外部に表明出来るようになり、ファン側は事前にAI生成作品が投稿されるかどうか分かるようになる機能。 ■リクエスト関連ページにおける、AI生成作品の表示オプションに連動したフィルタリング機能の追加 AI生成作品の表示オプションで「表示を減らす」を選択する場合、リクエストポータル等の作品一覧画面においてAI生成作品が非表示となる。 ■AI生成作品の取り扱いについてのリクエストガイドの変更 リクエスト機能にて「AI生成作品の投稿を表明する」機能追加の際に伴う責任の所在及び注意事項について明記。 このような措置を取った上で、AI生成作品の投稿を容認したものの、2023年5月12日には一転して禁止すると発表した。 pixiv運営は、「pixivリクエストは、クリエイターとファンが共に創作するサービスです」と表明し、クリエイターとファンが「好き」の気持ちで繋がって新たな創作の機会が生まれたり、創作活動がより楽しくなることを目指していると前置き。そのうえで創作の手段を縛るべきではないとの考えのもとAI生成作品の投稿を一度は許可したものの、「AI生成技術を用いて短時間で大量の作品を取引する事のみを目的に利用されることが増加」していたり、「複数のAI生成作品投稿者へ同じリクエストを送り最初に成立したリクエスト以外のキャンセルが繰り返される」といった、人を選ばず作品取引だけを目的とした利用が増えているとの問題を同運営は指摘した。そして、このような関係性はpixiv運営が目指していたものではないとして、AI生成作品の取り扱いを当面の間禁止すると発表した。2023年5月22日よりAI生成作品のリクエストを募集するプランについて新たな作成が不可となり、同年5月29日よりAI生成作品のリクエストを募集しているプランについて新しくリクエストを受けられなくなった。 pixivリクエスト機能における、AI生成作品の取り扱いに関する方針について（2022年11月25日-pixiv） AI生成作品に対する、pixivリクエストにおける今後の対応（2023年5月12日-pixiv） SKIMA【AI禁止】 コミッションサイト。画像生成AI等で作られた作品の納品を禁止している。 ▼画像生成AIなどを使用した商品について SKIMAでは、禁止行為・禁止リストにて、画像生成AIなどを用いて生成した商品や作品の出品、掲載、売買はお控えいただいております。（出典：SKIMA Q Aページ） 2023年7月31日、SKIMA運営はユーザーの画像生成AIに対する考え方についてのアンケートを実施し、結果を公開した。回答数は5000件以上で、クリエイターと購入者を対象とした。設問には「画像生成AIの存在を知っているか？」「クリエイターの依頼件数に影響があるか？」「画像生成AIで作られたコンテンツを購入するか？」といったものがある。 詳細⇒「【アンケート結果報告】画像生成AIツールについて【前編】」・「【アンケート結果報告】画像生成AIツールについて【後編】」 ココナラ【AI禁止】 ▼ココナラヘルプ ＞ 禁止行為・マナー ＞ 出品禁止サービス（出品者向け ＞ 知的財産権、著作権等を侵害するサービス AIによるイラスト作成を行うサービス AIを用いたイラスト作成のサービスは当社の判断でご出品をお控えいただいております。（出典：ココナラヘルプ） つなぐ【AI禁止】 ▼AIで作成したイラストを販売していいですか？ 著作権を自身が有していない場合は禁止です。ツールとしてAIを用いることは問題ありません。他人の著作物から自動生成しただけの作品ももちろん販売禁止です。（出典：つなぐ Q A） 同人作品等販売サイト DLsite【AI対応】 株式会社エイシスが運営する同人作品販売サイト。2023年5月11日にAI生成作品の一部販売禁止を表明したが、9か月後の2024年2月15日に販売再開を表明。 DLsiteでは生成AIを利用した作品について「AI生成作品」と「AI一部利用」に分けている。2023年5月11日、「AI一部利用」については販売を継続し、「AI生成作品」については作品形式が「マンガ、CGイラスト、動画、素材集」では販売禁止、「ノベル、ゲーム」では販売を継続するとの対応を取ると発表した。 AI作品の取り扱い一時停止について(2023年5月11日-エイシス) AI生成作品の販売に関して（2023年5月11日-DLsite） 2024年2月15日に突如「AI生成フロア」を新設した上でAI生成作品の販売を再開すると発表。 【重要】AI生成フロアの新設につきまして（2024年2月15日-エイシス） ■関連リンク AI生成作品の販売に関して（DLsiteヘルプ） AIを利用した作品の申請について（DLsiteヘルプ） FANZA【AI対応】 株式会社デジタルコマースが運営するアダルト作品販売サイト。現在の所、公開待ちとなっているAI作品の公開スケジュール調整やAI作品の公開本数制限等を行っている。 ＡＩ規制めっちゃ強化、DLsite「ＡＩ画像販売は月１まで」FANZA「販売希望日は無視」（2023年3月4日-togetter） ◆作品公開に関する方針 FANZA同人では、多くのサークル様よりAI生成作品のご登録をいただいておりますが、登録件数が多く全てのサークル様の作品を円滑に公開できていない状況となっております。 つきましては、今後より多くのサークル様の作品を公開できる環境を整備するため、下記の対応を予定しております。 ▶対応内容 公開待ち作品の公開スケジュール調整 公開待ちとなっているAI生成作品の公開スケジュールの調整を行います。 ※販売希望日をご設定いただいた場合でも、ご希望に添えない場合がございます。 ※公開予定日は状況によって変更される場合がございます。 AI作品登録が多いサークル様の作品公開本数制限 1サークルあたりのAI生成作品の公開本数を調整いたします。 引き続き、サークル様やユーザー様にとってFANZA同人がよりよい環境になるよう善処・検討して参ります。 今後とも引き続きFANZA同人サービスを何卒よろしくお願い致します。 とらのあな【AI一部禁止】 2023年5月12日にAIツール使用作品の登録受付を一時停止した。 電子書籍におけるAI作品の登録受付を一時停止いたします。（2023年5月12日-とらのあな） メロンブックス【AI禁止】 店舗及びウェブサイトにおいて同人作品の販売を行っている企業。実本・電子作品共にAI生成作品の取り扱いを停止した。 2023年5月15日にAIツール使用作品の新規登録の受付を電子作品において一時停止したと発表。さらにメロンブックスの取引規約「同人作品委託について」の項目に「AIを利用した作品につきましては、作品キーワード「AI生成作品」の【設定必須】とさせて頂きます。」との新しい規約が追加された。 【お知らせ】電子同人作品に関するAIツールを使用作品の登録受付を一時停止、並びに規約更新のお知らせ（2023年5月15日-メロンブックス） 同年6月27日には実本・電子作品共にAI生成作品の取り扱いを一時停止すると表明。メロンブックスはAIツールを使用した作品、または同社が使用したと判断した作品について、作品の案内状況、同社通販での表示状況、対応における同社の運営コストを鑑みて取り扱いを中止するとし、今後「新規申請の受付停止」、「現在予約・受注を含む販売中の作品の販売停止」、「在庫の返送」といった措置を順次行っていくと発表。 【重要なお知らせ】AIツールを使用したとされる同人作品の取り扱いを一時停止致します。（2023年6月26日-メロンブックス） BOOTH (ピクシブ)【AI対応】 2023年5月16日にBOOTH事務局からAI生成作品に関する今後の対応について発表があった。 生成AI使用者による過剰出品で他の創作物の販売機会が脅かされる 生成AIによる過剰出品によって検索妨害される 生成AIで過剰出品された作品の規約・ガイドライン違反が多く、運営コスト増加により健全なサービス運営が難しくなってしまった などの理由により、今後は「同一の制作技術を用いたことによる他と差別化されていない作品を出品するショップ」とBOOTH運営が判断した場合については、制作過程を問わず作品を検索結果から除外するとした。 BOOTH運営は最後に、今回の対応を取った後も改善が見られなければ、サービスの健全性を維持できないと判断して全てのAI作品を禁止せざるを得なくなると表明した。 AI生成作品に対する、BOOTHにおける今後の対応とお願い(2023年5月16日-BOOTH) 支援サイト FANBOX (ピクシブ)【AI禁止】 株式会社ピクシブが運営するクリエイター支援サイト。AI生成物の取り扱いを禁止している。 2023年5月10日にAI生成作品の取り扱いを当面の間禁止にすると発表した。 過去に投稿されたAI生成作品も含めて、警告や非公開化、クリエイターアカウント停止処置を行うとの事。 AI生成作品に対する、FANBOXにおける今後の対応（2023年5月10日-pixivFANBOX） 2023年7月11日、pixivFANBOXは「AI生成コンテンツ」を定義し、2023年7月25日をもって規約を改定を行い「AI生成コンテンツ」の投稿を禁止すると発表した。 pixivFANBOX個別規約改定と「AI生成コンテンツ」設定のお知らせ(2023年7月11日-pixivFANBOX） 同年7月25日に規約の改定が行われた。 pixivFANBOX個別規約改定のお知らせ（2023年7月25日-pixivFANBOX） FANTIA【AI禁止】 株式会社虎の穴が運営するクリエイター支援サイト。AI生成物の取り扱いを禁止している。 2023年5月10日に「昨今の状況を鑑みて、クリエイターと作品を守る対応が必要となったため、AI生成作品の取り扱いを一時停止する」と発表した。 AI作品の取り扱い一時停止について（2023年5月10日-FANTIA） 2023年5月23日に昨今のAI作品に対する状況を鑑み、AI主体作品を全面禁止とし、5月中にAIカテゴリを閉鎖すると発表された。 【重要】投稿ガイドラインの改定について（2023年5月23日-FANTIA） ci-en【AI禁止】 株式会社エイシスが運営するクリエイター支援サイト。2023年5月11日にAI生成作品の取り扱いを一時停止すると発表。 AI生成作品のための別サイト誘導も含めて、違反した場合はアカウント停止処置を行うとの事。 AI作品の取り扱い一時停止について（2023年5月11日-エイシス） Fantasfic ゲーム販売サイト等 Steam【AI一部禁止】 2023年6月、Valve社が運営するPCゲームの販売サイトである「Steam」においてAIで作られたアセットを含むゲームの販売をブロックしていた事が判明。同社は、「AI生成コンテンツが入ったゲームについて、開発者が全てのデータに対し適切な権利を有している」事を満たすよう強調した。 この事は2023年6月前半に海外掲示板Radditで報告された。報告者によると、AI製コンテンツを含むゲームをSteamでリリースしようとしたところ「ゲーム内に生成AIで作られたコンテンツが含まれており、生成AI製コンテンツの法的位置は不明瞭であるためデータセットに使用されている全てのデータに対する権利を有していることが確認できない限り、ゲームのリリースが出来ない」とのメッセージが送られて来たとの事。 Steamが「AI生成コンテンツを含むゲーム」を禁止しているとの報告（2023年6月30日-GIGAZINE） Valve社はこのような対応を取った真意を説明。要約すると 生成AIを利用したゲーム自体のSteamへの投稿を禁止させたい意図はなく、ゲーム内に使用されているアセット全ての適切な権利をゲーム開発者が有している状態を確保したい。 ゲーム開発への活用法や、Steamに提出されたゲームを審査する過程でAIを盛り込む方法を模索するなど、自分たちはAIに対して学び続けている。 Valve社はイノベーションを歓迎・奨励しており、ゲームにおいてAI技術が新しい体験を生み出すのは間違いない。 適切な商業ライセンスがあれば開発者自身が自作品へAI技術を使用する事は出来るが、既存の著作権の侵害は出来ない。 Steamにおける審査基準はあくまで現行著作権法や指針を反映したもので、Valve社自身の意見は加えられていない。法律や指針が変わっていくようにvalve社自身のプロセスも変わっていく。 Valve、AI生成コンテンツに関してSteamにおける考えを明らかに（2023年7月3日-IGNJapan） 写真・素材等販売サイト Adobe stock Adobe社が運営するストックフォトサイト。2022年12月5日、画像生成AIで作成されたコンテンツをAdobe stockへ受け入れると発表した。 Adobe、アドビストックでAI生成画像受け入れのガイドラインを策定（2022年12月5日-itmeida） Shutterstock Getty Images【AI禁止】 2022年9月21日、米国の写真素材販売サイトであるGetty Imagesは、「画像生成AIから出力される画像には著作権上の懸念がある」ためAI生成物の取り扱いを禁止すると発表した。 画像生成AI「Stable Diffusion」「Midjourney」「DALL-E」などで生成した画像のアップロードと販売をGetty Imagesが禁止、ユーザーが法的なリスクに直面する可能性があるという懸念が理由（2022年9月22日-GIGAZINE） Getty Images bans AI-generated content over fears of legal challenges（2022年9月21日-The Verge） なお、Getty imagesは2023年1月と2月にそれぞれ英国と米国で画像生成AIの開発企業であるStability AIに対し「自社の画像を勝手に使っている」として訴訟を提起している。 詳細は⇒「生成系AIに関する訴訟・法的対応一覧／米国・英国におけるGetty imagesによる訴訟」 アマナイメージズ【AI禁止】 2023年6月20日、アマナイメージズを主導とする「日本画像生成AIコンソーシアム（JIGAC）」設立表明の際、AI生成物の取り扱いを行わないと発表した。 ■アマナイメージズでのAI生成画像の取り扱いについて 併せて、アマナイメージズでのAI生成画像の取り扱いについて、以下の通り正式発表いたします。 現在、AIで生成された画像が、法的リスク・トラブルリスク・品質などの観点でアマナイメージズが設定している審査基準を満たしていないことから、当面の間は仕入れ・販売などの取り扱いを行わないことといたしました。 AI生成画像の取り扱い方針については、本コンソーシアムの議論と連携しつつ、今後も積極的に検討を進めて参ります。 ”新生”アマナイメージズ、日本画像生成AIコンソーシアム設立（2023年6月20日-PRtimes） なお、アマナイメージズは許諾の取れた画像素材を機械学習用に提供するサービスを開始している。 PIXTA 2024年4月8日、PIXTAは同サービス上の画像について生成AI用学習データとしての販売を開始すると発表。 以前PIXTAは生成AI用のデータとしての販売には慎重であったが、利用したいとの問い合わせが多く大きな収益が見込めるとして今回の判断に至ったという。利用されたクリエイターに対する収益の還元や各クリエイターによるデータ利用の拒否も可能であるとのこと。 【出典・関連記事】 ◇［PIXTA］【重要】PIXTA利用規約改定について（2023年8月21日-PIXTAガイド） ◇ストックフォト大手PIXTA、生成AI学習用素材としてコンテンツ販売へ NGの場合は要申請（2024年4月8日-ASCII） 動画サイト ニコニコ【AI一部禁止】 株式会社ドワンゴが運営する動画配信サイト。AI作品の投稿自体は容認しているものの、作品の収益化に関しては「プログラムから自動出力された生成物をそのまま投稿した場合には不可能」という条件を付けるといった対応を取った。 2022年10月14日にドワンゴはAI作品の収益化基準について明示。AIから出力したイラスト・音楽等の生成物をそのまま投稿した場合は「クリエイターとしての活動の関与が実質的にほとんどない」としてニコニコのクリエイター奨励プログラムの審査から除外する。ただし、自分で作成したプログラムから出力した作品からであったり、AI生成物を「自身の創作物の一部」に組み込んだ上で完成した作品によって収入を得る行為は問題がないとした。 AIを利用した作品のクリエイター奨励プログラム・作品収入の奨励金付与について（2022年10月19日-ニコニコ） “AIが出力しただけ”の作品は収益化NG ニコニコが基準表明 「クリエイター支援の目的にそぐわない」（2022年10月14日-itmedia） YouTube【AI対応】 アメリカ発の動画共有サービス。 2023年11月14日、YouTubeは生成AIに関する新たな2つのガイドラインを発表した。 1.現実のように見える改変・合成コンテンツをAIツールで作成した際、その事実を開示する義務。 ⇒開示を選択しないクリエイターはコンテンツ削除などの罰則対象になる可能性あり 2.生成AI等に利用された場合の削除リクエスト ⇒自分の顔や声などがディープフェイクなどに利用された場合、そのようなコンテンツの削除リクエストを出来るようにする 2024年2月6日には、生成AI製のリアルなコンテンツについて合成である事を示すラベルを数か月以内に導入する事、生成AIコンテンツにも既存のポリシーを適用する事など生成AI製フェイクへの対策を強化すると同時に、動画背景の生成や音楽関連のAI活用を進めていくと表明した。 ▼関連リンク ◇Our approach to responsible AI innovation（2023年11月14日-YouTube公式ブログ） ◇YouTube、生成AI利用コンテンツに開示義務 違反すれば削除などの罰則対象に（2023年11月15日-ITmedia） ◇Letter from the YouTube CEO 4 Big bets for 2024（2024年2月6日-YouTube公式ブログ） ◇YouTube、ディープフェイク対策など生成AIの取組強化（2024年2月7日-Impress Watch） 同人イベント等 COMITIA（コミティア）【AI一部禁止】 オリジナル創作物限定の同人イベントであるCOMITIAの運営は2023年2月9日、AI生成作品の頒布に関する問い合わせが殺到しているとして、コミティアでの新たな規定を発表した。この規定は2023年9月3日開催のCOMITIA145まで適用され、以降は8月3日に発表した新規定に切り替わった。 【COMITIA145まで】AI作品に関するサークル販売物規定について（2023年2月9日-COMITIA事務所blog） 2023年8月3日、公式ブログ内にて「生成AIの出力結果そのままを主体とした作品の頒布は不可、AI使用は作品制作の補助となる範囲でなら認める」との方針を打ち出した。 【COMITIA146より】AI作品に関するサークル販売物規定について（2023年8月3日-COMITIA事務所blog） クリエイティブツール開発会社 セルシス ペイントソフトClip Studio Paint（クリスタ）の開発会社。2022年11月29日に画像生成AI「Stable Diffusion」をクリスタへ搭載すると発表したが英語圏を中心に大炎上し搭載を中止することとなった。以下は告知後セルシス側に送られた意見。 現状の方式の画像生成AIが、著作権を侵害していなくとも、誰かの著作物を利用して画像が生成されており、その由来が不明であるアプリは使いたくない。 アーティストの為のツールを名乗っているが、画像生成AI機能はむしろアーティストを苦境に追い込み、その活動を阻害する。 倫理的に問題がない方法で収集されたデータを利用していないのであれば、使えない。 CLIP STUDIO PAINTを使っただけで、画像生成AIで作ったと疑われてしまう。 なぜ要望が多い機能の改善に取り組まずに、問題視されている機能を追加するのか理解できない。 信用できない機能が搭載されている道具は、創作のパートナーとして受け入れられない。 他者の権利が侵害される可能性のある画像が生成され得る機能を提供しておいて、そうならないよう自身で気をつけてほしい、というセルシスのスタンスは無責任だ。 これらの意見を重く受け止め認識を改めたとして、画像生成AIをクリスタには搭載しないと表明した。 CLIP STUDIO PAINTに「画像生成AIパレット」の試験的実装を予定しています（2022年11月29日、同年12月2日追記-CLIP STUDIO PAINT） Clip Studio Paintの海外向け公式アカウントがStable Diffusion搭載を告知した際のツイート。1.1万もの引用リツイートが付いている。（2022年11月29日） Adobe PhotoshopやIllustratorなどが有名な大手クリエイティブ系ソフトウェアの開発会社。2023年3月21日、Adobeは自社のストックフォトサービス「Adobe stock」内の画像、パブリックドメイン、一般公開されているライセンスコンテンツを学習元とする画像生成AI「Adobe Firefly」を発表した。 アドビ、新たなジェネレーティブAI「Adobe Firefly」を発表（2023年3月21日） 詳細は「主要なAI画像生成サービス」へ 関連年表 2022年 9月21日：大手写真素材販売サイトであるGetty ImagesがAI生成作品の取り扱いを禁止すると発表。 10月6日：男性向けR-18イラスト投稿サイトのニジエがAI生成作品の投稿を禁止した。 10月14日：ニコニコ動画・静画などを運営するドワンゴはニコニコにおけるAI生成作品の投稿・マネタイズに関する方針を発表した。 10月17日：イラスト等を投稿できるサイトTINAMIにおいて画像生成AI製作品に対するガイドラインが発表された。 10月20日：イラスト投稿サイトpixivはAI生成作品の非表示機能を追加すると発表した。 10月31日：pixivがAI生成作品非表示機能を実装。 11月25日：pixivリクエストは同サービスにおけるAI生成作品の取り扱いについて発表。 11月29日：セルシス社はペイントツールClip Studio Paintに画像生成AIであるStable Diffusionを搭載すると発表したが、（主に海外からの）抗議を受け搭載を中止した。 12月頃：海外のイラスト投稿サイトArtstationでAI作品の扱いに対する運営の対応に不満を持ったクリエイターたちが「NoAI」のシンボルを同サイトに投稿する「NoAI運動」が発生。 12月5日：Adobe社のストックフォトサイトAdobe Stockは生成AIで作成されたコンテンツを受け入れると発表した。 2023年 3月頃：同人作品やアダルト作品の販売サイトであるDLsite、FANZAがAI生成作品の販売制限を相次いで開始。 3月1日：クレジットカード不正利用防止の観点からAI製作品の納品を禁じていたコミッションサイトのSkebが生成AI製作品の識別AIである「HIVE」を導入したと発表。同時に同社の生成AIに対する考え方も発表した。 5月2日：pixivが画像生成AIの悪用行為に対し規約・ガイドラインの改定を進めていると告知。 5月6日～：ある画像生成AIユーザーがpixivをスクレイピングし作品を取得しているとツイート。これがきっかけでpixivに作品を置いていては勝手に画像生成AIに使われるという懸念が広がり、投稿した作品をクリエイターたちが相次いで非公開にする事態に。 5月9日：pixivが画像生成AIの悪用対策に関連する告知を再び発表、具体的な対応内容を公表した。 5月10日：支援サイトであるpixiv FANBOXがAI生成作品の取り扱いを禁止すると発表した。 5月10日：株式会社虎の穴が運営する支援サイトFANTIAでもAI生成作品の取り扱いを一部禁止すると発表した。 5月11日：同人作品販売サイトであるDLsiteがAI生成作品の一部販売禁止を発表した。 5月11日：支援サイトであるci-enがAI生成作品の取り扱いを一時停止した。 5月12日：同人作品の販売を行っているとらのあなが電子書籍におけるAI生成作品の登録受付を一時停止した。 5月12日：pixivリクエストがAI生成作品の取り扱いを禁止した。 5月15日：同人作品の販売を行っているメロンブックスが電子書籍におけるAI生成作品の登録受付を一時停止した。 5月16日：ピクシブが運営する販売サイトBOOTHにて、主にAI生成作品を対象とした作品取り扱いについての方針が示された。 5月18日：イラスト投稿サイトXfolio（クロスフォリオ）がAI生成作品の投稿を禁止する方針を発表。同時にbotのアクセスをブロックする技術（reCAPTCHA）も導入すると発表した。 5月25日：pixivがAi生成作品の非表示機能に改良を加えたと告知。 5月31日：pixivが生成AIに関する大規模な規約改定を発表。 6月19日：XfolioにreCAPTCHA機能が実装された。 6月20日：写真素材販売サイトであるアマナイメージズは、AI生成作品の取り扱いを行わないと発表。 6月26日：メロンブックスは実本・電子書籍共にAI生成作品の取り扱いを停止した。 6月27日：BL系作品が中心の投稿サイトpictBLand（ピクトブランド）にて、AI生成作品の取り扱いを禁止すると発表。 6月28日：英放送局BBCによって、画像生成AIで作成された児童に見える写真風な性的コンテンツがpixivやpatreon等のサイトでシェアされていると報道された。同局の取材に対しpixivとpatreonは共に問題コンテンツに対し積極的に対策を行っていると表明した。（日本語記事）（英語記事） 6月30日：Skebは同社が導入しているAI生成作品検知AIを突破する手段を広めていた者がいるとして当該人物に対し発信者情報開示請求を行ったと発表（申し立ては5月18日に行われた）。 6月末：ゲーム販売サイトであるSteamにて生成AI製のアセットが含まれたゲームの販売をブロックしていたことが報じられた。 7月3日：Xfolioが8月7日を目途に生成AIに関する規約改定を行うと発表。AI生成作品の取り扱い禁止、AIコンテンツを検知するソリューションの導入を進めるとした。 7月11日：pixiv FANBOXは「AI生成コンテンツ」を定義し7月25日をもって規約を改定すると発表。 7月25日：pixivFANBOXによる規約の改定が行われた。 7月31日：コミッションサイトSKIMAにて画像生成AIに対し同サービスのユーザーがどう考えているのかについてのアンケートを実施し、結果を発表した。 8月3日：同人イベントのCOMITIAは、AIからそのまま出力した作品の頒布は不可としAI使用は補助の範疇で留めることとする規定に変更した。 8月7日：Xfolioの生成AIに関する規約改定が行われた。 11月14日：動画サイトのYouTubeが生成AI製コンテンツである事の開示義務や個人の顔や声が使われたAIコンテンツに対する削除リクエストを行えるようガイドラインを改定した。 2024年 2月6日：Youtubeはリアルな生成AI製コンテンツに対し合成である事を表示するラベルなどAIフェイク対策を導入する事を発表。 2月15日：DLsiteがAI生成フロアを新規に開設した上で、AI生成作品の販売を再開すると発表。
https://w.atwiki.jp/genai_problem/pages/51.html
本ページでは生成系AIに関する記事や資料などをまとめています。ページが長くなった部分は折りたたんでいます。 + 編集者の方へ このページに記事・資料などのリンクを貼る際は➀記事・資料のタイトル、②リンク（書籍ならばそれが購入できるサイトなど）、③その資料がどのようなものなのか簡単な概要を書くようにしてください。③は全く書かなくてもあるいは多少長文になっても構いません。 記述の例： JASRAC：生成AIと著作権の問題に関する基本的な考え方（2023年7月24日）（➀、②） ⇒日本国内における音楽関連の団体として有名な日本音楽著作権協会（JASRAC）が2023年7月に発表した生成AIに関する声明。生成AI特有の大量生産による弊害、生成AIの無許諾利用を良しとする著作権30条の4に対する問題の指摘、規制において国際社会と協調する事の重要性、規制議論の場にクリエイターを参加させる事などを求めている。（③） このページを初めて見た人が分かりやすいようにかいつまんで解説する事が大切です。 技術や法律などとカテゴリー分けしていますが、より適した分かりやすい分け方があった場合、変えて頂いても構いません。 項目が長くなりそうならアットウィキの折り畳みプラグイン「# region」「# endregion」等を利用してみましょう。（アットウィキご利用ガイドの解説） 下の画像はSNS等にこのwikiのURLを貼り付けた際表示されるサムネイルとなることを想定して作った画像です。仮の画像ですので自由に差し替えて頂いて構いません。 【目次】 【 生成AIに関する被害・問題の事例 】偽情報関連 フェイクポルノ関連 詐欺など犯罪関連 クリエイティブ関連 その他の問題 【 生成AIに対する団体・企業の対応・反応 】日本国内のクリエイティブ関連団体の反応 海外のクリエイティブ関連団体の反応 クリエイティブ等に関連する企業の反応 メディアや関連団体の反応 【 生成AIそのものやその技術に関連するもの 】生成AI全般ChatGPT・openAI関連 Google関連 Meta関連 画像生成AI関連Stable Diffusion・Stability AI関連 Novel AI関連 mimic関連 Adobe Firefly・Adobe社関連 AIピカソ関連 Nvidia picasso関連 Spawning AI関連 音楽生成AI関連 音声生成AI関連 生成AIへの学習防止・生成AI製コンテンツの判別関連Glaze（グレーズ・グラーズ）関連 Mist（ミスト）関連 その他のAI学習阻止・AI製コンテンツ識別に関する記事・資料 【 生成AI関連の政治的動きに関する記事・資料 】日本政府 政府・AI戦略会議 文化庁 議員・政党 中国 アメリカ 欧州連合（EU） イギリス フランス G7 国際連合 その他政治的動きに関する記事・資料 【 生成AIに関する法律・裁判関連記事など 】生成AIの開発・利用過程におけるもの 生成AIコンテンツの著作権に関するもの 訴訟関連Github Copilot訴訟関連 米国人アーティスト集団訴訟関連 Getty images対Stability AI訴訟関連 ドイツ人写真家vsLAION訴訟関連 米国人作家2名vsOpenAI訴訟関連 米国人作家3名vsOpenAI・Meta訴訟関連 米国人作家5名vsOpenAI訴訟関連 全米作家協会vsOpenAI訴訟関連 その他訴訟関連記事・資料 その他の法律・訴訟関連記事・資料 【 生成AIコンテンツに対する各プラットフォームの対応 】イラスト投稿・販売・コミッションサイトなど 写真・素材販売サイトなど 音楽関連 ゲーム販売サイト 即売会関連 【 生成AIに関連する調査・アンケート 】 【 生成AI関連の社説・コラム 】 【 生成AIに対する組織の見解 】大学 経済団体 【 生成AIに関する著名人の意見など 】 【 その他生成AIに関する記事など（時系列） 】2022年 2023年 【 生成AIに関する被害・問題の事例 】 生成AI関連の被害・問題事例をまとめています。当wiki「画像生成AIは何が問題なのか？」「生成系AIが抱える問題まとめ【社会やクリエイティブへの悪影響】」「画像生成AI 炎上・論争・被害事例まとめ」もご覧ください。 偽情報関連 生成AIを悪用した偽情報被害に関する記事のまとめ。 + 偽情報関連記事 静岡県の水害巡りフェイク画像が拡散 画像生成AIを利用 投稿者はデマと認めるも「ざまあw」と開き直り（2022年9月26日） 米国防総省爆発のフェイク画像、一時拡散(2023年5月23日) “米国防総省近くで爆発”偽画像拡散 株価一時下落する騒動に（2023年5月23日） AIが生成したペンタゴン爆破の偽画像で米株式市場が大荒れするまで（2023年5月26日） セクハラ抗議で警察に連行された女子レスリング選手の「笑顔」が加工によるものと判明、うわべだけの抗議活動との印象操作（2023年5月30日） 生成AIは「個人の意思ゆがめる恐れ」AIと民主主義は共存できるか（2023年6月11日） 生成AIが作ったデマ、人間よりも信頼される可能性（2023年6月29日） 生成ＡＩで文字数“水増し” 誤った情報も アプリ会社が対応〈山と人と信州と〉（2023年7月6日） NHK：AIが生み出す偽情報 ウィズフェイク時代をどう生きるか（2023年8月24日） NHK：真偽判断は極めて困難･･･ “AIフェイク”氾濫の時代を生きる術とは（2023年8月25日） 読売新聞：フェイク動画「復元」、政治家や芸能人の被害防ぐ…国立情報学研が開発（2023年8月30日） 大統領選にAIが及ぼす影響。トランプ前大統領のインタビューはフェイクか？（2023年9月5日） Google、AIで生成した政治広告に明確な開示を義務付け 11月にポリシー更新（2023年9月7日） フォロワー10万人超えチアリーダーの喫煙ビデオが流出したが…「映ってるのは私じゃない」逮捕されたのは同チームの“ライバルのママ”だった〈ディープフェイク・ママ〉（2023年9月10日） 中国、AI画像で米世論操作試み マイクロソフトが報告（2023年9月11日） メッシがついに英語を喋った!?実はAIの生成映像だった!「リアルすぎて怖い」「何も信じられない」（2023年9月13日） 産経新聞：ハワイ山火事「気象兵器」の偽情報拡散、中国が関与か 生成ＡＩによる画像を使用（2023年9月12日） 読売新聞：「リアル」と違わぬＡＩ製「フェイク」…「やらせ口コミ」・子どもの性的画像も作成（2023年9月21日） 読売新聞：「チャットＧＰＴ」でパブリックコメント投稿…米では８割以上が虚偽のケースも（2023年9月21日） 生成AIでディープフェイクが劇的に簡単化、対抗策に画像のワクチン（2023年9月25日） Microsoft Bingの画像生成AI機能では禁止ワードの「9.11」とカービィやスポンジ・ボブなどの人気キャラクターを組み合わせた画像が簡単に作成できてしまい人間の制御できる範疇を超えてしまっているとの指摘（2023年10月5日） 人種差別的な画像をネット中に広めるため4chanユーザーがBingの画像生成AIを悪用している実態が暴かれる（2023年10月6日） AI生成画像検出システムがイスラエルとパレスチナの戦争の写真を「ニセモノ」と誤判定、専門家はAIで生成したものではないと指摘（2023年10月16日） フェイクポルノ関連 生成AIを悪用したフェイクポルノ被害に関する記事のまとめ。 + フェイクポルノ関連記事 Togetter：実在の児童の写真を学習させて児童ポルノ作ってるカスがいる。放置したらＡＩイラストの社会的な立場終わるぞ？（2023年2月9日） AIの画像生成能力を悪用した恐喝行為、"セクストーション"が増加傾向に。FBIが警告（2023年6月7日） AIが生み出す「あなた主演のポルノ」 人類に突きつけられる、残酷な矛盾（2023年6月9日） 女性声優の“存在しない”水着画像をAIで作成、販売……法的に問題ないの？ 弁護士に聞いた（2023年6月12日） AI悪用で巧妙化する性的恐喝 存在しないわいせつ画像をでっち上げ 米国では自殺者も（2023年6月15日） AI-generated child sex images spawn new nightmare for the web（2023年6月19日） 生成AIの児童性虐待画像を売買 日本のソーシャルメディアなどで（2023年6月28日） 英国版FBIが警鐘、生成AIによって摘発が困難になる児童ポルノの深い闇（2023年7月22日） AI作成の女児わいせつ画像は「児童ポルノ」か 規制の要否が新たな課題に（2023年8月8日） わが子の写真が児童ポルノに？「AI時代」のSNS投稿のリスクとは（2023年8月17日） AIで作った女児わいせつ画像は「児童ポルノ」か 警察庁、法務省の見解は 学識者「新たに立法化を」（2023年8月19日） 画像生成AIで生成された性的な画像を使った広告がInstagramやTikTokで急増しているとの指摘（2023年9月11日） 読売新聞：「リアル」と違わぬＡＩ製「フェイク」…「やらせ口コミ」・子どもの性的画像も作成（2023年9月21日） ＡＩで偽ヌード写真、少女に対する恐喝未遂も 警察が捜査 スペイン（2023年9月21日） 読売新聞：ＡＩ「ディープフェイク」で女子選手の顔と別人の裸を合成、卑わいな投稿をした疑い 名誉毀損容疑で書類送検（2023年11月6日） 詐欺など犯罪関連 生成AIを悪用した詐欺被害に関する記事まとめ。 「オレオレ詐欺」にAI製クローン音声を用いる事例が急増、被害額は年間15億円近くに（2023年3月6日） チャットＧＰＴが犯罪指南、爆発物作り方も詐欺メール文章も瞬時に（2023年4月25日） 「フェイク画像」で消防隊員が助成金を虚偽申請 進歩する画像生成AI 悪用に対策はあるのか（2023年5月17日） マカフィー：AI（人工知能）を悪用した音声詐欺が世界で増加中（2023年5月17日） 有名人の「顔」70万円で販売。ディープフェイク技術で金儲け、中国で事例報告（2023年6月6日） ChatGPTの“脱獄プロンプト”登場 文末に書くだけで「爆弾の作り方」「IDの盗み方」に回答（2023年8月10日） AI音声を詐欺に悪用 3秒の素材で親族らになりすまし（2023年9月11日） クリエイティブ関連 生成AIによってクリエイティブ業界・クリエイターに発生した被害に関する記事のまとめ。 + クリエイティブ産業と生成AIに関連する記事 AIが書いた小説の投稿激増、ヒューゴー賞受賞SF誌が受付を一時停止（2022年2月21日） 「AIが書いた盗作」の投稿が爆増しSF雑誌が新作募集を打ち切り（2023年2月22日） ｢自分の声で脅迫がくる…｣AI生成音声に悩む声優たち（2023年2月22日） 「90年代の同人便箋」でAI出力したらどう見ても有名キャラクターが出力されて恐ろしい（2023年4月6日） AIを使って制作された「DrakeとThe Weekndのコラボ曲」がTikTokでバイラルになり再生数900万回超を記録、SpotifyやApple Musicでも人気に（2023年4月18日） AIで作った「AI音楽」が流行、Discord上には2万人超が集まる人気サーバーも（2023年4月27日） 読売新聞：作家そっくりの作風、チャットＧＰＴが「作品」…著作権の保護曖昧（2023年4月26日） 画像生成AIの「悪用」に絵師たちが反発、pixiv上でイラスト非公開に…福井健策弁護士に聞く（2023年5月11日） ドレイク怒る！AI生成｢フェイク曲｣ヒットの衝撃（2023年5月14日） AI生成のフランク・オーシャンの楽曲、1曲最大4000ドルで販売される（2023年5月14日） マーベル「シークレット・インベージョン」オープニングにAI映像を起用したことが批判の対象に（2023年6月22日） Togetter：【偽グッズ】AI絵師、ファンサイトからメルカリやヤフオクで売る方面に切り替えるも売ってる絵がやばすぎる（2023年7月11日） 『スカイリム』にて、“AIによる生成音声”を含むポルノModの存在が問題視される。声優コミュニティから批判続出（2023年7月12日） 「AI導入され私は能無しに」…勉強する意味を失った芸術大学生の苦悩 崖で見つけた2人の女性の告白【東尋坊の現場から】（2023年7月18日） 「ダンジョンズ＆ドラゴンズ(D＆D)」開発元が「アーティストはAIを用いたD＆Dアートの作成を控えなければいけない」と呼びかけ（2023年8月8日） AIが書いた本が勝手に自分の名義で売られていたら…著者保護ルールが必要（2023年8月9日） 朝日新聞：「AI使うから報酬安く」フリーライターに突然の要求、違法の恐れも（2023年8月10日） 消された少女の“反AI”マーク 「無断改変したのは俺です」（2023年8月17日） OpenAI、著作権保護作品をChatGPTの訓練に使っていることを隠蔽か。バイトダンスのAI研究チームが指摘（2023年8月17日） オンラインストアを侵食するAI生成本--実在の著者をかたるケースも（2023年8月17日） 人気ゲームスタジオ、ある声優により「スタジオに声をAI利用される」との懸念を示され波紋を広げる。スタジオは断固否定しつつも契約書を改訂（2023年8月19日） フリーライター、買いたたき懸念 「生成ＡＩでもできる。報酬安くして」（2023年8月21日） DQ10配信者、AI技術でユーライザを実写化→スクエニに著作権侵害の通告を受けてしまった模様（2023年8月22日） 08月22日に公開された記事につきまして（2023年8月23日） ある「文章分析サイト」とそのAI利用に対し、英語圏の作家たちが大反発したことの意味（2023年8月27日） 著名作家ら、生成AIの学習に著作権保護作品が使われていると訴え——データセットは今後、厳しい評価に直面するかも（2023年8月28日） アマゾン、大作ドラマ宣伝にAI画像使い物議 ゲーム原作の『Fallout』（2023年8月29日） 『ポケモンGO』のアートワークにAI疑惑―海外メディアからの質問にも開発は曖昧な回答（2023年9月1日） 「AIが執筆した問題まみれのスポーツ記事」がSNSで批判されたため大手新聞社がAIによる記事執筆を一時停止（2023年9月5日） 生成AIはデジタル広告の破壊者か、全業界が直面する試練と打開策を徹底解説（2023年9月22日） 読売新聞：コナン君に「#歌わせてみた」流行曲、実はＡＩ偽音声…困惑する声優たち「対処しようがない」（2023年9月26日） AIが書いて他人名義で販売される「ゴミ本」に沈黙していたAmazonが作家組合の訴えに応じて重い腰を上げる（2023年9月29日） 朝日新聞：生成AIを使って書いた記事、盗用で謝罪 専門家「技術以前の問題」（2023年9月30日） 「生成AIと音楽の著作権問題」をJASRACに聞く クリエイターの創作環境を守るために必要なこと（2023年10月5日） 日経などから 生成ＡＩが「盗用記事」…取材・出典表記せず公開 ウェブメディア謝罪（2023年10月7日） 『VALORANT』公式大会にてチート使用選手所属チームが失格。疑惑の選手に“プロフ写真AI生成”の可能性浮上（2023年10月10日） 生成AIは声優の仕事も奪う？ “自分の声”の権利を守ろうとする動き（2023年10月13日） その他の問題 偽情報・フェイクポルノ・詐欺・クリエイティブ産業以外に起きた、生成AI関連の問題に対する記事のまとめ。 + その他生成AIに関連する問題の記事 朝日新聞：ChatGPT、何が問題か 元グーグル社員「非常に無責任で無謀」（2023年4月6日） AIが生成した文章を検出するツールの誤検知で「AIを使って課題のエッセイを作成した」と疑われて0点になったという事例（2023年4月14日） 裁判に提出された証拠映像に対して「これはディープフェイクだ」と反論する人々が登場することを専門家が懸念（2023年5月9日） 画像生成AIに「普通のおじさん」を作らせました→そっくりすぎる「本人」が登場し「自分でも自分に見える」と驚愕する珍事が発生（2023年5月15日） 生成ＡＩは「おいしい毒リンゴ」、健全な情報空間の侵害リスクに警鐘…専門家が提言（2023年5月30日） TikTokで殺人事件の被害者が自分の最期を語る映像が増加中（2023年6月2日） 【現状報告】AI生成グラビア写真集が猛烈な勢いで大量に Kindle ストアで配信されている件（2023年6月10日） Amazonのグラビア写真集が「AI生成だらけ」な件 Spotifyでも“AI汚染”が（2023年6月12日） 生成AIで広告収入目的のゴミサイトが急増、1日1200本更新も（2023年6月28日） ［スキャナー］情報信頼性を一目で、今夏にも実証実験…ＯＰ組合２７法人（2023年7月1日） 生成AIで増殖する「コンテンツファーム2.0」の新たな波（2023年7月5日） サイバー犯罪に特化したセーフティ機能がない生成AI「WormGPT」登場、注意を（2023年7月17日） 検索エンジン「Brave Search」がウェブ上の著作権コンテンツを収集してAI学習用に有料販売しているという指摘（2023年7月18日） 「マルウェア入り画像」で生成AIにサイバー攻撃 入力すると回答結果をハック、悪意サイトへの誘導も（2023年7月28日） AIがネットにもたらす危機（2023年7月28日） 生成AIのデータがネットを汚染 基盤モデル崩壊の恐れ（2023年8月3日） 「AIの友達」は有害なナルシシズムを生む恐れ 専門家が指摘（2023年8月5日） AIによるレシピ考案アプリが塩素ガスを発生させる食事など不適切なメニューを生成することが報告される（2023年8月14日） 生成AIが企業にとっての「新たなリスク」に浮上 ～米Gartnerが調査。企業は、知的財産、データのプライバシー、サイバーセキュリティへの対処が必要（2023年8月17日） Zoom で起きた「AIプライバシー」騒動。ここから得られる教訓（2023年8月29日） 生成AIを使う前に知りたい、著作権問題と情報漏洩リスクが分かる厳選記事（2023年8月30日） マッキンゼーの対話AIは「リリー」、チャットボット擬人化がもたらす落とし穴（2023年8月31日） 「AIが間違えるハズがない」は危険。平気で嘘をつく生成型人工知能の限界（2023年8月31日） 米OpenAI、AI使用の答案「検知困難」 教員向け資料で（2023年9月2日） 推進派の著名人も｢AI汚染｣を懸念…ウェブコンテンツは混乱状態に陥っている（2023年9月15日） ChatGPTはインターネット上であまり用いられない「非主要言語」を扱うと翻訳ミス・単語をねつ造・非論理的な回答などかなり応答レベルを落とすという報告（2023年9月17日） アングル：米で活用広がるＡＩ翻訳、難民の審査現場は大混乱（2023年9月25日） Microsoftが干ばつ時でも水を吸い上げてAIの訓練に使っていたとの批判、一方でMicrosoftは小型原子炉をデータセンターの電力源として検討を開始（2023年10月3日） Microsoftはコード補完AIツール「GitHub Copilot」でユーザー1人あたり月額3000円近くの損失を出しているという報告（2023年10月10日） 【 生成AIに対する団体・企業の対応・反応 】 生成AIに関して団体が起こした声明や行動などについてまとめています。当wiki「生成系AIに対するクリエイティブ団体・企業の反応・対応」も参照。 日本国内のクリエイティブ関連団体の反応 日本国内のクリエイティブ産業に関連する団体が起こした声明や行動に関する記事まとめ。 + 日本国内のクリエイティブ関連団体による声明・行動に関連する記事など 日本音楽著作権協会（JASRAC）関連 生成AIと著作権の問題に関する基本的な考え方（2023年7月24日） ⇒日本国内における音楽関連の団体として有名な日本音楽著作権協会（JASRAC）が2023年7月に発表した生成AIに関する声明。生成AI特有の大量生産による弊害、生成AIの無許諾利用を良しとする著作権30条の4に対する問題の指摘、規制において国際社会と協調する事の重要性、規制議論の場にクリエイターを参加させる事などを求めている。 「生成AIと音楽の著作権問題」をJASRACに聞く クリエイターの創作環境を守るために必要なこと（2023年10月5日） 日本美術著作権連合：生成 AI に関する声明（2023年8月17日） ⇒JAGDAなど美術・デザイン7団体によって構成される美術著作権に関する団体、日本美術著作権連合によって発表された生成AI関連声明。生成AIは優れたツールとなり得るとしながらも適切な規制が無ければむしろ文化の発展を阻害すると指摘。オプトアウトの整備、データセットの透明性確保などを求めた。 クリエイターとAIの未来を考える会関連 ⇒イラストレーターや漫画家などで構成される団体「クリエイターとAIの未来を考える会」は2度にわたって生成AI関連の提言を発表している。 画像生成AIの適正使用及びそれに伴う著作権制度の整備に関する提言（第1版）（2023年2月7日） 画像生成AIの適正使用及びそれに伴う著作権制度の整備等に関する提言（第2版）（2023年4月15日） 4月27日には画像生成AIの規制を求め記者会見を開いた。 NHK：画像生成AI “クリエーターの権利脅かされる” 法整備など提言（2023年4月27日） 産経新聞：画像ＡＩは「著作権侵害」 イラスト画家ら法規制訴え（2023年4月27日） 日本芸能従事者協会関連 協会HP 「ＡIの急速な出現に関する日本芸能従事者協会との連帯声明」と「AIリテラシーに関する全クリエイターのアンケート」実施のお知らせ（2023年5月9日） 協会HP：全クリエイター実態調査アンケート10 AIリテラシー(集計結果)（2023年6月8日） TBS：「AIを正しく使うルール作りを」“演出家”もAIによる影響危惧（2023年5月8日） NHK：芸能業界団体が国に要望書 “AIコンテンツの元データ開示を”（2023年5月9日） クリエイターがAIに置き換えられる？日本芸能従事者協会が法整備求める（2023年5月12日） 毎日新聞：AIの模倣被害、訴え次々 「画風を盗用」「声優の声を再現」（2023年5月15日） 時事通信：俳優ら実演家、強まる懸念 「数時間で全てスキャン」―専門家は法整備指摘・生成ＡＩ（2023年5月27日） 日本俳優連合関連 「AI対策プロジェクト」発足のお知らせ（2023年5月10日） 生成系AI技術の活用に関する提言（2023年6月3日） 【実演家向け】生成ＡＩに関する緊急アンケート結果（2023年9月19日） 日本音楽作家団体協議会関連 2023年6月15日、FCAはAIに関する意見表明を行いました（2023年6月15日※PDF） 日本写真家協会関連 協会HP：生成AI 画像についてその考え方の提言（2023年8月23日） 日本写真家協会、「生成AI」技術についての見解を発表（2023年8月23日） 日本アニメフィルム文化連盟関連 協会HP：アニメ業界を対象とした生成 AI に関する意識調査の結果（2023年9月12日） 日本SF作家クラブ関連 協会HP：現状の生成AI技術に関する、利用者、運用者、行政・立法、開発・研究者へのSF作家クラブの提言（2023年10月14日） 海外のクリエイティブ関連団体の反応 海外のクリエイティブ産業に関連する団体が起こした声明や行動に関する記事まとめ。 + 海外のクリエイティブ関連団体による声明・行動に関連する記事など 著作権協会国際連合（CISAC）関連 CISAC（著作権協会国際連合）など国際的な文化・クリエイティブコミュニティの13団体がAIの拡散に対するオープンレターを発表しました（2023年7月28日） CISAC（著作権協会国際連合）ら11団体、AIの拡散に対するオープンレターを発表（2023年7月28日） 全米脚本家組合（WGA）関連 読売新聞：ＡＩの映画制作に抗議でストライキ、「スター・ウォーズ」「アバター」など公開延期の見通し（2023年6月14日） ロイター：ハリウッド脚本家、会社側の新提案を拒否 スト継続へ（2023年8月23日） 日本経済新聞：「AI脚本は著作物とみなさず」 米スト、製作側が新提案（2023年8月24日） AIがハリウッドを破壊する？ 脚本家が語る、あまりに「劣悪」な制作の実態（2023年8月28日） ハリウッド製作会社と脚本家組合、スト収拾で合意近い－ＡＩ問題残る（2023年9月24日） 読売新聞：「ＡＩに脚本書かせるか」争点のハリウッド脚本家ストライキ、ようやく暫定合意（2023年9月25日） AI利用を巡る米国の脚本家と制作側の合意は、ハリウッドを越えて波及する歴史的なものになる（2023年9月29日） 全米作家協会（AG）関連 全米作家協会、生成AI大手に「トレーニングに著作を無断で使うな」公開書簡（2023年7月19日） 8500人超の作家が「AIのトレーニングに人間の作品を無断使用するな」とOpenAIやMetaなどのAI開発企業に求める公開書簡に署名（2023年7月19日） 全米映画俳優連合（SAG-ATFRA）関連 全米俳優組合のストライキの背景と余波を解説 配信サービスとAIが大きく関わる理由とは（2023年7月18日） 米俳優組合が大手ビデオゲーム会社に対するストライキの承認を求める 映画・テレビ業界での動きに続いて（2023年9月2日） 米俳優組合、ゲーム業界に対してもストライキの動き。AIによる演技の使い回しに規制求める（2023年9月6日） 【独占】SAG-AFTRA事務局長にストライキ終結に向けた解決策やAI導入問題について聞いた（2023年9月25日） 米俳優組合、ゲーム会社にストの可能性 声優のAI化懸念（2023年9月26日） 米俳優組合がゲーム会社にスト予告（2023年9月27日） 米俳優ストライキ、交渉決裂 ─ 「隔たりが大きすぎる」（2023年10月12日） イギリス音楽制作者評議会関連 イギリスの音楽制作者評議会、AI技術を開発する際に企業に求める5つの主要方針を発表（2023年9月22日） クリエイティブ等に関連する企業の反応 クリエイティブ産業に関連する企業が起こした声明や行動に関する記事まとめ。 + クリエイティブ関連企業による声明・行動に関する記事など 「AIのトレーニングに楽曲が使用されるのを阻止してほしい」とユニバーサルミュージックグループがSpotifyやApple Musicに要求（2023年4月13日） わたしたちのコンテンツを使うなら使用料を払うべき —— 生成AIの開発を競う大手企業にRedditが要求（2023年4月24日） 音楽業界の最大手が危惧｢音楽データをAIに学習させないで｣（2023年4月20日） ロイター：ユニバーサル・ミュージック、ＡＩ巡り懸念 第1四半期は減益（2023年4月27日） Blizzard社長が歪曲した報道に物申す―AI利用に関する特許、実際はPhotoshopのフィルターに近いもの（2023年5月8日） Recording Academy CEO Harvey Mason Jr. On How The New Awards Rules And Guidelines Will Make The 2024 GRAMMYs More Fair, Transparent Accurate（2023年6月17日） 「AIの作った曲、賞与えない」 グラミー賞、新たなルール発表（2023年6月17日） AI music will be eligible for a Grammy, but only if a human helps（2023年6月16日） 米メディア、生成ＡＩに苦慮 活用模索も、「ただ乗り」対策急務（2023年8月7日） グーグルとユニバーサル・ミュージックがＡＩ楽曲のライセンスで協議＝米国株個別（2023年8月9日） レコーディング・アカデミー、AI生成曲には【グラミー賞】受賞資格なしと前言撤回（2023年9月11日） Amazon、「生成AI使ったら申告」をKindle出版ガイドラインで義務付け（2023年9月10日） 人の声をAI音声化し、公正な利用を促すプラットフォームCoeFont、声優の"声の権利"を守る「ボイス・ライト・プロテクション」を始動（2023年9月29日） メディアや関連団体の反応 日本新聞協会関連 協会HP：無断・無秩序な利用懸念 生成AIに政府の対応要請 新聞協会が見解（2023年5月17日） 朝日新聞：生成AI開発で新聞協会ら4団体が声明発表「著作権保護策の検討を」（2023年8月17日） 協会HP：生成AIに関する共同声明（2023年8月17日） 読売新聞：生成ＡＩで新聞協会など声明「著作権保護策の検討を」…法改正の必要性見極め求める（2023年8月17日） 「生成AIは著作権保護の検討が不十分」新聞協会など声明 「著作権法30条の4は大きな課題」（2023年8月18日） その他 メディア団体、ＡＩによるコンテンツ利用巡り規制の見直し要望（2023年8月10日） ＮＹタイムズ、記事・写真のＡＩ学習利用を禁止…規約変更し無断使用への対応明確化（2023年8月15日） ニューヨーク・タイムズがAI学習のための記事利用を原則禁止に、OpenAIに対しては法的措置を検討（2023年8月17日） ＡＰ通信「ＡＩは記者の代わりにならない」…生成ＡＩ出力の文章、記事に使用しない方針（2023年8月18日） AP通信、｢出版コンテンツへのAI利用は禁止します｣（2023年8月22日） OpenAIのクローラーをNew York Timesなどのペイウォールメディアがブロック開始（2023年8月26日） 主要報道機関や人気サイトがOpenAIのクローラーをブロック、AIによる利用を防ぐ措置（2023年8月29日） The Guardian blocks ChatGPT owner OpenAI from trawling its content（2023年9月1日） 生成ＡＩ開発や著作権に「世界原則」…知的財産保護や透明性確保要求、日本新聞協会も賛同（2023年9月6日） 【 生成AIそのものやその技術に関連するもの 】 生成AIのそのものやその技術面に関する記事・資料などをまとめています。 生成AI全般 生成AIの脅威、「デジタルの毒」の温床に（2023年4月12日） 「OSS版ChatGPT」が次々登場 その学習手法が物議を醸す訳（2023年5月8日） 日本語能力の高い生成ＡＩの基盤技術、スパコン「富岳」で開発へ…東工大・富士通などのチーム（2023年5月22日） 生成ＡＩの原理を徹底解剖、国内トップ級の研究者によるグループ発足（2023年6月21日） AI成果物が急増したことで「AI生成コンテンツをAIが学習するループ」が発生し「モデルの崩壊」が起きつつあると研究者が警告（2023年6月14日） AIが生成したデータで学習するAIは、数世代でゴミを生み出すようになる（2023年6月30日） 過剰なAI報道が招く大きな誤解（2023年7月31日） 生成AIは「過度な期待のピーク」、Web3は幻滅期 23年版ハイプサイクル（2023年8月18日） ChatGPT・openAI関連 OpenAIが抱える課題とは…AI分野の競争は勝者総取りではない（2023年4月13日） OpenAIのCEO、「巨大AIモデルを用いる時代は終った」と語る（2023年4月19日） イーロン・マスクはOpenAIが支払っていた年間200万ドルのライセンス料では不十分だと考えTwitterデータへのアクセスを遮断していたことが発覚（2023年5月1日） 「ChatGPTには逆立ちしてもできないことがある」平井鳥取県知事が誤解覚悟で「使用禁止」を訴えた真意（2023年5月11日） アップルも従業員のChatGPT使用を禁止、データ流出を懸念（2023年5月20日） 生成AIの規制が盛り込まれたEUの「AI規制法案」にGPT-4やStable Diffusionは準拠できるのか？（2023年6月21日） ChatGPTのトラフィック9.7%減。サービス開始後初（2023年7月6日） 「ChatGPTは5年後に使われなくなる」ーメタのチーフサイエンティストが批判 AIバブルには陰り（2023年7月22日） チャットGPTは何も創造したりしない、誤解だらけの生成AIブーム（2023年8月4日） 「ChatGPT」の精度を劣化させる「ドリフト」現象--米研究チームが検証（2023年8月8日） OpenAIが将来のAIモデルの改善に向けたウェブクローラー「GPTBot」を発表、同時にAIによる無断での学習を防ぐためのブロック方法も公開（2023年8月8日） ChatGPTの“脱獄プロンプト”登場 文末に書くだけで「爆弾の作り方」「IDの盗み方」に回答（2023年8月10日） 「ChatGPT」の回答は半数以上が不正確--ソフトウェア工学関連の質問で（2023年8月10日） OpenAI、著作権保護作品をChatGPTの訓練に使っていることを隠蔽か。バイトダンスのAI研究チームが指摘（2023年8月17日） ChatGPT、学習データ破棄で“やり直し”になる可能性。米NYTが提訴検討か（2023年8月18日） ChatGPT開発に必要なGPUは3万基、日本の国策AI基盤は1千基。目前に迫る日本のAI敗戦（2023年8月19日） OpenAIのクローラーをNew York Timesなどのペイウォールメディアがブロック開始（2023年8月26日） 主要報道機関や人気サイトがOpenAIのクローラーをブロック、AIによる利用を防ぐ措置（2023年8月29日） 迫りくる法廷闘争、OpenAIは「ChatGPTのリセット」を強いられるか（2023年9月1日） ChatGPTが欧州プライバシー法違反の可能性、ポーランドで提訴（2023年9月4日） 米OpenAIのCEO、生成AI規制「早期の行動を」（2023年9月13日） ChatGPTはインターネット上であまり用いられない「非主要言語」を扱うと翻訳ミス・単語をねつ造・非論理的な回答などかなり応答レベルを落とすという報告（2023年9月17日） Google関連 「オンラインで公開されたものすべてをAIのためにスクレイピングする」とGoogleが発表（2023年7月4日） 「間違った情報を自信たっぷりに言う問題」に対応したAIモデル Googleが発表（2023年7月31日） Googleが生成AIのトレーニングに自分のウェブサイトが使われないようにするオプションを発表、もう遅いという指摘も（2023年9月29日） 米グーグル、生成ＡＩユーザーを著作権侵害の訴えから守る方針（2023年10月13日） Meta関連 Meta、生成AIトレーニングからユーザーがデータ（の一部）を削除できるように（2023年9月1日） 画像生成AI関連 ⇒当wiki内のページ「主要なAI画像生成サービス」も参照。 画像生成AIのしくみ【前編】 AIに言葉を理解させる技術（2023年3月29日） 大手イラスト投稿サイト「DeviantArt」がAI画像生成機能を提供開始、AI作品の表示を減らす設定やAIに作品を学習させない仕組みも提供（2022年11月14日） 画像生成AI、元画像をそっくりコピーできてしまう（2023年2月14日） 画像生成AIを「トロイの木馬」で攻撃してみた 生成時に攻撃者が望む画像を出力 米研究者ら「TrojDiff」開発【研究紹介】（2023年3月22日） AI画像生成の新たな拡散モデルを米Snapとノースイースタン大学が提案（2023年6月12日） ジェネレーティブAIが抱える問題を浮き彫りにする「1本のバナナ問題」とは？（2023年7月14日） NEDO、産総研開発の画像理解AIを活用した生成モジュール開発コンテストを開催（2023年7月18日） 画像生成AIに“AIが作った画像”を学習させ続けると？ “品質や多様性が悪化” 「モデル自食症」に（2023年7月26日） Stable Diffusion・Stability AI関連 「イラストやデザインの仕事は退屈」──Stable Diffusion開発元の代表インタビュー記事が話題（2022年10月26日） 画像生成AI「Stable Diffusion」が実はかなり優秀な画像圧縮を実現できることが判明（2022年9月21日） 「AI学習用のデータセット作成を大学や非営利団体に任せることで企業は法的責任から逃げている」という批判（2022年10月19日） A coming out party for Generative AI, Silicon Valley’s new craze（2022年10月21日） Stable Diffusionがオプトアウトに対応、次期バージョンで（2022年12月26日） 「Stable Diffusion」のような画像生成AIにバックドアを設けることを義務化するよう呼びかける論文が発表される（2023年2月17日） フォトリアリズムをAIが追求、Stability AIがAPIおよびStable Diffusion XLベータ版を発表（2023年4月14日） 画像生成AI「Stable Diffusion」が使う無料のデータセット「LAION」の構築を率いているのは1人の高校教師だった（2023年4月26日） 画像生成AI「Stable Diffusion」開発元のCEOは大嘘つきと批判する報道に本人が猛反論するブログを公開（2023年6月5日） 生成AIの規制が盛り込まれたEUの「AI規制法案」にGPT-4やStable Diffusionは準拠できるのか？（2023年6月21日） Stable Diffusionなどの画像生成AIが出力する画像に電子透かしを埋め込んで追跡可能にする技術「Tree-Ring Watermarks」が提案される（2023年6月23日） 680億円分以上になる株式を2万円以下でだまし取られたとしてStable Diffusion開発元のStability AIを共同創業者が訴える（2023年7月14日） Stability AIが高性能画像生成モデル「SDXL 1.0」をリリース＆すぐに使えるウェブアプリも公開されたので使ってみた（2023年7月27日） 画像生成AI「Stable Diffusion」の開発元・Stability AIで幹部やエンジニアが相次いで辞任、CEOのリーダーシップが問われる（2023年8月10日） Novel AI関連 NovelAI、“リークモデル”に「法的措置を取る可能性」 SNSで方針明かす（2023年6月23日） mimic関連 大ウケした「Midjourney」と炎上した「mimic」の大きな違い “イラスト生成AI”はどこに向かう？（2022年9月6日） 国産AIはなぜ炎上する？ 「mimic」開発元に反省点を聞いた 海外産AIは平常運転、待つのは“日本1人負け”か（2022年12月26日） Adobe Firefly・Adobe社関連 アドビ、責任あるデジタル・シチズンシップに則し、新しいAI倫理原則を発表（2021年2月24日） Adobeが画像生成AIを開発中、「画像生成AIの透明性を確保してクリエイティブをサポートする」と発表（2022年10月19日） Adobe、画像生成AIを開発へ 倫理や法律面で“透明性”高めたクリエイターのためのツール目指す（2022年10月19日） Adobeから画像生成AI「Firefly」登場。権利関係もクリア（2023年3月21日） アドビ、新たなジェネレーティブAI「Adobe Firefly」を発表（2023年3月21日） 「画像生成AIはあくまで補助」、アドビが「Firefly」で考える著作権問題（2023年4月24日） Adobe 生成 AI ユーザーガイドライン（2023年5月8日） Adobe Firefly、クリエイターに有益かつ商業利用可能なジェネレーティブAIを数百万人に提供（2023年5月11日） 画像生成AI ｢Adobe Firefly｣がPhotoshopへ統合。｢ジェネレーティブ塗りつぶし｣ が近く利用可能に（2023年5月23日） アドビ、PhotoshopにジェネレーティブAI「Adobe Firefly」を搭載（2023年5月23日） アドビ、「Adobe Firefly エンタープライズ版」を発表（2023年6月8日） Adobe決算、生成AI好調で過去最高の四半期売上高（2023年6月16日） Photoshop、AIで余白を自動生成する新機能（2023年7月27日） アドビ社員たちは画像生成AI機能が自社ビジネスを破壊すると本気で悩んでいる。デザイナーが減ると…（2023年7月28日） Adobeが画像生成AI「Firefly エンタープライズ版」で作った画像で訴訟された場合は全額補償すると発表、自社AIは権利侵害していないという自信の表れ（2023年6月9日） アドビ、自社製AIの学習データで苦慮。生成AIの画像の見分け方、クリエイターへの支払いはどうする？（2023年8月29日） AIピカソ関連 いらすとや風のイラストを生成する「AIいらすとや」をリリース（2022年12月20日） 「AIいらすとや」のAIピカソ、600円／週で無制限利用可能「AIアバター」機能をリリース（2023年1月27日） Nvidia picasso関連 NVIDIAがクリエイター向けのジェネレーティブAI 「Picasso」とコンパクトな新GPU「RTX 4000 SFF Ada世代」を発表（2023年4月28日） Spawning AI関連 Spawning lays out plans for letting creators opt out of generative AI training(2023年5月3日) 音楽生成AI関連 Googleがテキストから音楽を自動生成するAIモデル「MusicLM」を公開へ、学習用データセットの倫理的課題もクリア（2023年5月11日） 生成AIを活用した楽曲製作は、音楽業界では想像以上に普及している（2023年6月28日） 音声生成AI関連 Meta、音声生成AIモデル「Voicebox」発表 ノイズ除去や言い間違い修正、多言語会話など多機能（2023年6月17日） 生成AIへの学習防止・生成AI製コンテンツの判別関連 Glaze（グレーズ・グラーズ）関連 ⇒「Glaze」。米国・シカゴ大学が開発した画像生成AIへのAI学習を防止するためのツール。 Glaze公式サイト（英語） Glaze Protecting Artists from Style Mimicry by Text-to-Image Models（2023年2月8日） 利用方法・意義などを紹介するページ（日本語） 「自分の絵を画像生成AIから守る」――学習される前に絵に“ノイズ”を仕込みモデルに作風を模倣させない技術「Glaze」【研究紹介】（2023年2月21日） 画像生成AIプロテクター「Glaze」の意義と使い方まとめ（2023年3月19日） Glazeとは？画像生成AI学習への対策!その使い方と効果を検証‼（2023年4月18日） 画像生成AIの機械学習から自分の絵を守る「Glaze」が二次元イラストにも対応（2023年7月4日） Mist（ミスト）関連 ⇒中国の開発チームが開発した画像生成AI学習妨害ツール。 Mist公式サイト(英語) 「ノイズ」で邪魔に。画像生成AIから著作権守る「Mist」、中国開発チームが無償提供（2023年7月9日） クリエイターのイラストをAI学習から保護するツールおよび投稿サイト「emamori」ベータ版の公開開始（2023年8月18日） 自分のイラストや写真を画像生成AIが学習するのを妨害する電子透かしを入れるツール「Mist」（2023年8月28日） イラストを無断でAI学習に利用させない！「透かし」での保護機能を備えた投稿サイト『emamori』公開（2023年8月29日） その他のAI学習阻止・AI製コンテンツ識別に関する記事・資料 グーグル、偽画像の判別に役立つ機能を数か月以内に開始…「ＡＩ作成」とラベル付けする機能も（2023年5月11日） ［速報］Google、責任あるAIを実現するとして、画像にウォーターマークとメタデータの埋め込みを進めると発表。Google I/O 2023（2023年5月11日） 画像生成AIによるイラスト学習をカラフルなウォーターマークで簡単に妨害できる「RGBWatermark」を使ってみた(2023年5月31日) AIによる不正な画像改変を抑止する技術「PhotoGuard」、MITが考案（2023年7月27日） 生成AIによるディープフェイクを防げ、MITが新手法（2023年7月28日） AIが自動生成した画像かどうか見破って判別できると自称する複数のツールをテストした結果とは？（2023年6月30日） グーグルとOpenAIが実現狙う「生成AIコンテンツ」を識別する技術（2023年7月24日） Instagram、新しいAI機能を開発中か--AI生成画像の検出など（2023年8月1日） AIが書いたテキストに“電子透かし”を入れる技術 人に見えない形式で埋め込み 米国チームが開発（2023年8月2日） 生成AIによるフェイクコンテンツとの戦いは、ウォーターマークが導入されても終わらない（2023年8月7日） 主張：AI生成コンテンツ対策、「透かし」実装だけでは不十分（2023年8月23日） Google DeepMind、Imagenで生成した画像に電子透かしを埋め込む「SynthID」リリース(2023年8月30日） 読売新聞：フェイク動画「復元」、政治家や芸能人の被害防ぐ…国立情報学研が開発（2023年8月30日） 株式会社テリロジーワークスとサイアブラ社、生成AIによる偽情報の検知機能の提供についてのお知らせ（2023年8月31日） 人間には識別不能。GoogleがAI画像識別用ウォーターマークを発表（2023年8月31日） Google、AIで生成した政治広告に明確な開示を義務付け 11月にポリシー更新（2023年9月7日） 生成AIの倫理的な使用--偏見や悪用の防止に向けた研究者の取り組み（2023年9月22日） 生成AIでディープフェイクが劇的に簡単化、対抗策に画像のワクチン（2023年9月25日） 【 生成AI関連の政治的動きに関する記事・資料 】 日本 日本国内における生成AI関連の政治的動きについての記事と資料です。当wiki「国内の議員・政府の動き」も参照。 政府 TBS：DeepLのクテロフスキーCEOが自民党本部を訪問し、AI活用で意見交換 日本に拠点設置も表明（2023年5月11日） 読売新聞：政府、法改正議論時にＡＩの著作権リスク説明せず…先進国で最も緩い法規制の枠組みに（2023年5月16日） NHK：「ChatGPT」開発の米企業に注意喚起 政府の個人情報保護委（2023年6月2日） TBS：【速報】岸田総理 AI活用めぐり「クリエイター支援を検討」（2023年6月6日） NHK：政府の知的財産推進計画案“生成AIで著作権侵害相次ぐおそれ”（2023年6月8日） 読売新聞：ＡＩの著作権侵害に対策、保護へ論点整理…政府が「知財推進計画」決定（2023年6月9日） 生成AI、定期テスト使用不適切 文科省の学校指針案、活用法も（2023年6月22日） “生成AI開発事業者 信頼性高める対策強化を”村井首相補佐官（2023年7月3日） 生成ＡＩ対策で監査・認証制度、政府検討へ…開発・提供者の透明性向上図る（2023年7月4日） 生成AIめぐり松本総務相 EU上級副委員長と会談 協力し議論確認（2023年7月6日） 秘書選考「自費出版」要件除外へ 衆院、AI対策で（2023年7月21日） 生成AI“米大手IT企業の合意” 官房副長官 前向きな動きと歓迎（2023年7月24日） 米国、AI規制にかじ 日本の「ルール作り主導」は形骸化?（2023年7月27日） 生成ＡＩの偽情報対策、デジタル発信者情報など新技術の活用をＧ７に提言へ（2023年8月3日） 日本政府、G7にAI規制を提案へ（2023年8月8日） 生成AI学習データ、事業者に開示指針 政府が骨子案（2023年8月11日） 政府のAI関連予算“過去最高”の約1600億円要求 今年度の4割増（2023年9月8日） 日本経済新聞：生成AI、企業にデータ開示要請 政府が指針骨子案（2023年9月8日） 岸田首相、ＡＩ規制へ「日本主導で国際ルール作り」…偽情報や著作権保護「対応必要だ」（2023年10月1日） 岸田首相 “生成AI活用のルールづくり 日本が主導的役割を”（2023年10月1日） 「国民は物価高に苦しんでおり、国民生活を守らなければいけない」…岸田首相インタビュー詳報（2023年10月2日） ＡＩリスク軽減策 探る…知財保護検討会 規制対象整理も（2023年10月5日） AI時代における知的財産権に関する御意見の募集について（2023年10月5日） 生成ＡＩ利用企業も責任、政府案 事業者向け指針、リスク周知要求（2023年10月6日） 生成AI共通ルール作りへ 米IT企業が安全性確保など協力の意向（2023年10月9日） 生成AIによる知的財産権の侵害防止策 年内にも具体化へ 政府（2023年10月10日） 政府・AI戦略会議 生成ＡＩによるリスク増大に危機感、著作権侵害など対応促す…戦略会議の論点整理原案（2023年5月26日） 日本経済新聞：生成AI、活用促進へリスク対処 政府が論点整理（2023年5月27日） 毎日新聞：生成AIの可能性とリスクを「論点整理」 政府のAI戦略会議（2023年5月26日） 文化庁 生成AI画像は類似性が認められれば「著作権侵害」。文化庁（2023年6月5日） 生成AI、画像の特徴が似ていれば「著作権侵害」にあたる？ 文化庁の最新見解を読み解く（2023年6月19日） 文化庁、「AIと著作権」の講演映像をYouTubeで公開 全64ページの講演資料も無料配布中（2023年6月22日） 文化審議会著作権分科会（第68回）（第23期第1回）（2023年6月30日） 著作権法での生成AIの扱い、文化審小委が検討開始（2023年7月27日） 生成AIによる著作権問題、日本弁理士会が論点整理（2023年8月7日） 文化審議会著作権分科会法制度小委員会（第3回）（2023年10月16日） 議員・政党 赤松健議員（自民） 赤松健氏「画像生成AI、珍しく日本が勝つチャンス」（2023年2月6日） 赤松健参議院議員の講演（2023年6月11日） 平井卓也議員（自民） 日本のAI開発に「勝ち筋」と、平井元デジタル相（2023年4月30日） 塩崎彰久議員（自民） 「もう戦艦大和は作らない」--「和製ChatGPT」に関する方針、自民党の塩崎議員が説明 川崎ひでと議員（自民） 自民議員、AI作品めぐる「しょーもない規制」投稿が物議 クリエーター軽視と批判続出、謝罪＆ツイート削除（2023年5月31日） 城井崇議員（立憲） 生成ＡＩの出力結果に関して、特に既存のクリエーターの権利を国としてどのように守るか 衆議院議員 きいたかし 福岡10区(北九州市門司区・小倉北区・小倉南区)（2023年5月19日） 公明党 公明、生成ＡＩ基本法検討を提言（2023年10月11日） 中国 中国が画像生成AIの画像に「AI生成マークの表示」を義務化＆AIユーザーも実名登録制へ（2022年12月13日） 生成AIサービスに社会主義核心価値観の反映を要求、管理弁法の意見募集開始（2023年4月13日） 中国テック事情：生成AI規制に隠された政府のメッセージ（2023年6月5日） 中国政府 “生成AI活用サービスへの規制 8月15日から施行”（2023年7月13日） 生成AIを巡る米欧中の規制動向最前線・中国におけるAI関連規制（2023年7月19日） 人気チャットアプリを含む100以上の生成AIアプリが中国のApp Storeから削除される、中国政府の新たなAI規制によるもの（2023年8月2日） 中国、生成AI規則を施行 政府批判の拡大警戒 欧米製締め出し（2023年8月15日） アメリカ 米上院、初の AI に関する公聴会を開催。「過去の失敗」から規制に乗り出すか？（2023年5月24日） EUと米国、生成AI規制を協議 経済安保は連携確認（2023年5月31日） 朝日新聞：EUと米国、AI業界に「自主的な規範を」 法規制待たず対応強化（2023年6月1日） ロイター：アングル：生成ＡＩブームと米大統領選、ディープフェイクにどう対処（2023年6月1日） 米共和・民主上院議員、生成ＡＩ巡るＳＮＳの免責廃止法案提示（2023年6月15日） バイデン氏 ＡＩ普及「経済・安保へのリスク管理必要」（2023年6月21日） バイデン米大統領、ＡＩは「社会・経済・国家安全保障にリスク」…議会に法整備促進を要求（2023年6月21日） 米民主党上院トップ、ＡＩ法制の構想示す…対応が遅れれば中国に主導されると警告（2023年6月22日） 生成AIは「もろ刃の剣」、米議員がリスク調査を会計検査院に要請（2023年6月26日） ＡＩ生成コンテンツに「透かし」、米企業が安全性確保へ＝米政権（2023年7月22日） OpenAIやGoogleなど大手AI開発企業が「AI生成コンテンツに透かしを入れる」などAIの安全性強化に取り組むことを発表（2023年7月24日） 米立法府が AI によるIP著作権侵害の可能性にフォーカス。求められるオプトアウト、そしてアーティストの叫び（2023年7月25日） 米国、AI規制にかじ 日本の「ルール作り主導」は形骸化?（2023年7月27日） ビッグテックを規制する新組織を設立する法案、米議員が提出（2023年7月28日） グーグル・ディープマインド共同設立者、米国にＡＩ規制の施行要請＝ＦＴ（2023年9月1日） マイクロソフト社長「ブレーキが必要」 ＡＩ規制で公聴会―米上院小委員会（2023年9月13日） 米OpenAIのCEO、生成AI規制「早期の行動を」（2023年9月13日） 米国、AI新ルールで主導権狙う 大物CEOが議会に集結（2023年9月14日） AI規制の必要性に全員同意 産業界「大物」や議員らで会議 米国（2023年9月14日） AI規制で「圧倒的な意見の一致」とマスク氏 IT大手と米議員らが会議（2023年9月14日） ＡＩ規制「必要」で一致、マスク氏らＩＴ企業トップ招き米上院で特別会議（2023年9月14日） ＡＩ規制へ議論本格化 大統領選控え危機感―米議会（2023年9月15日） ＡＩ企業、法規制を歓迎 信頼性担保、普及に欠かせず―新興勢への配慮要請も・米（2023年9月18日） 「AI規制の秋」到来、論点ずらしに動く巨大テック企業（2023年9月22日） AI規制への議論が高まる中、米上院で公聴会が非公開で開催（2023年9月22日） ＡＩ大統領令「この秋に」 バイデン氏、リスク抑制（2023年9月28日） バイデン政権、AI企業8社から責任あるAI開発コミットメントを確保（2023年10月2日） エシュー議員、NSAとOSTPに安全でないAIの横行へ対処するよう要請（2022年9月22日） 欧州連合（EU） ユーザーの同意なしに訓練した可能性のあるChatGPTの「OpenAI」が厳格なプライバシー法を重視するEUで法的な問題に直面、「規則の準拠は不可能に近い」と専門家（2023年4月21日） チャットGPTに最初の試練、GDPRの高いハードル（2023年4月21日） EU、生成AIに統一規制論 「メード・ウィズAI」表示案も（2023年4月25日） AI学習データの開示を義務づける法案がEUで提出される（2023年4月28日） 「チャットGPT」にEUが要求：情報源を開示せよ（2023年4月28日） Google、EUと協力し「AI協定」を策定へ（2023年5月25日） オープンＡＩ、欧州で事業停止も 新ＡＩ規制巡り─ＣＥＯ＝報道（2023年5月25日） ＡＩルールは市民の安全のため、交渉余地ない＝欧州委員（2023年5月26日） EUと米国、生成AI規制を協議 経済安保は連携確認（2023年5月31日） 朝日新聞：EUと米国、AI業界に「自主的な規範を」 法規制待たず対応強化（2023年6月1日） EUにおけるAI規制の現状と展望（2023年6月1日） このコンテンツはAI生成です…と明示することがEUで義務化へ(2023年6月9日) NHK：EU議会“生成AIの規制盛り込むべき”修正案可決 国内でも動き（2023年6月15日） 読売新聞：欧州議会、ＡＩ法修正案を採択…生成ＡＩの学習データ一部開示を義務づけ(2023年6月14日) 生成AIの規制が盛り込まれたEUの「AI規制法案」にGPT-4やStable Diffusionは準拠できるのか？（2023年6月21日） 欧州最大の消費者団体、「生成AI」の規制強化を呼びかけ（2023年6月22日） EUのAI規制案を批判する公開書簡、150以上の企業幹部らが署名（2023年7月3日） ＥＵ、ＡＩ規制導入をアジア各国に働きかけ 反応鈍い＝関係者（2023年7月18日） EU「AI法」年内合意へ 日本は関与できるか（2023年8月30日） EUのAI法違反で巨額の制裁金、基準策定には日本からも意見表明が必要（2023年10月3日） イギリス 読売新聞：ＡＩの著作権侵害に警鐘「クリエイティブ産業の人々、脅かされる」…緩和反対の英下院議員（2023年4月30日） 性行為や裸の写真・動画を勝手に共有・作成……禁錮刑の対象へ イギリス法案（2023年6月27日） 英当局、マイクロソフトのゲーム大手買収阻止に続き、ジェネレーティブAI規制に向けた調査を開始、米国ではAIを公開評価へ（2023年7月3日） 英国国会議員、アーティストに損害を与えるAI免除を廃止するよう政府に要請（2023年8月30日） ロイター：英政府、11月開催ＡＩ安全サミットの目標設定 リスクに焦点（2023年9月5日） フランス AI学習元の作家を特定し報酬支払う法案が仏で提出。特定不能なAI生成物には課税（2023年9月26日） G7 NHK：ChatGPTなど生成AIの規制や活用 G7で年内にも見解とりまとめへ（2023年5月31日） G7でも議論されたAI規制、世界の主要な6つの取り組み（2023年5月24日） 生成AIはG7でどのように語られた？ 「責任あるAI」への5つの行動計画（2023年5月22日） 生成AIの国際ルール作りは広島サミットで決着するのか 各国に温度差…個人情報流出に誤情報拡散の懸念（2023年5月19日） 生成ＡＩの偽情報対策、デジタル発信者情報など新技術の活用をＧ７に提言へ（2023年8月3日） 日本政府、G7にAI規制を提案へ（2023年8月8日） 国際連合 国連事務総長 “AI技術の規制”検討の国際的な諮問機関設置を提言（2023年6月6日） AIをテーマに国連安保理で初会合 国際的ルール作り必要（2023年7月19日） その他政治的動きに関する記事・資料 乗り遅れた日本、生成AIを巡る日米欧中の規制動向（2023年7月27日） グローバルな「AI規制」の主導権をとるべく争う欧州諸国（2023年9月7日） 【 生成AIに関する法律・裁判関連記事など 】 生成AIの法的側面に関するページを載せています。 生成AIの開発・利用過程におけるもの NHK：画像生成AIは新たなアート？ それとも著作権侵害？ 最前線に迫る（2023年3月30日） Generative AI Has an Intellectual Property Problem（2023年4月7日） AI生成アートとオンライン画像市場：「AIトレーニングに使わせない権利」がクリエイターの仕事を奪うワケ（2023年4月7日） 朝日新聞：ＡＩ訓練「無断で作品使用」 著作権巡り、米で相次ぐ提訴（2023年4月13日） 朝日新聞：アーティストの作品でAI訓練 「無断で複製された」米国で集団提訴（2023年4月12日） 読売新聞：「なぜそこまでＡＩ開発を優遇するのか」…著作物利用、先進国で最も規制が緩い日本（2023年4月28日） Yahooニュース個人：チャットAIの「頭脳」をつくるデータの正体がわかった、プライバシーや著作権の行方は？（2023年4月24日） 読売新聞：作家そっくりの作風、チャットＧＰＴが「作品」…著作権の保護曖昧（2023年4月26日） 生成ＡＩ、続々登場 情報流出・倫理面で懸念（2023年5月1日） Former Copyright Office GC Tells House IP Subcommittee His Counterpart Got It Wrong on AI Fair Use（2023年5月25日） “機械学習パラダイス”の日本がAIで世界の中心になる日（2023年6月3日） 日本の著作権とAI：OKな使い方・NGな使い方まとめ（2023年6月6日） 「機械学習天国ニッポン」と生成AIの著作権リスク 早大・上野教授（2023年6月13日） 生成AIによる知的財産権の侵害に対処しているか（2023年6月14日） 実在女性に似てた？ 一瞬で消えたAIグラドル「さつきあい」の法的問題（2023年6月21日） 模倣の意図なくてもリスクはある？ 生成AIの利用で気をつけたい著作権問題（2023年6月28日） 生成AI、画像の特徴が似ていれば「著作権侵害」にあたる？ 文化庁の最新見解を読み解く（2023年6月19日） 生成AI利用の法的意味をもっと理解すべき--米大学が警告（2023年6月22日） 生成AIの著作物の利用は「フェアユース」に該当するか？（2023年7月12日） 朝日新聞：AIが勝手に作品学習、「なりすまし被害」も 著作権問題への対応は（2023年7月19日） 創作品の価値損なう…AIとクリエーター、急がれる著作権対応（2023年7月26日） 生成AIによる著作権問題、日本弁理士会が論点整理（2023年8月7日） 生成AIコンテンツの著作権に関するもの AIで作ったイラストの著作権は誰のもの？【弁護士解説】（2023年1月3日） 米国著作権局、AI生成コンテンツの著作権は認めない方針を発表（2023年3月20日） 1分で歌を作る…それでも韓国のAI作曲家に著作権はない（2023年6月2日） AIが生成した「作品」は誰のものか？ 一握りの企業が、膨大な著作権を独占する可能性も（2023年6月23日） 「AIが生成した作品は著作権で保護される余地がない」との判決が下る（2023年8月21日） 生成AIを使う前に知りたい、著作権問題と情報漏洩リスクが分かる厳選記事（2023年8月30日） 画像生成AI「Midjourney」が品評会で1位を取った絵画の著作権保護をアメリカ著作権局が拒否、624回のプロンプト入力とPhotoshopによる修正をしていてもダメ（2023年9月12日） 訴訟関連 ⇒生成AIに関連して生起した訴訟についてまとめています。当wiki「生成系AIに関する訴訟・法的対応一覧」も参照 Github Copilot訴訟関連 ついにGitHubのコードで学習したAI「GitHub Copilot」が集団訴訟に直面（2022年11月14日） GitHub Copilotに集団訴訟 AI訓練データで初（2022年11月14日） コード補完AI「GitHub Copilot」の集団訴訟をソフトウェアの知的財産権に詳しい弁護士はどう見ているのか？（2022年11月14日） 米国人アーティスト集団訴訟関連 Getty images対Stability AI訴訟関連 画像生成AI「Stable Diffusion」開発元のStability AIがかつてGoogleを和解に持ち込ませたこともあるストックフォトサイトのGetty Imagesに訴えられる（2023年1月18日） ドイツ人写真家vsLAION訴訟関連 画像生成AIによる作品の無許可使用を主張した写真家が逆に損害賠償を請求される（2023年4月27日） 米国人作家2名vsOpenAI訴訟関連 米国人作家3名vsOpenAI・Meta訴訟関連 「ChatGPTの学習に海賊版の本が使われた」として作家がOpenAIを告訴（2023年7月4日） This is why comedian Sarah Silverman is suing OpenAI, the company behind ChatGPT（2023年7月9日） OpenAIとMetaが著作権侵害で3人の作家から訴えられる（2023年7月10日） 米有名コメディアンSarah Silverman氏による、OpenAIとMetaへの訴訟が意味するもの（2023年7月18日） Writers suing OpenAI fire back at company's copyright defense（2023年9月29日） 「AIが著作権を侵害」！？ 米弁護士2人がAI最大手を提訴（2023年10月10日） 米国人作家5名vsOpenAI訴訟関連 米作家や劇作家、またオープンＡＩ提訴 著作権侵害で（2023年9月12日） 著名SF作家らがまたもOpenAIを提訴、ChatGPTの著作権侵害で（2023年9月13日） 全米作家協会vsOpenAI訴訟関連 ロイター：全米作家協会も著作権侵害で提訴、「チャットＧＰＴ」訓練巡り（2023年9月21日） その他訴訟関連記事・資料 OpenAI Sued for Defamation After ChatGPT Fabricates Legal Accusations Against Radio Host（2023年6月10日） 「チャットGPTに横領犯にされた」名誉毀損訴訟が示すAIリスクとは？（2023年6月12日） 朝日新聞：オープンAI、米利用者が集団訴訟 「個人情報を違法に収集」（2023年6月29日） ChatGPTのオープンＡＩを匿名グループが提訴－個人データ窃取と主張（2023年6月29日） イラスト生成AIを用いたSkebの不正利用への対応につきまして（2023年6月30日） OpenAIに集団訴訟、「ChatGPT」などの訓練用データ収集で（2023年6月30日） OpenAIに集団訴訟、「ChatGPT」などの訓練用データ収集で（2023年6月30日） OpenAI社、また訴えられる（2023年7月6日） 読売新聞：生成ＡＩ企業への訴訟、アメリカで相次ぐ…「同意なく書籍をＡＩに学習された」などと非難（2023年7月11日） ロイター：グーグルはＡＩ学習で個人データ不正利用、市民が集団訴訟（2023年7月12日） 生成AI巡る訴訟、米で相次ぐ 著作権侵害や個人情報の不正収集で（2023年7月18日） メディア大手各社、AI企業提訴に向け提携へ（2023年7月25日） 'New York Times' considers legal action against OpenAI as copyright tensions swirl（2023年8月16日） ニューヨーク・タイムズがAI学習のための記事利用を原則禁止に、OpenAIに対しては法的措置を検討（2023年8月17日） ChatGPT、学習データ破棄で“やり直し”になる可能性。米NYTが提訴検討か（2023年8月18日） 今後も増えていきそう…New York Timesが学習データの無断使用でOpenAIを訴訟（2023年8月21日） ニューヨーク・タイムズの訴訟でChatGPTが立往生の可能性（2023年10月1日） その他の法律・訴訟関連記事・資料 AIのウソと著作権、国際レベルの問題に（2023年5月29日） どうする？AIデータの利益配分、妥当性検証の技術開発が急務（2023年7月28日） 【 生成AIコンテンツに対する各プラットフォームの対応 】 イラスト投稿・販売・コミッションサイトなど pixiv関連 画像生成AIの「悪用」に絵師たちが反発、pixiv上でイラスト非公開に…福井健策弁護士に聞く（2023年5月11日） 朝日新聞：AIが作ったイラスト、「投稿禁止」の動きも 著作権以外のリスクは（2023年5月13日） Skeb関連 ［2023年9月22日更新］ イラスト生成AIを用いたSkebの不正利用への対応につきまして（2023年6月30日-9月22日追記） 作品に生成AI使ったな？ 本社まで出頭しろ！──Skebのなりすましメール出現 公式が注意喚起（2023年9月27日） 写真・素材販売サイトなど Adobe Stock関連 Adobe、アドビストックでAI生成画像受け入れのガイドラインを策定（2022年12月6日） AI Images Are Outperforming Photos on Adobe Stock（2023年6月6日） Getty images関連 画像生成AI「Stable Diffusion」「Midjourney」「DALL-E」などで生成した画像のアップロードと販売をGetty Imagesが禁止、ユーザーが法的なリスクに直面する可能性があるという懸念が理由（2022年9月22日） ゲッティイメージズ、画像生成AIツール。商用利用可（2023年9月26日） Shutterstock関連 ストックフォト大手「Shutterstock」、ジェネレーティブAI推進の立場を継続——法人ユーザに補償と法的保護を徹底（2023年7月13日） アマナイメージズ関連 ”新生”アマナイメージズ、日本画像生成AIコンソーシアム設立（2023年6月20日） 音楽関連 Spotify関連 「AIが生成した数万もの楽曲」を音楽ストリーミングサービスのSpotifyが削除、不正な再生数の水増しが原因か（2023年5月10日） SpotifyがAIが生成した「数万曲」を削除した理由（2023年5月10日） Amazonのグラビア写真集が「AI生成だらけ」な件 Spotifyでも“AI汚染”が（2023年6月12日） 日本発「作曲AI」が北米などでユーザー急増 海外で売れるものの作り方（2023年6月23日） ゲーム販売サイト steam関連 Steamが「AI生成コンテンツを含むゲーム」を禁止しているとの報告（2023年6月30日） 即売会関連 コミティア：【COMITIA145まで】AI作品に関するサークル販売物規定について（2023年2月9日） 【 生成AIに関連する調査・アンケート 】 画像生成AIの学習について絵描きにアンケートを取った結果と今後の考察（2023年4月6日） 産経新聞：対話型ＡＩ規制必要６９％ 岸田内閣支持４６％、共同調査（2023年4月30日） アメリカ意識調査、過半数がAI規制に賛成（2023年5月11日） 生成ＡＩに法律などの規制「必要」８６％…読売世論調査（2023年5月21日） 全クリエイター実態調査アンケート10 AIリテラシー(集計結果)（2023年6月8日） 生成ＡＩ、８割が「規制必要」 時事世論調査（2023年6月17日） 生成AI、具体的な活用イメージ湧かない企業が約4割（2023年6月20日） SKIMA：【アンケート結果報告】画像生成AIツールについて【前編】（2023年7月31日） SKIMA：【アンケート結果報告】画像生成AIツールについて【後編】（2023年8月3日） 企業の75％、ChatGPTなど生成AIアプリを使用禁止とする方向 「BlackBerry」の調査で（2023年8月21日） BlackBerry独自調査、日本の組織の72%が、業務用デバイス上でのChatGPTおよび生成AIアプリケーションの使用を禁止する方針であることが明らかに（2023年9月7日） 日本企業の半数が「職場での生成AI利用」を歓迎していない （2023年9月8日） AIが生活のなかに浸透するなかで、期待よりも不安を抱く人が増えている：調査結果（2023年9月11日） 日本アニメフィルム文化連盟：アニメ業界を対象とした生成AIに関する意識調査の結果（2023年9月12日） 日本俳優連合：【実演家向け】生成ＡＩに関する緊急アンケート結果（2023年9月19日） 生成AIをビジネスで継続的に利用している人は7.8%のみ、回答の正確性に懸念も（2023年9月26日） 【 生成AI関連の社説・コラム 】 新聞社などが出した生成AIに関する社説やコラムなどを載せています。 朝日新聞：生成AIでアーティスト失業「まだ始まり」 シカゴ大教授からの警告（2023年4月13日） AI への注目が高まるなか、規制と開発が交錯：「透明性、信頼性、セキュリティ基準を確保する必要がある」（2023年4月13日） 日本経済新聞：生成AIのルール作り急げ（2023年4月28日） 読売新聞：ＡＩの著作権侵害に警鐘「クリエイティブ産業の人々、脅かされる」…緩和反対の英下院議員（2023年4月30日） 読売新聞：ＡＩの規制 Ｇ７は適正なルール構築せよ(2023年5月1日) 東京新聞：AI活用 日本は前のめり 欧米は規制強化 G7はルールづくりで結束できるか 読売新聞：ＡＩ戦略会議 リスクを深刻に受け止めよ（2023年6月2日） 朝日新聞：AIへの信頼「壊れ始めている」 クリエーターに危機感、共存の道は（2023年6月6日） 毎日新聞：文化芸術と生成AI 創り手の権利守る議論を（2023年6月8日） 読売新聞：ＡＩと著作権 創作活動を守る規制が必要だ（2023年6月14日） AI企業は「ケンブリッジ・アナリティカ」事件の教訓に学べ（2023年6月26日） 東京新聞：＜社説＞政府のAI戦略 活用前のめりの危うさ（2023年7月3日） 日本経済新聞：［社説］AI規制は国際協調が大事だ（2023年7月16日） 読売新聞：ＡＩ規制 偽情報を見極める対策講じよ（2023年8月16日） 読売新聞：政府のＡＩ指針 業界の自主規制に委ねるのか（2023年9月16日） 東京新聞：＜社説＞AIと著作権 無秩序な流用防がねば（2023年9月26日） 日本経済新聞：［社説］AI企業は著作物利用の適正対価を払え（2023年9月27日） 【 生成AIに対する組織の見解 】 大学 東京大学：生成系AI(ChatGPT, BingAI, Bard, Midjourney, Stable Diffusion等)について（2023年4月3日） 大阪大学：生成AI（Generative AI）の倫理的・法的・社会的課題（ELSI）論点の概観：2023年3月版 大阪大学：生成AI（Generative AI）の利用について（2023年4月17日） 同志社大学：【重要なお知らせ】 論文・レポート試験における生成AIの使用について（2023年6月1日） 経済団体 日本経済団体連合会（経団連）：AI活用によるSociety 5.0 for SDGsの実現に向けて（2023年6月9日） 【 生成AIに関する著名人の意見など 】 アーティスト｜R・J・パーマー：まるで人間のアーティストが描いたような画像を生成するAIが「アーティストの権利を侵害している」と批判される（2022年8月15日） 俳優｜トム・ハンクス：トム・ハンクス、AIでの死後復活を予言 俳優業の未来は悲観的か（2023年5月23日） 映画監督｜ギレルモ・デル・トロ：宮崎駿監督の「生命に対する侮辱を感じる」という言葉を引用してギレルモ・デル・トロ監督がAI生成作品を非難／ギレルモ・デル・トロ監督、トロント映画祭で独自のAI論を展開（2023年9月14日） 俳優｜ボブ・オデンカーク：ストライキ参加のボブ・オデンカーク「人間が書いたセリフしか覚えない！」（2023年7月21日） シンガーソングライター｜エド・シーラン：エド・シーラン、AIについての見解を語る（2023年8月8日） アニメーション監督｜富野由悠季：「よくできているが堅い」、ガンダム生みの親・富野氏が憂う生成AIの影響（2023年8月9日） 俳優｜アダム・ドライバー：アダム・ドライバーがAmazonやNetflixなどの大企業を批判 ストライキ中の俳優による要求に応えていないとして（2023年9月1日） 映画監督｜ティム・バートン：テイム・バートン監督がAIによる作風模倣に不快感、人間性を「吸い取られた」（2023年9月11日） 俳優｜ピーター・サースガード：ベネチア映画祭で米俳優スト支持 サースガードさんAI使用に警鐘（2023年9月10日） 俳優｜ショーン・ペン：ショーン・ペン、上層部の娘のAI画像を使ってストライキを終焉させると発言（2023年9月15日） 俳優ロビン・ウィリアムズの娘｜ゼルダ・ウィリアムズ：故ロビン・ウィリアムズの娘ゼルダ・ウィリアムズが父親の声を作り出すためにAIを使用することに対して「嫌悪感」を訴える（2023年10月3日） 【 その他生成AIに関する記事など（時系列） 】 生成AI関連の出来事をまとめています。時系列となっています。 2022年 CLIP STUDIO PAINTに「画像生成AIパレット」の試験的実装を予定しています（2022年11月29日） 画像生成AI 発信地は日本 SNS投稿の4割占める（2022年12月4日） 2023年 美麗な人物写真で人気のインスタグラマーが「AI生成画像を投稿していた」とぶっちゃける（2023年3月6日） Metaの大規模言語モデル「LLaMA-65B」のデータが4chanで流出（2023年3月6日） マスク氏ら、ＡＩ開発の一時停止訴え 「社会にリスク」（2023年3月29日） AmazonがAWSユーザー向けに各種AI連携を発表（2023年4月18日） AI生成画像で世界最高峰の写真コンテストを受賞した孤高のアーティスト。写真界の異端児に独占インタビュー（2023年4月20日） ＡＩ想定より速く人知超える公算、危険性語るためグーグル退社＝ヒントン氏（2023年5月3日） 音声変換した声の“元の声”を復元する技術 中国の研究者らが開発（2023年5月22日） 疑わしいツイートに有志の手でコメントを付ける「コミュニティノート」に同一画像を検知する機能が導入される、「これはAI製です」などのコメントが付くことでフェイク画像の拡散防止に（2023年6月1日） 生成ＡＩ、国内企業の参入続々…「日本の言葉や文化に強いモデルは少ない」（2023年6月3日） 批判殺到のAIイラスト販売サービス「petapi」クリエイターへの配慮不足を謝罪（2023年6月5日） 人工知能学会 生成AI “活用へ環境整備を”“リスクや懸念も”（2023年6月7日） ＡＩブーム最大の被害者は知識労働者とマッキンゼー－過去と正反対か（2023年6月15日） ”新生”アマナイメージズ、日本画像生成AIコンソーシアム設立（2023年6月20日） 画像生成AI 学習データの透明化取り組む 開発者らが団体設立（2023年6月21日） 読売新聞：「生成ＡＩ」の課題巡り都内でシンポジウム…著作権侵害や虚偽情報の拡散（2023年6月23日） グーグルが恐れるオープンソース生成AI、脆く危ういブームの実態（2023年7月4日） 設立40周年のワコム、AIで「創作の軌跡」を可視化。デジタル著作権保護も展開（2023年7月11日） AIによる「人類絶滅リスク議論」 過度な注目がもたらす新たな問題とは（2023年7月9日） クリエイターを守る“創作の証”「Wacom Yuify」は2024年に公開、ワコムが創業40周年（2023年7月12日） ソフトウェア開発者、生成AIに警戒感も（2023年7月24日） 武蔵美のＡＩ絵画コンテスト、「著作権侵害」批判で急きょ中止…４００点以上の応募（2023年8月5日） 生成AIは「過度な期待」のピーク期--ガートナー「先進テクノロジのハイプサイクル」（2023年8月17日） 生成AIは「過度な期待のピーク」、Web3は幻滅期 23年版ハイプサイクル（2023年8月18日） ChatGPT開発に必要なGPUは3万基、日本の国策AI基盤は1千基。目前に迫る日本のAI敗戦（2023年8月19日） Metaの大規模言語モデル「LLaMA」のトレーニングにも使用されたAIの学習用データセット「Books3」が削除される（2023年8月21日） 手塚憲一氏、イラスト巡る“炎上”を謝罪「不快な思いをおかけした」 手塚治虫氏の義理の息子（2023年8月23日） 手塚治虫の娘婿で漫画家・手塚憲一（桐木憲一）氏のSNS投稿作品にトレパク疑惑 「認識不足が原因」謝罪もそもそも描いていない？追求された「AIイラスト生成」疑惑（2023年8月23日） 生成ＡＩで関東大震災「新証言」を作成…「捏造」批判受け日赤の企画展中止（2023年9月4日） 先鋭化する大富豪の白人男性たち、警告する女性たち（2023年9月11日） Microsoft、生成AI「Copilot」サービス利用による著作権侵害の賠償金を肩代わりすると発表（2023年9月11日） AIトレーニング会社は作家や詩人を雇いトレーニング素材となるオリジナル短編を書かせている（2023年9月26日） 生成AI、負の側面への対処を訴え STSフォーラムが閉幕（2023年10月3日）
https://w.atwiki.jp/genai_problem/pages/50.html
生成系AIに関して生起した訴訟や裁判、法的対応をまとめているページです。 生成系AIに関する総合的な問題点は⇒「生成系AIが抱える問題まとめ【社会やクリエイティブへの悪影響】」 画像生成AIに関する総合的な問題点は⇒画像生成AIは何が問題なのか？ 画像生成AIに関して発生した事件等は⇒画像生成AI 炎上・論争・被害事例まとめ + 編集される方へ 生成系AIに関して発生した訴訟・法的な対応等を記載しています。 なにぶん訴訟という難しい話を扱うので編集は慎重にお願いします。 下の画像はSNS等にこのwikiのURLを貼り付けた際表示されるサムネイルとなることを想定して作った画像です。仮の画像ですので自由に差し替えて頂いて構いません。 【目次】 【 裁判・法的対応の一覧 】トムソン・ロイターによるAI開発企業への著作権訴訟（米国） Github Copilotに対するプログラマーの訴訟（米国） アーティスト3名+7名による集団訴訟（米国） Getty Imagesによる訴訟（英国・米国）英国での訴訟 米国での訴訟 Lensa AI開発元に対するイリノイ州住民の訴訟（米国） AIデータセットから自作品の削除を求めた写真家に対する逆訴訟（ドイツ） ラジオ司会者によるOpen AI訴訟（米国） コミッションサイトSkebによる開示請求訴訟（日本） 個人情報に関連したOpenAIへの訴訟（米国） AI画像の無断使用によって発生したAIコンテンツの著作権付与に関する訴訟（中国） 作家2名によるOpenAI訴訟（米国） コメディアン等作家3名によるOpenAI・Metaへの訴訟（米国）OpenAIに対する訴訟 Metaに対する訴訟 ピューリッツアー賞受賞者など作家5名によるOpenAI・Meta訴訟（米国） 全米作家協会と作家17名によるOpenAI訴訟（米国） 元州知事など作家5名によるMeta等複数企業への訴訟（米国） ユニバーサルミュージック等によるAnthropic社への訴訟（米国） ノンフィクション作家1名+11名によるOpenAI・マイクロソフトへの訴訟（米国） 中国人アーティスト4名による訴訟（中国） ニューヨークタイムズによるOpen AI・マイクロソフトへの訴訟（米国） ノンフィクション作家2名によるOpenAI・マイクロソフトへの訴訟（米国） AI生成物の著作権侵害疑惑に対する裁判（中国） 映画へのAI音声利用疑惑に対する訴訟（米国） フロリダ州の女性による対OpenAI訴訟（米国） ネットメディアによる対OpenAI訴訟（米国） 作家3名による対NVIDIA訴訟（米国） 【 裁判に関連する記事など 】 【 裁判・法的対応の一覧 】 トムソン・ロイターによるAI開発企業への著作権訴訟（米国） 訴訟名 Thomson Reuters Enterprise Centre GmbH v. Ross Intelligence Inc. 原告 情報サービス企業｜トムソン・ロイター 被告 AI開発企業｜ロス・インテリジェンス 裁判所 デラウェア州連邦地方裁判所 2020年5月6日、ニュースメディア「ロイター」などを運営する多国籍情報サービス企業トムソン・ロイターが、同社の運営する法律関連サイト「Westlaw」内の文章をAI製品開発の際無断で使用したことを巡り、これを著作権侵害と主張。AI開発企業であるロス・インテリジェンスを相手取り米国デラウェア州の裁判所で訴訟を提起した。 ChatGPTやStable Diffusionなどの生成AIが話題になり出した2022年よりも前に発生した裁判だが、生成AIに関する主要な論点である「AI開発の際、他者の著作物をどこまでの範囲なら使っても良いのか」という点について、何らかの司法判断が下されるのではないかとして注目されている。 本訴訟に関する資料集「Thomson Reuters Enterprise Centre GmbH v. ROSS Intelligence Inc. (1 20-cv-00613)」 Github Copilotに対するプログラマーの訴訟（米国） 訴訟名 Doe v. GitHub 原告 プログラマー｜マシュー・バテリック等 被告 ソフトウェア開発プラットフォーム運営｜Github社 裁判所 カリフォルニア北部地区連邦地方裁判所 2022年11月3日、コードの続きを自動で生成するプログラマー向けのAIツール「Github Copilot」に対し弁護士でプログラマーでもあるマシュー・バテリック（Matthew Butterick）氏等が、個々のGithubリポジトリ上でオープンソースライセンスに関する契約違反が起きているといった旨を主張し、github社へ訴訟を提起した。生成AIに関連する最初の訴訟である。 ■関連リンク 原告訴訟団が制作した訴訟の概要を説明するページ 訴状（PDF） コード補完AI「GitHub Copilot」の集団訴訟をソフトウェアの知的財産権に詳しい弁護士はどう見ているのか？（2022年11月14日-GIGAZINE） GitHub Copilotに集団訴訟 AI訓練データで初（2022年11月14日-クラウドwatch） コンテンツを自動生成するAIに「著作権」の課題、その命運を握るかもしれない集団訴訟の中身（2022年12月10日-産経新聞） アーティスト3名+7名による集団訴訟（米国） 訴訟名 Anderson v. Stability AI 原告 アーティスト・写真家｜サラ・アンダーセン等3名+23年11月より7名参加、計10名 被告 画像生成AI開発・運営企業｜Midjourney、StabilityAI、deviantART+23年11月よりRunwayが追加 裁判所 カリフォルニア北部地区連邦地方裁判所 2023年1月13日、米国人アーティストのカーラ・オルティス（Karla Ortiz）氏、ケリー・マッカーナン（Kelly McKernan）氏、サラ・アンダーセン（Sarah Andersen）氏が、画像生成開発企業であるMidjourney、Stability AI（Stable Diffusionという画像生成AIの開発元）とイラスト投稿サイトであり独自の画像生成AI「DreamUp」をリリースしたdeviantARTを訴訟した。原告側を担当する弁護士事務所はコード生成AI「Github Copilot」に対する集団訴訟も担当しているジョセフ・サヴェリ法律事務所（Joseph Saveri Law Firm）。 原告側は被告企業が開発した画像生成AIが、著作権で保護されている数十億の画像をアーティストの同意や補償なしにダウンロードした上でトレーニングに用いているとして、直接的な著作権侵害、偽造に関連する間接的な著作権侵害、デジタルミレニアム著作権法違反、パブリシティー権の侵害を主張し損害賠償と差し止めを求めた。 画像生成AIの開発企業であるMidjourney社やStability AI社だけではなくイラスト投稿サイトである「deviantART」も訴訟の対象となっていることについて、原告側はdeviantARTより作品データが無許可で収集されている事態を放置しながら、なおかつdeviantART社自身の規約等に違反した状態で独自の画像生成「Dream Up」をリリースし結果的にアーティストコミュニティを裏切った事を問題視しているからだと説明した。 2023年4月18日、被告側企業3社はAIで作成された画像は原告側アーティストの作品と類似しておらず、悪用されたとする特定の画像が示されていないとして、訴訟の取り下げを原告側へ求めた。Stability AI社の提出した書類では「原告側は著作権で保護された作品に類似している出力画像や侵害しているとされる画像を一つも特定できていない」と主張し、同様にMidjourney社も「原告側の作品であると見分けられた画像」や「トレーニングデータに使われたと思われる画像」が特定されていないとした。deviantARTも2社の主張に同調。 同年7月20日、最初の公聴会が開かれた。この訴訟を担当しているウィリアム・オリック判事は原告側の主張の大半を却下する方針だが、新たな告訴を認めるとの意向を示した。同判事は原告に対し「被告側3社に対する主張をより明確にし区別すべきである」「著作権侵害の申し立てについて、原告側はStabilityAI関連のソースコードにアクセスできるためより多くの事実を提供できるはずだ」と述べた。ただしサラ・アンダーセン氏の作品についてはいくつか著作権登録が行われており、それらについては訴訟の取り下げを求める被告側の取り組みを乗り切ることが出来るのではないかとした。オリック判事はさらに、StabilityAI社のStable Diffusion技術を組み込んだとされるMidjourney社とdeviantART社に対する原告アーティストらの主張は、StabilityAIモデルの使用を通じ著作権を侵害しているとしたいのか、あるいは侵害的な方法によって自社システムをトレーニングしていると主張したいのか不明瞭であると指摘。また、「プロンプトにアーティスト名を入力した上で生成された画像は著作権を侵害している」との主張では勝訴出来る可能性は低いとし、AIシステムとアーティストが作成した画像の間には大きな類似点がないため現時点では出力画像に関する主張は妥当とは考えていないとした。 翌21日、原告側を担当するマシュー・バテリック弁護士は、メディアの取材に対し訴状を修正すると表明。バテリック氏によると「オリック判事はMidjourneyとdeviantARTに対する著作権侵害の申し立ての修正許可を与えると示唆した」とのことである。 2023年10月30日、同事件を担当する裁判所は7月の公聴会の内容に沿い、MidjourneyとdeviantARTに対する訴訟は棄却、Stability AIに対する訴訟の一部については訴状を修正し問題を追及する事を認めた。 1ヶ月後の11月29日、原告団は修正した訴状を提出。ここで新たにアーティスト、イラストレーター、漫画家、写真家で構成される7人の原告が加わった。 この段階で原告として訴訟に加わったのは、ホーク・サウスワース（Hawke Southworth）氏、グジェゴジ・ルトコウスキ（Grzegorz Rutkowski）氏、グレゴリー・マンチェス（Gregory Manchess）氏、ジェラルド・ブロム（Gerald Brom）氏、張晶娜（Jingna Zhang／チャン・ジンナ）氏、ジュリア・ケイ（Julia Kaye）氏、アダム・エリス（Adam Ellis）氏。 被告となった企業は以前の訴状と同じくStability AI、Midjourney、deviantARTだが、新たにStable Diffusion 1.5のトレーニングを行ったとされる米国のAI開発企業「Runway」が追加された。 なお、原告側は修正訴状において、Midjourney社が作成し同社のDiscord上に2022年初めごろ共有したとされる、作品がAIのトレーニング対象になったと見られているアーティストのリストを証拠物として提出した。2023年末から翌2024年1月上旬にかけX上にこのリストに関連するポストが投稿され話題となった。このリストは4700人ほどのアーティスト名が記載されており、さらにはそのリストへの追加案として16000人ほどのアーティストの名前が記載された別のリストについても注目された。 画像生成AIが引き起こす問題についてイギリスのアーティスト・写真家らの間でも話題になっており、この集団訴訟へ参加するか新たに別の訴訟を起こすことも検討されているという。 ■関連リンク + 多いので折りたたみ 原告訴訟団が制作した訴訟の概要を説明するページ 訴状（PDF） 訴状-証拠物（PDF） AI Image Generator - Copyright Litigation（ジョセフ・サヴェリ法律事務所） 被告側が提出した訴訟取り下げ請求資料「Stability AI」「Midjourney」「deviantART」(2023年4月18日) 画像生成AI「Stable Diffusion」と「Midjourney」に対して集団訴訟が提起される（2023年1月16日-GIGAZINE） AI companies ask U.S. court to dismiss artists' copyright lawsuit（2023年4月20日-ロイター） US judge finds flaws in artists' lawsuit against AI companies（2023年7月20日-ロイター） Judge lets art trio take another crack at suing AI devs over copyright（2023年7月21日-The Register） 2023年10月31日発表の同事件に対する裁判所側の判決文（英語） Judge pares down artists' AI copyright lawsuit against Midjourney, Stability AI（2023年10月31日-ロイター） 画像生成AI「Stable Diffusion」や「Midjourney」に自作品の著作権を侵害されたとするアーティストたちの集団訴訟が裁判所によって棄却される（2023年10月31日-GIGAZINE） 原告団が提出した修正訴状（PDF）（2023年11月29日） AI Copyright Infringement Suit Proceeds in California District Court（2023年11月22日-JDSUPRA） Meet the Lawyer Leading the Human Resistance Against AI（2023年11月22日-WIRED） Artists take new shot at Stability, Midjourney in updated copyright lawsuit（2023年12月1日-ロイター） A Class Action Lawsuit Brought by Artists Against A.I. Companies Adds New Plaintiffs（2023年12月4日-artnet news） A list going viral reveals famous artists whose work was used to train AI generator（2024年1月5日-NBCニュース） Midjourney社が作成したアーティストのリスト（4700人版）「EXHIBIT J：Midjourney Name List（PDF）」。その他の証拠についてはこちらのページを参照。 Midjourny社が作成したアーティストのリスト（16000人版）に記載されていたアーティストの一覧「Many Comic Book Artists Named As Being Used By MidJourney」（2024年1月3日-Bleeding Cool） MidjourneyがAIトレーニングに用いた6歳児を含む1万6000人のアーティストリストの存在が発覚（2024年1月11日-GIGAZINE） Damien Hirst and Tracey Emin among thousands of British artists used to train AI software, Midjourney（2024年1月21日-The Guardian） 画像生成AI「Stable Diffusion」と「Midjourney」に対する集団訴訟でイギリスの写真家が団結呼びかけ（2024年1月25日-GIGAZINE） AI Companies Take Hit as Judge Says Artists Have “Public Interest” In Pursuing Lawsuits（2024年2月9日-The Hollywood Reporter） Getty Imagesによる訴訟（英国・米国） 訴訟名（米国） Getty Images v. Stability AI 原告 フォトストックサービス｜Getty Images 被告 生成AI開発企業｜StabilityAI 裁判所（英国） ロンドン高等裁判所 裁判所（米国） デラウェア州地方裁判所 2023年1月と2月に、大手フォトストックサービスであるGetty Imagesが、画像生成AI「Stable Diffusion」を開発・運営している企業Stability AIを米国・英国の2か国で提訴した。 英国での訴訟 2023年1月17日、Getty Imagesは、同社が権利を有するコンテンツの知的財産権をStability AIが侵害したとしてイギリス・ロンドンの高等裁判所へ法的手続きを開始したと発表。 同年6月1日には、イギリス国内でStability AI社がリリースしている画像生成AIの販売差し止め命令をロンドン高等裁判所へ求めたことが報道された。 10月31日には同訴訟の公聴会が開かれ、Stablity AI側は「原告側が告発した行為は英国で行われていたという事実が示されておらず、この主張は絶望的である」「Stable Diffusionには原告側が主張する画像は含まれていない」などと主張した。 12月1日、裁判所はGetty Imagesの主張に正当性があるとして次の段階の審理に進むことを認めた。 米国での訴訟 2023年2月3日にはアメリカ・デラウェア州の裁判所に同様の理由で訴訟を提起した。 同年5月2日、Stablity AI側は「デラウェア州裁判所はStablity AI英国法人への管轄権がない」等と主張し訴訟の取り下げを求めた。 ■関連リンク（英国訴訟関連） Getty Imagesによる英国での訴訟開始を伝えるプレスリリース（2023年1月17日） 画像生成AI「Stable Diffusion」開発元のStability AIがかつてGoogleを和解に持ち込ませたこともあるストックフォトサイトのGetty Imagesに訴えられる（2023年1月18日-GIGAZINE） Getty Images is suing the creators of AI art tool Stable Diffusion for scraping its content（2023年1月17日-The Verge） Getty Asks London Court to Stop UK Sales of Stability AI System（2023年6月1日-USnews） Stability AI Says Getty Images’s UK Copyright Suit Is Hopeless（2023年10月31日-ブルームバーグ） 公聴会に参加した弁護士による同訴訟の争点のまとめ「Getty v Stable Diffusion AI case reaches court」（2023年10月31日） Judge questions credibility of AI chief’s evidence in court battle with Getty Images（2023年12月3日-The Telegraph） Getty lawsuit against Stability AI to go to trial in the UK（2023年12月5日-The Verge） ■関連リンク（米国訴訟関連） 訴状（米国）（PDF） 画像生成AI「Stable Diffusion」をGetty Imagesが著作権侵害で提訴、これで2回目の法的手続き（2023年2月7日ーGIGAZINE） 訴訟取り下げを求めたStability AIによる主張（PDF）（2023年5月2日） Stability AI swerves copyright infringement allegations in response to Getty lawsuit（2023年5月3日-sifted） 第11回 AI関連訴訟・判例紹介シリーズ① Getty Images (US), Inc. v. Stability AI, Inc. (1 23-cv-00135)（2023年7月14日-渡邉国際法律事務所） Lensa AI開発元に対するイリノイ州住民の訴訟（米国） 原告 イリノイ州の住民グループ 被告 LensaAIの開発元｜Prisma Labs 裁判所 カリフォルニア北部地区連邦地方裁判所 2023年2月15日、Prisma Labs社が提供する画像生成AIを用いた画像編集アプリ「Lensa AI」がアメリカ・イリノイ州の住民グループより訴訟を受けた。訴状によるとLensa AIアプリ内の機能「Magic Avatars（マジックアバターズ）」において、許可なしにユーザーの顔の形状を収集した上でそれらのデータをPrismaのAIニューラルネットワークの学習に使用してデータを違法に保存しており、これはイリノイ州の「イリノイ州生体情報プライバシー法（BIPA）」に違反しているとの事。 ■関連リンク 訴状（PDF） AI-generated art “Magic Avatars” company sued for biometric theft（2023年2月15日-Loevy Loevy法律事務所） Lawsuit Alleges Lensa.ai App Illegally Took Users’ Biometric Data（2023年3月16日-PetaPixel） AIデータセットから自作品の削除を求めた写真家に対する逆訴訟（ドイツ） 原告 生成AI関連団体｜LAION 被告 ドイツ人写真家｜ロバート・クネシュケ ドイツ人写真家ロバート・クネシュケ（Robert Kneschke）氏は2023年初め、画像生成AI「Stable Diffusion」で使用されているデータセット「LAION-5B（※非営利団体LAIONによって作成）」内にある画像を見つけられるサイト「Have I been trained?」にて自分の作品が多数見つかったため、LAION側に削除を求めた。 しかしLAIONを担当する弁護士事務所は削除を拒否し、あくまで画像ファイルへのリンクを含むデータベースのみを保存しており画像データそのものは保存していないため著作権侵害に当たらず、同氏は作品を削除する権利は持たないとの回答を示した。さらに同事務所はドイツの著作権法に基づきLAIONは不当な請求があった際損害賠償請求を行う権利があるとして、クネシュケ氏に対し合計887.03ユーロ（約13万円）の損害賠償を求めた。 弁護士事務所は、LAIONが行った学習に伴う複製行為は一時的なものであり、ドイツの著作権法による制限が適用される。LAIONはクローラを用いて自己学習アルゴリズムの学習のためネット上で画像を見つけてその情報を得るため記録・評価を行っているのであり、これらの行為は著作権法には抵触しないとした。対してクネシュケ氏は、弁護士事務所が画像データ収集の際クローラの使用に言及した事について、ほとんどの写真投稿サイトがクローラの使用を禁止している事実を踏まえるとこの話は興味深いとし、LAION設立前に画像共有サイトから削除していたはずの写真をどこから入手したのか気になるとも指摘。 弁護士事務所は、LAIONが写真家の写真を一時的にとはいえ、複製しAI学習に利用される事を拒否している事は理解しているとしながらも、この行為は法で明確に許可された行為であるとしてクネシュケ氏に対し「作品をデータセットから削除して欲しい」との要求を取り下げなければいけないとした。一方クネシュケ氏は、LAIONのようなAI関連企業は大量の著作物を使用して学習を行い利益を得ようとする。故に「写真を削除して欲しい」との要求に対し損害賠償請求を警告する事は妥当であるが、作品データ削除請求の正当性立証のため裁判で争うつもりであると述べた。 ■関連リンク 画像生成AIによる作品の無許可使用を主張した写真家が逆に損害賠償を請求される（2023年4月27日-GIGAZINE） AI USED PHOTOGRAPHER’S PHOTOS FOR TRAINING, THEN SLAPPED HIM WITH AN INVOICE（2023年4月27日-Photography） ラジオ司会者によるOpen AI訴訟（米国） 原告 ラジオ司会者｜マーク・ウォルターズ 被告 AI開発企業｜Open AI 裁判所 ジョージア州グウィネット郡上級裁判所 2023年6月5日、米国ジョージア州のラジオ番組司会者マーク・ウォルターズ（Mark Walters）氏が、AI開発企業であるOpenAIに対し名誉棄損の疑いで訴訟を提起した。ジャーナリストであるフレッド・リール（Fred Riehl）氏がOpenAIが開発・運営するAIサービスChatGPTに対し裁判に関するPDF資料の要約を生成するよう指示した所、「マーク・ウォルターズ氏が非営利団体から500万ドルを超える資金を横領した」との内容が含まれていたという。ウォルターズ氏に関してそのような事実はなく、詳細は不明であるもののこの誤った要約内容がウォルターズ氏に伝わり今回の訴訟に至ったとされる。 ■関連リンク 訴状（PDF） OpenAI sued for defamation after ChatGPT fabricates legal accusations against radio host（2023年6月9日-The verge） コミッションサイトSkebによる開示請求訴訟（日本） 2023年5月18日、生成AI製作品の納品を禁止している日本のコミッションサイト「Skeb」が、AI製作品を検出するために行っている諸対策を突破するための方法をブログに公開し、営業権の侵害等をしているとされる人物に対し発信者情報開示請求訴訟を提起した。 「コミッション」とは、イラストレーターなどの個人クリエイターが、個人クライアントから有償で依頼を受け希望に沿ったイラストやボイス等を納品する海外発の文化である。Skebはクリエイターとクライアントの仲立ちをする「コミッションサイト」であり、何かとトラブルがありクリエイター不利になりやすいコミッションにおいて、クリエイター＝クライアント間のやり取りを最低限にしクリエイター有利の環境を構築した事でヒットした。 Skeb社は以前よりクレジットカードの不正利用等のために同サービスを悪用されることに対し対策を行ってきた。しかしながら2022年後半より本格的な画像生成AIが次々と登場したことにより、実際に人間が描いたものなのか悪用を意図してAI製画像を使っているのか識別がより難しくなったとされる。この状況に対してSkeb社は人間の目による識別作業を行ってきたが、加えて米国企業が開発したAI製画像識別AI「HIVE」を導入したと2023年3月1日に発表。 約2か月半の5月18日、HIVEの検出を逃れる方法をブログの記事として公開していた人物に対し発信者情報開示請求訴訟を行った（発表は6月30日）。該当する記事はその人物が自主的に削除したものの、発信者情報を保有しているプロバイダから情報の提供を受け次第、当該人物に対する営業権侵害等を理由として損害賠償請求等の法的対応を実施することを検討しているとSkebは明らかにした。 同年9月22日、Skeb社による申し立てが裁判所に認められ、サイト管理者に対し情報開示を命じる仮処分が決定した。 本事件は生成AIの存立にかかわる法的な動きではないものの、日本で行われた画像生成AI・生成系AI関連の法的対応の事例として記述した。 本wikiのページ「画像生成AI・生成系AIに対する各種プラットフォーム等の反応・対応まとめ」にも記述有り。 ■関連リンク イラスト生成AIを用いたSkebの不正利用への対応につきまして（2023年6月30日・9月22日追記-Skeb） 個人情報に関連したOpenAIへの訴訟（米国） 原告 クラークソン法律事務所が主導する原告団 被告 生成AI等開発企業｜OpenAI 裁判所 カリフォルニア北部地区連邦地方裁判所 2023年6月28日、クラークソン法律事務所は、OpenAI社が開発したチャットボット「ChatGPT」を訓練するために用いたデータセットが無数の人々の著作権とプライバシーを侵害しているとして集団訴訟を提起した。 ■関連リンク 訴状（PDF） ChatGPT開発のOpenAIがAI学習用データをめぐって集団訴訟を起こされる（2023年6月30日-GIGAZINE） OpenAI社、また訴えられる（2023年7月6日-GIZMODO） AI画像の無断使用によって発生したAIコンテンツの著作権付与に関する訴訟（中国） Beijing court’s ruling that AI-generated content can be covered by copyright eschews US stand, with far-reaching implications on tech’s use（2023年12月1日-South China Morning Post） 作家2名によるOpenAI訴訟（米国） 訴訟名 Tremblay v. OpenAI 原告 小説家｜ポール・トレンブレイ、モナ・アワド 被告 生成AI等開発企業｜OpenAI 裁判所 カリフォルニア北部地区連邦地方裁判所 2023年6月28日、小説家であるポール・トレンブレイ氏とモナ・アワド氏が著作権で保護されている自らの作品を、海賊版を利用した上で許可なくChatGPTへの学習に用いているとして同サービスを運営するOpenAIに対し訴訟を提起した。原告側を担当する弁護士事務所は、米国人アーティスト集団訴訟やGithub copilot訴訟も担当しているジョセフ・サヴェリ法律事務所。 ■関連リンク 訴状（PDF） 「ChatGPTの学習に海賊版の本が使われた」として作家がOpenAIを告訴（2023年7月4日-GIGAZINE） コメディアン等作家3名によるOpenAI・Metaへの訴訟（米国） 訴訟名 Kadrey v. Meta（対Meta）、Silverman v. OpenAI（対OpenAI） 原告 作家｜サラ・シルバーマン、クリストファー・ゴールデン、リチャード・カドレー 被告 生成AI等開発企業｜OpenAI、Meta 裁判所 カリフォルニア北部地区連邦地方裁判所 2023年7月7日、アメリカの有名コメディアンで作家活動も行っているサラ・シルバーマン（sarah silverman）氏と作家のクリストファー・ゴールデン氏、リチャード・カドレー氏が、OpenAI社が開発した「ChatGPT」とFacebook等で知られるMeta社が開発した「LLaMA」に対し、これらはインターネット上に流通している海賊版の書籍をデータセットとしてトレーニングしたものであり、著作権侵害であるとして両社を提訴した。 OpenAIに対する訴訟 2023年8月29日、OpenAIは裁判所に対し訴訟の一部を却下するよう求めた。 2024年2月14日、裁判所は原告側の主張の多くを棄却する判決を下した。原告側は一か月後の3月13日までに訴状の再提出が可能。 Metaに対する訴訟 2023年9月18日、Metaは裁判所に対し訴訟の多くを棄却するよう求めた。 ■関連リンク（OpenAIに対する訴訟） 原告側による訴訟内容紹介ページ 訴状／対OpenAI（PDF） 訴状-証拠物（PDF） OpenAIとMetaが著作権侵害で3人の作家から訴えられる（2023年7月10日-GIGAZINE） OpenAI asks court to trim authors' copyright lawsuits（2023年8月30日-ロイター） Sarah Silverman’s lawsuit against OpenAI partially dismissed（2024年2月14日-The Verge） ChatGPTに対する著作権侵害訴訟の前半戦でOpenAIがほぼ全面勝利、作家3人の訴えの大半が却下される ■関連リンク（Metaに対する訴訟） 訴状／対Meta（PDF） Meta tells court AI software does not violate author copyrights（2023年9月20日-ロイター） ピューリッツアー賞受賞者など作家5名によるOpenAI・Meta訴訟（米国） 訴訟名 Chabon v. OpenAI（対OpenAI）、Chabon v. Meta（対Meta） 原告 作家｜マイケル・シェイボン、デヴィット・ヘンリー・ウォンなど作家5名 被告 AI開発企業｜Open AI・Meta 裁判所 カリフォルニア北部地区連邦地方裁判所 2023年9月8日、ピューリッツアー賞受賞者であるマイケル・シェイボン氏など5名の作家は、AI開発企業であるOpenAI、マイクロソフトそれぞれに対し、無断でAIのトレーニングに自作品を利用したと主張し米国カリフォルニア州の裁判所に提訴した。 ■関連リンク 訴状・対OpenAI（PDF） 訴状・対Meta（PDF） More writers sue OpenAI for copyright infringement over AI training（2023年9月12日-ロイター） 全米作家協会と作家17名によるOpenAI訴訟（米国） 訴訟名 Authors Guild v. OpenAI Inc. 原告 作家団体 作家｜全米作家協会と作家17名 被告 AI開発企業｜Open AI 裁判所 ニューヨーク南部地区連邦地方裁判所 2023年9月19日、アメリカの作家団体である全米作家協会（The Authors Guild）と17名の作家がChatGPT等の開発を行うOpenAIを提訴した。原告は、被告側はインターネット上の海賊版書籍を開発に利用しているなどと主張している。 全米作家協会と共に提訴する作家は以下の通り。（以下敬称略） デイヴィッド・バルダッチ（David Baldacci）、 メアリー・ブライ（Mary Bly）、 マイクル・コナリー（Michael Connelly）、 シルビア・デイ（Sylvia Day）、 ジョナサン・フランゼン（Jonathan Franzen）、ジョン・グレシャム（John Grisham）、エリン・ヒルダーブランド（Elin Hilderbrand）、クリスティーナ・ベイカー・クライン（Christina Baker Kline）、マヤ・ラング（Maya Shanbhag Lang）、ビクター・ラヴァル（Victor LaValle）、ジョージ・R・R・マーティン（George R.R. Martin）、ジョディ・ピコー（Jodi Picoult）、ダグラス・プレストン（Douglas Preston）、ロクサナ・ロビンソン（Roxana Robinson）、ジョージ・ソーンダーズ（George Saunders）、スコット・トゥロー（Scott Turow）、レイチェル・ヴェイル（Rachel Vail） ■関連リンク 訴状（PDF） 全米作家協会によるプレスリリース：The Authors Guild, John Grisham, Jodi Picoult, David Baldacci, George R.R. Martin, and 13 Other Authors File Class-Action Suit Against OpenAI（2023年9月20日） John Grisham, other top US authors sue OpenAI over copyrights（2023年9月21日-ロイター） 全米作家協会も著作権侵害で提訴、「チャットＧＰＴ」訓練巡り（2023年9月21日-ロイター） Authors’ copyright lawsuit against OpenAI over ChatGPT begins（2023年11月29日-FOX business） 元州知事など作家5名によるMeta等複数企業への訴訟（米国） 訴訟名 Huckabee v. Meta 原告 作家｜マイク・ハッカビー、リサ・テルクールストなど5名 被告 AI開発企業・団体｜Meta、マイクロソフト、ブルームバーグ、EleutherAI 裁判所 ニューヨーク南部地区連邦地方裁判所 2023年10月17日、元アーカンソー州知事であるマイク・ハッカビー氏など作家グループ5名が大規模言語モデル「Llama2」を構築したMetaなどに4つのAI開発企業・関連団体に対し、海賊版なども含まれる書籍データセットBooks3等を通じ自身の作品を無断でAIのトレーニングに利用したのは著作権侵害であるとして、ニューヨークの裁判所に提訴した。 原告は以下の5名。（敬称略）いずれも作家活動を行っている。 マイク・ハッカビー（Mike Huckabee）、デイビッド・キナマン（David kinnaman）、ツッチ・オクサンレイダー（Tsh Oxenreider）、リサ・テルクールスト（Lysa Terkeurst）、ジョン・ブレイズ（John Blase）。 被告側は、Facebook等で知られるMeta、Windows等で知られるマイクロソフト、そしてその2社と共同でLlama2の構築を行ったとされるブルームバーグ、そしてそれにデータを提供したとされるAI関連団体EleutherAIの4団体・企業。 ■関連リンク 訴状（PDF） Authors sue Meta, Microsoft, Bloomberg in latest AI copyright clash（2023年10月19日-ロイター） ユニバーサルミュージック等によるAnthropic社への訴訟（米国） 訴訟名 Concord Music Group, Inc. v. Anthropic PBC 原告 音楽会社｜ユニバーサル・ミュージック、ABKCO、コンコード・パブリッシング 被告 AI開発企業｜Anthropic 裁判所 テネシー中部地区連邦地方裁判所 2023年10月18日、音楽パブリッシャーであるユニバーサル・ミュージック、コンコード・パブリッシング、ABKCOの3社は、AI企業であるAnthropic(アンソロピック) 社を著作権違反であるとして提訴した。 ■関連リンク 訴状（PDF） Music publishers sue AI company Anthropic over song lyrics（2023年10月19日-ロイター） 音楽出版社大手、歌詞をめぐる著作権侵害でAnthropicを提訴——生き残りを賭け、生成AI各社は戦々恐々（2023年10月20日-BRIDGE） Anthropic fires back at music publishers' AI copyright lawsuit（2024年1月18日-ロイター） ノンフィクション作家1名+11名によるOpenAI・マイクロソフトへの訴訟（米国） 訴訟名 Sancton v. OpenAI 原告 作家｜ジュリアン・サンクトン+23年12月に11名追加 被告 AI開発企業｜OpenAI・マイクロソフト 裁判所 ニューヨーク南部地区連邦地方裁判所 2023年11月21日、アメリカのノンフィクション作家であるジュリアン・サンクトン（Julian Sancton）氏が、AI開発企業のOpenAIとマイクロソフトを相手取り訴訟を起こした。 同年12月19日、原告側は修正した訴状を提出、新たに11名の作家が原告として参加した。追加で参加した作家は以下。（敬称略） ジョナサン・アルター（Jonathan Alter）、カイ・バード（Kai Bird）、テイラー・ブランチ（Taylor Branch）、リッチ・コーエン（Rich Cohen）、ユージン・リンデン（Eugene Linden）、ダニエル・オクレント（Daniel Okrent）、ハンプトン・サイズ（Hampton Sides）、ステーシー・シフ（Stacy Schiff）、 ジェームズ・シャピロ（James Shapiro）、 ジア・トレンティーノ（Jia Tolentino）、シモン・ウィンチェスター（Simon Winchester） ■関連リンク 訴状（PDF） OpenAI, Microsoft hit with new author copyright lawsuit over AI training（2023年11月21日-ロイター） New Lawsuit Ropes Microsoft Into OpenAI’s Legal Battle With Authors Over Training Data（2023年11月21日-The Hollywood Reporter） 修正訴状（PDF）（2023年12月19日） 中国人アーティスト4名による訴訟（中国） 中国人アーティスト4名が中国のSNS「小紅書」に対し、自分達の作品を無断でAIに学習させたのは著作権の侵害だとして中国の裁判所に提訴した。本件は、中国初の生成AIの学習データの著作権に関する訴訟だとされる。 ▼裁判について解説するポスト。 ■関連リンクニューヨークタイムズOpen AI・マイクロソフトニューヨークタイムズは米国のAI開発企業Open AIとマイクロソフトに対し、「自社の記事がAI開発のために無断利用されており、そのうえで市場の競合が起きている」「ChatGPTは自社の記事から『逐語的』な抜粋を生成する事があり、読者が購読料を支払わずにニューヨークタイムズのコンテンツを読むことが出来る。そのため購読による収入とウェブサイト訪問者が広告をクリックする機会を失っている」などと主張し、ニューヨークの連邦地方裁判所に提訴した。■関連リンクニコラス・A・バズベインズ、ニコラス・ゲージOpen AI・マイクロソフトノンフィクション作家であるニコラス・A. バスベインズ氏（Nicholas Andrew Basbanes）とニコラス・ゲージ氏（Nicholas Gage、訴状ではNichoras Ngagoyeanesの名で表記）が、AI開発企業であるOpenAIとマイクロソフトに対し自作品を無断でAIのトレーニングに使用したとしてニューヨーク南部地区連邦地方裁判所に提訴した。■関連リンク特撮作品の「ウルトラマン」シリーズの中国国内での独占著作使用権を円谷プロダクションから得ている中国企業が、生成AIサービスを運営している中国企業に対し起こした訴訟。原告側の権利侵害に関する主張を認める判決を下した。■出典・関連リンクR・ランス・ヒルMGMスタジオ、アマゾンスタジオフロリダ州の女性Open AI■関連リンクインターセプト、ロー・ストーリー、オルターネットOpen AI・マイクロソフト（※）米国のネットメディアであるインターセプト（The Intercept）、ロー・ストーリー（Raw Story）、オルターネット（AlterNet）は、AI開発企業OpenAIに対し著作権侵害訴訟を提起した。■関連リンクブライアン・キーン、アブディ・ナゼミアン、スチュワート・オナンNVIDIANVIDIA社が展開する生成AIモデル開発フレームワーク「NVIDIA Nemo」を対象に、作家であるブライアン・キーン（Brian Keene）氏、アブディ・ナゼミアン（Abdi Nazemian）氏、スチュワート・オナン（Stewart O'Nan）氏の3人が、NVIDIA Nemoのトレーニングに自身のコンテンツが無断利用されたとして、同社を提訴した。■関連リンク
https://w.atwiki.jp/genai_problem/pages/38.html
注意！このページは実在する人物について記述しています。編集は慎重にお願い致します。攻撃的・侮辱的な表現はお控えください。 このページでは「画像生成AIの具体的な炎上・論争・被害などの事例」をまとめています。 →画像生成AIの包括的な問題点は当wiki内「画像生成AIは何が問題なのか？」ページをご参照ください。 + 編集者の方へ 具体的な炎上・論争・被害事例をINBOX式に放り込むようにまとめられるページをつくります。 たたき台です。自由に編集・改変してください。 新しい問題点を書く場所が分からない場合は、下部の「その他」欄に加えてください。 情報量が膨らんできたら個別ベージ化も検討してください。 目的：AI画像生成・生成系AI問題年表の2～3行では収まりきらない事例をソース貼り付けや補足テキストで補完するページにしたい。 目的：年表に追加しないような出来事・個別事例もまとめの対象にしたい。 目的：このページを「具体的な事例まとめページにする」ことで画像生成AIは何が問題なのか？ページの置き場所を基礎知識に移動したい→移動完了。 目標：韓国のAIについての有志wiki（그림 인공지능/논란 및 사건 사고） のレイアウトを参考にします →海外の記事を機械翻訳したものをそのまま貼り付けていると思われる箇所が見られます。後からの文章の整形が非常に難しくなるため、最低限ご自分で整えてから貼り付け、引用元の文章のソースを貼り付けてください。 下の画像はSNS等にこのwikiのURLを貼り付けた際表示されるサムネイルとなることを想定して作った画像です。仮の画像ですので自由に差し替えて頂いて構いません。 【目次】 1.【概要】 2.【コンテスト参加・受賞の議論】ミッドジャーニー絵画コンテスト優勝事件 ソニー・ワールド・フォトグラフィー・アワード写真賞論争 世界報道写真大会が生成AIを受け入れると発表し批判噴出 3.【AI画像生成を隠して自作発言】 4.【販売サイトでのAI画像生成使用】BOOTH VTuberによるAI背景画像107枚無料配布炎上 FANZA・DL.site 大量枚数CG集の大量審査登録埋め尽くし事件 Kindle Unlimited AIグラビア写真集埋め尽くし事件 イラストをAIイラストに置き換え、ゲームデータを丸パクリした同人ゲームの販売 5.【コミッションサイトでのAI画像生成使用】SKIMAのキャラ販売荒らし 6.【クリエイターのAI画像生成使用の議論】 7.【商業などにおけるAI画像生成使用の議論】スシロー ChatGPTに考えてもらった「スシンギュラリティ」連投事例 イベント「銀座今昔きもの大市32th」 中国国内でイラストレーターの失業が増加 海上保安庁広報物へのAIイラスト利用 8.【無断学習問題・論争】AI画像生成学習に対する一般の認識誤差 じゃんけんアニメーションの『吸血鬼ハンターD (ブラッドラスト)』学習論争 pixivウマエロアカウント停止騒動 キム・ジョンギ氏イラストAI学習と故人の作品の扱いに対する論争 Nekojira氏作家無断学習事件CivitAI Niji Journey(V5) t2i『カードキャプターさくら事件』 9.【追加学習・集中学習モデルの氾濫】Pastelmix集中学習問題 盗用学習モデル共有サイトCivitAIの存在 basilMix商用利用禁止による派生モデル使用の論争 10.【訴訟関連】米国アーティスト3人による集団訴訟 米Getty Images社による訴訟 Lensa AIに対する米イリノイ州住民の集団訴訟 AIデータセットから自作品の削除を求めた写真家に対する逆訴訟 コミッションサイトSkebによる開示請求訴訟 11.【作家・クリエイターに向けた嫌がらせ】mimic炎上後のイラストレーターお気持ち言論封殺の空気感造成 「イラストやデザインの仕事はとても退屈です。芸術的であることが重要なのではなく、あなたは道具なのです。」 VTuberのファンアートタグへの投稿 生成AI使用者への行き過ぎた中傷活動 12.【img2img機能による盗用・盗作事件】AIイラストレーターゆーます氏i2i疑惑 14.【リアルなフェイク画像、騙す人々騙される人々】静岡県の水害「ドローンで撮影された浸水した街の写真」フェイク画像拡散事件 「白いパファーコートを着たローマ教皇の偽画像」が格好いいと拡散されるが、Midjourneyで作成された偽物 AIで“なりすまし”ビデオ通話…8500万円振り込ませる 中国で詐欺相次ぐ 14.【ディープフェイク、剥ぎコラアイコラ事件】児童に関わるセンシティブ画像問題 15.【その他】 参考 1.【概要】 AI画像生成を活用した問題・炎上・被害事例は、ここにすべて記載するには不可能な規模で、世界中で広範囲に発生している。 イラストコンテンツ市場が発展している日本だけでなく、東アジア、アメリカ、欧州をはじめ様々な国家の作家たちが相当な被害を受けている実態である。 したがって、ここに記載された事件事例はAI画像生成シーンで起こった事件・事例のごく一部であることを前置きさせていただく。 特に無断学習事例の場合、有名イラストレーターの絵を学習させ、その生成物をお金で売る事例まで確認されている。 人工知能(AI)の技術に対する神秘主義者と技術者たちの期待に満ちていた黎明期とは異なり、画像生成AIは発展するばかりではなくそこから生じる様々な技術的な限界と問題点が続々と表れている。 そして、そのような限界を無視しようとするため、およびAI絵の生成をより容易にするために他者のイラストなど画像を無断盗用し、画像生成AIを事実上著作権ロンダリング用途として使用する事例が急増している。 参考：韓国のAIについての有志wiki（그림 인공지능/논란 및 사건 사고） 2.【コンテスト参加・受賞の議論】 ミッドジャーニー絵画コンテスト優勝事件 コロラド州立博覧会美術大会優勝後に画像生成AI Midjourneyを使用したことを作家がSNSで直接明らかにして論議になった。 主催側はAIを使用したことを知って審査したが、結果は変わらなかったとし、優勝剥奪はしなかった。 2022年9月8日『AI作品が絵画コンテストで優勝、アーティストから不満噴出』 https //www.cnn.co.jp/tech/35192929.html ソニー・ワールド・フォトグラフィー・アワード写真賞論争 受賞者、ドイツの芸術家ボリス・エルダグセン氏は「AIを巡る議論を喚起したかっただけだ」と主張する。 「AIの画像と、普通の写真を、互いに競わせるべきではない。私はあえて『生意気な子供』になってみせ、AIによる画像にどれだけ主催者が準備できているか見ようとした。その結果、できていなかったということだ」と述べている。 2023年4月18日『AI製の写真に賞 独芸術家の行為で論争』 https //news.yahoo.co.jp/articles/c2afc2b35e796659e3584269f8b412bc08eca771 世界報道写真大会が生成AIを受け入れると発表し批判噴出 世界で最も権威ある報道写真大賞のエントリーに画像生成AIを受け入れると主催団体が公式インスタグラムに投稿した。これによって多くの批判が寄せられ、ピューリッツァー賞を受賞した写真家まで懸念を表明。 わずか数日で主催団体は撤回文を掲載する事態となった。 2023年12月23日『批判殺到により撤回……報道写真と生成AIは「混ぜるな危険」！』 https //tabi-labo.com/308473/wt-press-photo-contest-ai 3.【AI画像生成を隠して自作発言】 AI画像生成ツールが高性能になるにつれて、AI製であることを隠し、あたかも自分が描いた絵のように画像を発表するものが増えた。 例として挙げられないほど多くの手描きを偽る投稿者がpixivやTwitterなどで活動している。 問題が発覚してもアカウントを乗り換えたり、別の絵柄を学習させ絵柄を変えることで活動を再開するケースもありいたちごっこの様相を呈している。 4.【販売サイトでのAI画像生成使用】 BOOTH VTuberによるAI背景画像107枚無料配布炎上 2023年4月22日 Niji Journey v5を用いたAI背景画像107枚無料配布が物議をかもす。 VTuberの配信用の素材用途として配布され、背景アーティストの市場破壊が懸念された。 この行為に対する意見は賛否両論で「背景画を描く大変さが分かっていない」「この程度で市場破壊は大袈裟すぎる」という意見が見られた。 https //gamejksokuhou.com/archives/87494320.html FANZA・DL.site 大量枚数CG集の大量審査登録埋め尽くし事件 FANZAやDL.siteは大量のAI出力による販売物の審査や対応に追われることになった。 5chの同人板のスレッド「AI絵師のマネタイズスレ」では副業収入のために審査状況を日々書きこむ人が多数発生した。 後に販売サイトのルールが変更され、AI生成作品の投稿は一か月に一度だけと定められた。 Kindle Unlimited AIグラビア写真集埋め尽くし事件 amazonが展開する定額読み放題サービス「Kindle Unlimited」では実写系AI画像のグラビア写真集が大量に登録され、閲覧性を大きく低下させた。 「Kindle Unlimited」では閲覧数に応じたコンテンツ収入があるため、商材屋や副業収入ビジネスの売り場として目をつけられたということになる。 イラストをAIイラストに置き換え、ゲームデータを丸パクリした同人ゲームの販売 DLsiteで販売されていた同人ゲーム「サクラクエスト」はランキング上位を維持していたがそのデータの中身が別の同人ゲームをそのまま流用し、イラストを置き換えただけの作品と判明(すでに販売停止済み)。 「【DLsite】画集の販売を禁止されたＡＩ生成作品、今度は他人作ったツクールのデータをコピー、ＡＩにポジティブな人たちからも絶望の声」 https //togetter.com/li/2150108 5.【コミッションサイトでのAI画像生成使用】 AI画像生成が登場してから、AI製であることを隠し「手描きで納品する」作家のふりをしてコミッションを受注するものたちが現れている。 日本国内のコミッションサイトの多くは「AI生成作品の禁止」を掲げているが、中にはサイトのAI検出機能を潜り抜けてまでコミッションサイトを利用しようとする者もいる。 SKIMAのキャラ販売荒らし コミッションサイト「SKIMA」にて2022年10月頃より、AI生成を用いたイラストの販売が行われるようになった。 SKIMAには「キャラ販売」という完成品のアイコンや立ち絵などを販売するスペースがあるのだがこれにAI作品が紛れ込むことにより、意図せずにAI商品を購入してしまう事例が発生。 また、AIは簡単に出力できてしまうため、市場を荒らすことにも繋がるほか、出力時間に対して安価で販売しても損にならないので販売側にとっては良いこと尽くめであった。 SKIMA運営の当初の対応は鈍く、一部ユーザーからは不満の声も上がっていた。 同月21日には禁止行為に「AIを用いて生成した商品や作品の出品、掲載、売買はお控えください。」を加えたことや通報に対しての反応速度が上がったことにより、AI商品の出品は以前と比べると大幅に減った。 だが、荒らされた市場がそれで戻ったかというとそういうわけでもなく、手直しできるAI術師による修正品も出回っているのが現状である。 6.【クリエイターのAI画像生成使用の議論】 イラストレーターが作画の工程にAI画像生成ツールおよびAI生成物を用いる事例が度々発生しているが、Midjourneyなど生成サービス側の規約で「商用利用可」となっていても、日本の現行法においてAI生成物の研究目的以外の利用については未だ不鮮明なのが実情である。 「法が整備されるまで作品制作への画像生成AI使用・商業利用は控えた方がいいのでは」という指摘とともに議論を呼んでいる。 また、イラスト分野以外の文章系・音楽系などのクリエイターが、自身の創作物のサムネイルや挿絵などにAI画像生成を用いることも問題となっている。 分野は違えど、コンテンツクリエイターとして幅広い生成系AIの問題点を理解することが大切である。 7.【商業などにおけるAI画像生成使用の議論】 AI生成画像を商用で使って論争になった事件である。 Midjourneyなど生成サービス側の規約で「商用利用可」となっていても、日本の現行法においてAI生成物の研究目的以外の利用については未だ不鮮明なのが実情である。 「法が整備されるまで商業利用は控えた方がいいのでは」という指摘とともに議論を呼んでいる。 スシロー ChatGPTに考えてもらった「スシンギュラリティ」連投事例 2023年4月11日、回転寿司チェーン大手のスシローが公式Twitterでスシンギュラリティと称して、AI生成画像を大量にアップしてしまう。 スシローは別件で炎上・風評被害を受けた後のイメージ回復が大事な時期であったため、著作権法をクリアできるかが怪しい「スシンギュラリティ」の投稿を心配される反応も見られた。 AI画像生成検知WEBサービスHiveに画像を通したところ、Midjourneyで生成された確率が高いとの結果が出た。 さらには、「スシンギュラリティ」企画のアイデア自体もChatGPTに提案してもらったものだったことが発覚する。 そしてほぼ同時期に、ウエルシア、森永乳業、zzzgooといった企業でもAI生成画像の利用が確認された。 https //twitter.com/akindosushiroco/status/1645637801868775425 イベント「銀座今昔きもの大市32th」 2023年4月17日 広告に使われた着物を着る女性イラストについて、着物の合わせが違うこと、Adobe Stockの透かしが浮き出ていることなどが指摘され話題になる。 イベント運営者側がAI画像生成ツールを使用したのではなく、元画像の投稿者がAI画像生成にて画像を生成しAdobe Stockに素材登録した可能性がある。 余談だが「32th」ではなく「32nd」表記なのでは？とツッコまれてもいた。 イベント「銀座今昔きもの大市32th」の告知ツイートにAI製と思われる画像が使用される。 https //twitter.com/konjyaku_kimono/status/1647968046802440192 中国国内でイラストレーターの失業が増加 「中国、画像生成AIでイラストレーターの失業増加 求人7割減の都市も」 https //news.yahoo.co.jp/articles/3d1736e99a53dd22617d587331fc351dfaee993e AI生成の精度が向上したことにより、中国国内ではメーカーがイラストをAIで出力する事態が起こっている。 イラストレーター自体の仕事はというと小さな修正ばかりとなり、報酬も以前の10分の1程度にまで下がってしまった。 中国でもAIイラストが他人の創作物を勝手に流用している件から反発が起こっており、ゲームユーザーからは「デジタル死体」と非難されている。 海上保安庁広報物へのAIイラスト利用 2024年3月28日、海上保安庁は公式Xアカウントで海の安全に関する注意喚起のポストを投稿。この中で使われていたアニメ風の女性が夕日を背に振り向くイラストについて、生成AIで作られたイラストではないかとの指摘がされ、ネット上で議論を呼ぶこととなった。「（現状の生成AIが抱える問題を考えれば）AIイラストを使うのは問題がある。」「仮にAIであったとしても問題はない。」と言った意見があり、そもそも該当するイラストがAI製かどうかについても「目やまつ毛が不自然に融合していたり、髪飾りが溶けておりこれはAI製ではないか」「このイラストはAIでは作られていない、言いがかりではないか」といったものが見られた。 4月1日、海上保安庁は本件に関するメディアBuzzfeedの取材に「AIイラストを使った」と明かした。このイラストは海上保安庁の公式サイト内の特設ページ「ウォーターセーフティガイド」で3月上旬より使用されたもので、同月4日から同庁のXアカウントでも度々投稿されており、リーフレットとして配るため各地の海上保安部に送付していた。生成AIを利用した理由としては「イラストレーターが描いた場合描き手のイメージがつくので、なるべくフラットな状態で一般の方へ海難防止のメッセージを伝えたかった」というものであった。本件の後、海上保安庁はイラスト掲載発表後に取りまとめられた文化庁の「AIと著作権について」ガイドラインや28日の投稿の炎上を考慮し、29日に公式サイトでの掲載を削除、このイラストの載ったリーフレットの配布中止を決めるといった対応を行った。今後、Xでの該当投稿の削除は行わないものの新規投稿は行わないとし、「今後の生成AI利用についてはSNSでの意見を真摯に受け止めて考えていきたい」とした。 【出典、関連記事など】 ◇海上保安庁公式Xアカウントでの投稿（2024年3月28日） ◇海上保安庁、AIイラストを使ったリーフレットを配布中止。SNSの反響などを受けて（2024年4月1日-Buzzfeed） ◇海辺でほほ笑むアニメ風女性イラスト、生成ＡＩ作製に「著作権侵害」の批判…海保がパンフ配布取りやめ（2024年4月2日-読売新聞） 8.【無断学習問題・論争】 AI画像生成学習に対する一般の認識誤差 国内外の多くのAI生成問題を追う人々が度々警告することの一つにAI学習に対する認識エラーがある。 AIの学習方式と人の学習がどれくらい似ているかを証明できる理論や根拠が国内外で不足しており、AIに過度の幻想や人格を与えて曲解しながら生じる様々な議論が頻繁に起こっている。 同時にAIの学習が人間と異なるため、AIに学習させることは知的財産権、著作権、著作者人格権、肖像権などのような基本権侵害をロンダリングするのに使用してもよいと勘違いが横行している点が問題となっている。 このため、Stable Diffusionローカル環境が登場したとき、様々な作家たちの知的財産権である絵、イメージデータを追加で学習し、AI生成物として選んだから「AIが生成したから」道義的責任がないと主張したり、そのように受け入れて単純消費財のように受け入れる人々の数が相当に増えた。 引用：https //namu.wiki/w/%EA%B7%B8%EB%A6%BC%20%EC%9D%B8%EA%B3%B5%EC%A7%80%EB%8A%A5/%EB%85%BC%EB%9E%80%20%EB%B0%8F%20%EC%82%AC%EA%B1%B4%20%EC%82%AC%EA%B3%A0#toc じゃんけんアニメーションの『吸血鬼ハンターD (ブラッドラスト)』学習論争 アメリカロサンゼルスに在するYouTubeのインディーコンテンツ制作会社は、画像生成AI Stable Diffusionを利用して短編アニメーションを作成した。 このアニメーション『ANIME ROCK, PAPER, SCISSORS』訳して「アニメじゃんけん」は2023年2月27日にAIで制作した短編アニメーション動画としてアップロードされ、華やかな映像美と演出、シュールなコメディさ、日本のアニメソング風の歌が挿入されるギャップ、そして「大の男が迫真な演技でじゃんけんをする」という場面演出を納得させるような珍妙なプロットのおかげで日本のSNSでも好評な反応が続く。 問題はAIの学習方法であった。既存のベースモデルのAIイラストも誰かの絵を無断で学習したものなので著作権議論の余地があるが、今回の場合は加えてYouTubeにアップされたアニメ『吸血鬼ハンターD (ブラッドラスト)』のサンプルを同意なく掻き集めてまとめて追加学習させた後作業したとのこと。 この追加学習の点が大きな問題点として話題となった。 そうした注目の中、「高効率の作業を低労働で容易にやり遂げることができるようになった」「私たちはアニメの民主化を生み出した」などの発言も見られた。 この発言には多くのアニメーターが批判的な対応をとられた。その中でネットフリックス・キャッスルバニアアニメ監督やラルフ・バクシーなどの巨匠アニメーター兼監督も否定的な反応を見せた。(https //twitter.com/SamuelDeats/status/1630459610481020928) また、創作界の門戸も可能性も常に開かれているものであるのに、「AIにより創作が可能な新しい時代が開かれた」とAIの到来に賛美・迎合する人々に否定的な意見を表した。 一方で、当該の「じゃんけんアニメーション」は本当にすべての作業をAIが100％進行したのではなく、「撮影された実写映像に基づいてAIがi2iでフィルタをかける一種のロトスコーピング技法」のような手段で製作されている。 議論となった部分以外の3Dアセット、衣装、脚本などの構成要素は人の手で作られたという点では「AI画像生成の著作権侵害問題を将来的に解決すれば結局、アニメーション作画作業をAIに任せるようにした時間が浮く。空いたリソースを詳細な問題に集中できるようになる」という旨の肯定的な意見も見られた。 制作陣側も議論について認知して制作過程を盛り込んだ映像のコメント(https //youtu.be/_9LX9HSQkWo)を通じて自分たちの立場を明らかにしている。 【日本のSNSでの反応まとめ】 画像生成AIを用いて制作されたアニメ『ANIME ROCK, PAPER, SCISSORS』訳して「アニメじゃんけん」が話題になる。 役者の動きを撮影した動画をStable DiffusionでAI変換しているが『吸血鬼ハンターD ブラッドラスト』のスタイルを取り込んでいることが問題視される。 https //togetter.com/li/2091310 引用：https //namu.wiki/w/%EA%B7%B8%EB%A6%BC%20%EC%9D%B8%EA%B3%B5%EC%A7%80%EB%8A%A5/%EB%85%BC%EB%9E%80%20%EB%B0%8F%20%EC%82%AC%EA%B1%B4%20%EC%82%AC%EA%B3%A0#toc pixivウマエロアカウント停止騒動 株式会社Cygamesが運営している『ウマ娘』はかねてより公式の二次ガイドラインにて「性的描写を含む二次創作」を禁止していた。 しかしながら、同作品のキャラクターを簡単に出力可能とするLoRAが普及してから、ガイドラインを守らないAI生成物を投稿するユーザーが激増する。 AI画像生成以前より手描きのユーザーの間でもこの問題は存在していたが、AI量産の敷居の低さからモラルハザードを加速させた。 詳しい経緯は当wiki内個別ページ→pixivウマエロアカウント停止騒動で紹介する。 キム・ジョンギ氏イラストAI学習と故人の作品の扱いに対する論争 韓国の作家キム・ジョンギ氏が亡くなった4日後の2022年10月7日。 ある人物がStable Diffusionモデルでキム・ジョンギ氏の遺した作品を追加学習させた後、彼の画風に沿って描くAI画像生成追加学習モデルを自分のTwitterに公開したことで議論を呼んだ。 https //www.dogdrip.net/437122593 こういった「絵柄模倣AI」と言われる追加学習モデルの生成物においては、人が描けば「絵柄パクリではないか」という指摘が生まれる。 しかしながら、「絵柄」自体は著作権の保護領域ではないため、この「絵柄模倣AI」を扱うことに対しては違法性があるかどうかを問うことはできない。 ただ、法的な問題とは別として、道義的な次元での問題が物議を交わした。追加学習モデル作成者は、「人が亡くなった後に故人の名前を表記して告知したAIモデルで収益や注目を集めよう」という意図が見えることに対して批判を受けることになった。 さらには、そのAI追加学習モデルを使った生成作品にキム・ジョンギ氏の名前ではなく、自分のAIをクレジット(サイン)として残していた。本当に純粋にキム・ジョンギ氏を心から追悼しようとする意図で作成した追加学習モデルだったのなら、少なくともそれを用いて出力したAI生成作品のクレジット上ではキム・ジョンギ氏の名前を記載して「彼を覚えてほしい」という姿勢を示さなければいけないのではないかという指摘が出ていた。 以後、炎上後、該当AI追加学習モデル作成者は「キム・ジョンギ氏の魂をデジタルでバックアップして、今後も彼が絵を描くことができるようにすることの何が問題なのか」という旨の発言をした。その生成物の収益の一部が遺族に行くなどであればまだ分かるが、実のところ100%AI追加学習モデル作成者に行っていて批判を避けられない。 故人の作品を勝手に追加学習の対象に選ぶことの倫理・道義について、早くも韓国を中心に話題になった出来事であった。 引用：https //namu.wiki/w/%EA%B7%B8%EB%A6%BC%20%EC%9D%B8%EA%B3%B5%EC%A7%80%EB%8A%A5/%EB%85%BC%EB%9E%80%20%EB%B0%8F%20%EC%82%AC%EA%B1%B4%20%EC%82%AC%EA%B3%A0#toc Nekojira氏作家無断学習事件CivitAI ツイッター50万フォロワーのNekojira氏のイラストを無断でLoRA学習させた事件が発生した。 https //twitter.com/Nekojira/status/1633882318787198978 このTwitterの投稿がされた後、多くの人が「そのAIモデルが不適切である」という反応を示した。 作家への慰めの反応や、AIモデルシェアサイトであるCivitAIの異常性に対する反応、無断追加学習AIモデルを報告しなければならないという様々な意見が出た。 引用：https //namu.wiki/w/%EA%B7%B8%EB%A6%BC%20%EC%9D%B8%EA%B3%B5%EC%A7%80%EB%8A%A5/%EB%85%BC%EB%9E%80%20%EB%B0%8F%20%EC%82%AC%EA%B1%B4%20%EC%82%AC%EA%B3%A0#toc Niji Journey(V5) t2i『カードキャプターさくら事件』 AIインフルエンサーの一人である852話氏がいつものようにテキストでAI生成する中、『カードキャプターさくら(原作：CLAMP)』を固有名称で明示するプロンプトで生成しなかったのに、そのキャラクターそっくりの画像が生成されたとツイートをした。 このAIイラストは「90年代の同人便せん」のプロンプトで生成したという。 既存のCLAMP作品の中に似たようなイラストがないかをフォロワーに尋ねるツイートがされ、これに多くの情報提供リプライがされた。 しかし、852話氏は「原本の感じを生かしたオリジナル（？）」と結論を下し、自己の合理化をした。 https //gall.dcinside.com/mini/board/view/?id=drawing no=41484 852話氏の行動は別として、上記事件はAI生成使用者が意図しなくても「プロンプトで直接キャラクラー名や作品名を指示せずとも有名IP盗用問題が生じること」を示唆する事例として、注目する必要がある。 今回のカードキャプターさくらのAI生成では「元作品を十二分に知っている人なら違和感に気付ける(さくらの顔が小狼っぽい・ケロちゃんがやや太っている)が、あまり知らない人から見れば公式絵だと勘違いされる」という点が挙げられる。 また、本件が実際に起こったのはNiji Journey v5上のことであり、同サービスの傾向・特徴として注意が必要である。 引用：https //namu.wiki/w/%EA%B7%B8%EB%A6%BC%20%EC%9D%B8%EA%B3%B5%EC%A7%80%EB%8A%A5/%EB%85%BC%EB%9E%80%20%EB%B0%8F%20%EC%82%AC%EA%B1%B4%20%EC%82%AC%EA%B3%A0#toc 9.【追加学習・集中学習モデルの氾濫】 LoRAに関する解説ページ→LoRAによる個人や作品の無断学習問題 Pastelmix集中学習問題 Stable Diffuison向けモデル「Pastelmix」は特定のイラストレーターの絵柄・画風を集中学習して作成された疑惑がある。 LoRAと違い、その上位層である"モデル"であるため厄介である。なお、「Pastelmix」にはLoRA版も存在する。 盗用学習モデル共有サイトCivitAIの存在 AI画像生成ユーザーの間ですら「無法地帯」と呼ばれるサイト。 このサイトで共有されている学習モデルの中には、特定の作家の絵を集中的に学習したモデル(LoRA)も多数含まれている。 また、実在する芸能人やモデル、インフルエンサーの顔を学習させたLoRAも多く共有されており、モラルが崩壊しているサイトである。 LoRAは通報の手段もあるので怪しいモデルを見つけたら通報するのがいい。削除の成功実例もある。→⇒LoRAの通報・削除申請の仕方はこちら basilMix商用利用禁止による派生モデル使用の論争 basilmixはInstagramデータセットを使用し、アジア系の実写画像を生成できるようにStableDiffusionをファインチューニングしたモデルである。 NAIリークモデル成分も入っており、マージベースとしても利用しやすくなっている。 このモデルは実写方面はもちろん、アニメ方面にも影響を及ぼし、様々なモデルにマージベースとして利用されていた。 そのbasilmixモデルが2023年4月、商用利用禁止へ規約変更された。 basilmix、および同モデルの派生モデル利用者の商用利用に嫌気がさしたことが原因か。 「basil mixについて、ライセンスの更新を行いました ややこしいこと書いてありますが、基本的に非営利であれば今まで通りでOKです」 https //twitter.com/nuigurumi1_KR/status/1647927779164573696 basilmixをマージして製作されたモデルの中でも代表的な「ChilloutMix」使用者などの方面へ大きく混乱・論争を呼んだ。 その後、派生モデルの中からbasilmixモデル成分を抜き取ったモデルを新規に醸成するなどの展開が起き、事態は混沌を招いている。 10.【訴訟関連】 この項目では「画像生成AI」に関連する訴訟のみをまとめている。 生成系AI全般に関する訴訟をまとめたページ⇒「生成系AIに関する訴訟・法的対応一覧」 米国アーティスト3人による集団訴訟 2023年1月13日にイラストレーター、コンセプトアーティスト、コミック作者から、著作物の無断利用を理由に、開発元のStability AI.、生成サービスのmidjourney、無断学習を黙認したDeviantArt社に対して集団訴訟を提起した。 Stable Diffusion litigation · Joseph Saveri Law Firm Matthew Butterick https //stablediffusionlitigation.com/ アーティストの作品でAI訓練 「無断で複製された」米国で集団提訴(有料記事)（2023年4月12日-朝日新聞） 作家そっくりの作風、ChatGPTが「作品」…著作権の保護曖昧（2023年4月26日-読売新聞） 米Getty Images社による訴訟 フォトストック大手の米Getty Images社は、2023年1月17日、ロンドンの高等裁判所において、著作物・商標権の無断使用及び無断複製でStability AI社に対して訴訟を提起したと発表した。 また、2023年2月3日にアメリカ・デラウェア州地方裁判所において、Stability AI社に対して、著作物・商標権の無断利用及び無断複製を理由に訴訟を提起している。 画像生成AI「Stable Diffusion」開発元のStability AIがかつてGoogleを和解に持ち込ませたこともあるストックフォトサイトのGetty Imagesに訴えられる(2023年1月18日-GIGAZINE) 画像生成AI「Stable Diffusion」をGetty Imagesが著作権侵害で提訴、これで2回目の法的手続き（2023年2月7日-GIGAZINE） Lensa AIに対する米イリノイ州住民の集団訴訟 2023年2月15日、Prisma Labs社が提供する画像生成AIを用いた画像編集アプリ「Lensa AI」がアメリカ・イリノイ州の住民グループより訴訟を受けた。訴状によるとLensa AIアプリ内の機能「Magic Avatars（マジックアバターズ）」において、許可なしにユーザーの顔の形状を収集した上でそれらのデータをPrismaのAIニューラルネットワークの学習に使用してデータを違法に保存しており、これはイリノイ州の「イリノイ州生体情報プライバシー法（BIPA）」に違反しているとのこと。 AI-generated art “Magic Avatars” company sued for biometric theft（2023年2月15日-Loevy Loevy法律事務所） Lawsuit Alleges Lensa.ai App Illegally Took Users’ Biometric Data（2023年3月16日-PetaPixel） AIデータセットから自作品の削除を求めた写真家に対する逆訴訟 ドイツ人写真家ロバート・クネシュケ（Robert Kneschke）氏は、2023年画像生成AI「Stable Diffusion」で使用されているデータセット「LAION-5B（※非営利団体LAIONによって作成）」内にある画像を見つけられるサイト「Have I been trained?」にて自分の作品が多数見つかったため、LAION側に削除を求めた。 しかしLAIONを担当する弁護士事務所は削除を拒否し、あくまで画像ファイルへのリンクを含むデータベースのみを保存しており画像データそのものは保存していないため著作権侵害に当たらず、同氏は作品を削除する権利は持たないとの回答を示した。さらに同事務所はドイツの著作権法に基づきLAIONは不当な請求があった際損害賠償請求を行う権利があるとして、クネシュケ氏に対し合計887.03ユーロ（約13万円）の損害賠償を求めた。 弁護士事務所は、LAIONが行った学習に伴う複製行為は一時的なものであり、ドイツの著作権法による制限が適用される。LAIONはクローラを用いて自己学習アルゴリズムの学習のためネット上で画像を見つけてその情報を得るため記録・評価を行っているのであり、これらの行為は著作権法には抵触しないとした。対してクネシュケ氏は、弁護士事務所が画像データ収集の際クローラの使用に言及した事について、ほとんどの写真投稿サイトがクローラの使用を禁止している事実を踏まえるとこの話は興味深いとし、LAION設立前に画像共有サイトから削除していたはずの写真をどこから入手したのか気になるとも指摘。 弁護士事務所は、LAIONが写真家の写真を一時的にとはいえ、複製しAI学習に利用される事を拒否している事は理解しているとしながらも、この行為は法で明確に許可された行為であるとしてクネシュケ氏に対し「作品をデータセットから削除して欲しい」との要求を取り下げなければいけないとした。一方クネシュケ氏は、LAIONのようなAI関連企業は大量の著作物を使用して学習を行い利益を得ようとする。故に「写真を削除して欲しい」との要求に対し損害賠償請求を警告する事は妥当であるが、作品データ削除請求の正当性立証のため裁判で争うつもりであると述べた。 画像生成AIによる作品の無許可使用を主張した写真家が逆に損害賠償を請求される（2023年4月27日-GIGAZINE） AI USED PHOTOGRAPHER’S PHOTOS FOR TRAINING, THEN SLAPPED HIM WITH AN INVOICE（2023年4月27日-Photography） コミッションサイトSkebによる開示請求訴訟 2023年6月30日、生成AI製作品の納品を禁止している日本のコミッションサイト「Skeb」が、AI製作品を検出するために行っている諸対策を突破するための方法をブログに公開し、営業権の侵害等をしているとされる人物に対し発信者情報開示請求訴訟を提起した。 「コミッション」とは、イラストレーターなどの個人クリエイターが、個人クライアントから有償で依頼を受け希望に沿ったイラストやボイス等を納品する海外発の文化である。Skebはクリエイターとクライアントの仲立ちをする「コミッションサイト」であり、何かとトラブルがありクリエイター不利になりやすいコミッションにおいて、クリエイター＝クライアント間のやり取りを最低限にしクリエイター有利の環境を構築した事でヒットした。 Skebは以前よりクレジットカードの不正利用等のために同サービスを悪用されることに対し対策を行ってきた。しかしながら2022年後半より本格的な画像生成AIが次々と登場したことにより、実際に人間が描いたものなのか悪用を意図してAI製画像を使っているのか識別がより難しくなったとされる。この状況に対してSkeb社は人間の目による識別作業を行ってきたが、加えて米国企業が開発したAI製画像識別AI「HIVE」を導入したと2023年3月1日に発表。 約3か月後の6月30日、HIVEの検出を逃れる方法をブログの記事として公開していた人物に対し発信者情報開示請求訴訟を行ったと発表。該当する記事は当該人物が自主的に削除したものの、発信者情報を保有しているプロバイダから情報の提供を受け次第、当該人物に対する営業権侵害等を理由として損害賠償請求等の法的対応を実施することを検討しているとSkebは明らかにした。 画像生成AIに直接的に関係している訳ではないものの、日本で行われた画像生成AI・生成系AI関連の法的対応の事例として記述した。 本wikiのページ「画像生成AI・生成系AIに対する各種プラットフォーム等の反応・対応まとめ」にも記述有り。 イラスト生成AIを用いたSkebの不正利用への対応につきまして（2023年6月30日-Skeb） 11.【作家・クリエイターに向けた嫌がらせ】 mimic炎上後のイラストレーターお気持ち言論封殺の空気感造成 2022年8月29日から30日にかけてmimic(ミミック)が炎上する。 日本初めての画像生成AIに関する炎上では多くのイラストレーターが連鎖的に「AI学習禁止」の声を上げた。 そうしてmimicがベータサービス開始を見直す発表を30日にされた際、「絵描きのお気持ちがmimic(国内AIサービス)を潰した」という論調が生まれだした。 以降、日本国内のイラストレーターをはじめ絵を描く人々がAI画像生成に対して声を上げづらい空気感が造成させていくことになった。 同日、2022年8月30日に中国産の画像AI「ERNIE-ViLG」デモページが公開される。 「日本はこの分野でも米中の企業に遅れるかもしれない」などと懸念する声も見られ、同日の日本産AIサービスmimicの慎重な動きを受けて「日本は海外に乗り遅れる」という言葉が多用され始めるきっかけにもなった。 こうした動きがあり「また絵師(絵描き)のお気持ちで技術の進化を潰すのか」という言葉が振り回されるようになった。 「イラストやデザインの仕事はとても退屈です。芸術的であることが重要なのではなく、あなたは道具なのです。」 2022年9月13日、AI画像生成ブーム黎明期の最中のこと。Stable Diffuionを開発したStability AIのCEO、Emad氏の発言が衝撃を生んだ。 Emad Mostaque氏は、アーティストが職を失うことを心配していないと言う。このAI画像生成は、Microsoftの表計算ソフトExcelのようなツールであり、「Excelは会計士を失業させなかった。私は今でも会計士に給料を支払っている」と彼は述べた。 そして、イラストレーションやデザインなどの将来のキャリアに悩む若いアーティストへ彼が解き放った言葉が次のものであった。 「彼ら若いアーティストへの私のメッセージは、『イラスト・デザインの仕事はとても退屈だ』ということです。それは芸術的であることが重要なのではなく、あなたは道具です」 Emad氏は、新しいAI技術を使って(アーティストが)機会を見つけることを提案していた。 イラストやデザインの仕事を志す若手アーティストへのメッセージとして黎明期に残された「イラストやデザインの仕事は、とても退屈な仕事だ。芸術的であるかどうかではなく、あなたは道具なのだ」「画像生成AIは今後大きく発展していく。お金を稼ぎたいなら、新しい技術からチャンスを見つける方がずっと楽しくなるはずだ」というEmad氏の言葉は多くのアーティストの心に衝撃を与え、論争を呼んだ。 この発言はアーティストからの反感を買い、画像生成AIがどのような思想のもとで開発されたのかというイメージダウンにつながった。 「Emad氏は芸術の本質を理解していない」などの解釈が英語圏アーティストの間で発展し、氏がクリエイターの敵という人物像が造成されていく大きなきっかけとなった。 日本国内では本件を受けて、「なぜmimicは一度停止したのに海外製AIは止まらなかったのか、その答えの一つがこれでは」という声も上がった。 英語インタビュー記事 https //www.bbc.com/news/technology-62788725 日本語記事 https //www.itmedia.co.jp/news/articles/2210/26/news183.html VTuberのファンアートタグへの投稿 女性VTuberグループ「ホロライブ」所属の大神ミオから「AIイラストにFA(ファンアート)タグをつけないでほしい」と注意喚起がなされた。 これは当人の見分けがつかないことや著作権の問題が解消されておらず、扱いが難しいためである。 しかし、それでもFAタグにAIイラストが投稿されていたことから再び注意喚起がされた。 https //twitter.com/ookamimio/status/1579754372241973248 (1回目) https //twitter.com/ookamimio/status/1613094198881943553 (2回目) VTuber市場でのイラストは当人の動画サムネイルやアイコンに使われる可能性があることもあって大いに賑わっているがこの事例のように無意識または悪意を持って荒らすこともできてしまう危険性を帯びている。 生成AI使用者への行き過ぎた中傷活動 スタジオ真榊の賢木イオ氏宛に遺体などの写真が送られており、2アカウントについて法的措置を検討している https //twitter.com/studiomasakaki/status/1666679413952622593 https //twitter.com/studiomasakaki/status/1666681046300229636 12.【img2img機能による盗用・盗作事件】 img2imgに関する解説ページ→img2imgによる新手のトレパク被害 AIイラストレーターゆーます氏i2i疑惑 詳細→AIイラストレーターゆーます氏i2i疑惑 14.【リアルなフェイク画像、騙す人々騙される人々】 静岡県の水害「ドローンで撮影された浸水した街の写真」フェイク画像拡散事件 静岡県の水害巡りフェイク画像が拡散 画像生成AIを利用 投稿者はデマと認めるも「ざまあw」と開き直り 日本国内で早くも写真系のAI画像生成によるフェイク画像の問題性が話題になった例 https //www.itmedia.co.jp/news/articles/2209/26/news180.html 「白いパファーコートを着たローマ教皇の偽画像」が格好いいと拡散されるが、Midjourneyで作成された偽物 AIで“なりすまし”ビデオ通話…8500万円振り込ませる 中国で詐欺相次ぐ 中国でAIによるビデオ通話詐欺が横行し、友人に成りすますなどの手口で大金を奪い取る事件が多発。 犯行時間はものの10分で終わり、警察も捜査を行っている。 https //news.ntv.co.jp/category/international/4409eab3055e47cb8e166871903cdddd 14.【ディープフェイク、剥ぎコラアイコラ事件】 児童に関わるセンシティブ画像問題 英国の公共放送、BBCは28日に生成AIから生成される児童に関わるセンシティブ画像問題について取り上げ、日本のPixivを名指しで批判した。 パトロンサイトのPatreonに誘導する手口が紹介されおり、国際問題となっている。 ちなみに、Patreonの規約では掲載コンテンツにおいて違反が発覚した場合は、掲載者はPatreon以外の全てのサイトからも作品を消さなければ許さないとされている。 生成AIの児童性虐待画像を売買 日本のソーシャルメディアなどで https //www.bbc.com/japanese/features-and-analysis-66038728 Illegal trade in AI child sex abuse images exposed(英語) https //www.bbc.com/news/uk-65932372 15.【その他】 参考 韓国のAIについての有志wiki（그림 인공지능/논란 및 사건 사고）
https://w.atwiki.jp/genai_problem/pages/10.html
このページでは「画像生成AIは何が問題なのか？」をまとめています。 →具体的な被害事例集は当wiki内「画像生成AI 炎上・論争・被害事例まとめ」をご参照ください。 →生成系AI全般の問題点については当wiki内⇒「生成系AIが抱える問題まとめ【社会やクリエイティブへの悪影響】」をご覧ください。 + 編集者の方へ 自由に編集してください。箇条書き形式です。 新しい問題点を書く場所が分からない場合は、下部の「その他の問題」欄に加えてください。 このページの旧名称は「画像生成AIの問題点と被害事例」です。実内容に合わせてページ名を改名しました。 具体的な被害事例を詳しく説明する用途はページを分けました→画像生成AI 炎上・論争・被害事例まとめ 上記ページと一部内容が被っても構いません。 情報量が膨らんできたら必要に応じて個別ページ化を検討してください。 下の画像はSNS等にこのwikiのURLを貼り付けた際表示されるサムネイルとなることを想定して作った画像です。仮の画像ですので自由に差し替えて頂いて構いません。 【目次】 AI画像生成は何が問題なのか？専門家の見解 はじめに 経済的側面学習元への還元が皆無 生産速度による市場の埋め尽くし 企業によるダンピング 生産者減少に伴う産業の衰退 日本から海外への資産の流出 法律的側面現状に則さない現行の法律 アニメ・マンガ・ゲーム・映画など各メディアの版権キャラクターが出力されてしまう 児童ポルノ問題 剥ぎコラ・アイコラ問題 機械学習を用いた脅迫事件 新たな盗作の手段、新手のトレパクともいえるimg2img(i2i) 倫理的側面無断学習 生成物へのウォーターマークの映りこみ 生成物へのサインの映りこみ 学習元へのリスペクトの無さ フェイク画像による混乱 実在の人物を学習して偽の写真が作成された問題 AI画像を使ったなりすまし 人権面から見る問題 絵を描くことを生業や趣味にしている人、芸術文化の中にいる人への中傷や嫌がらせ 文化的側面文化の破壊 AI画像生成で大量に出力されることになった絵柄や塗り方の陳腐化 絵描きのAI利用とファンの反応 pixivをはじめイラスト投稿サイトなどの大半をAI生成画像が占めるように AI絵によって手描きさえも天秤にかけられてしまう その他の問題ローカル環境ツールが出回ってしまったことによる問題 イラスト業界の権利団体の乏しさに付け込んだマネタイズ 「AI」という名称がつけられていることに起因する、生成AIに対する人々の認知の散在性 AIデータセットから作品等を削除する際にオプトアウト制を採用する事の限界 海外デモ活動画像を使用したレッテル貼り 具体的な被害事例 i2iによる被害事例 DreamBooth、LoRAによる被害事例 AI画像生成は何が問題なのか？ 専門家の見解 AIグラビア写真集の波紋 生成AIと著作権の関係は？悪用のリスクは？ | NHK | WEB特集 | AI（人工知能） 早稲田大学法学学術院 上野達弘教授 「日本では、インターネットやSNS上にある膨大な画像や写真についてAIによる学習は自由に行えることになるが、AIを使って画像や写真を生成し、生成したものを販売するなどは著作権を侵害するリスクが生じてくることがあり注意が必要だ」 「今後、文章や画像だけではなく、アニメや映画などAIによる生成物は、ますます広がっていくことが予想される。生成されたものが著作権を侵害しているとして訴えられるような事例も出てくるかもしれない」 国立情報学研究所 越前功教授 「生成AIがどんな画像を学習しているか明らかにされておらず、ネット上の個人の写真が使われている可能性は十分にあります」 「最近では生成AIで、驚くほど高画質な特定の人物の画像を、容易につくれるようになってきました。実在する人物について、何十枚かの写真があれば作成者の望むままに本当かうそかわからない画像を作ることができるのです。これは、不適切なものも作れるということなので深刻です。一般の人でも効率的かつ、低コストでできるようになっています」 「技術が進展し、1年後にどのような世界になっているかわからないことを知ってもらい、リスクを理解してもらう必要があると思います。技術の発展を止めることはできないので、例えば偽画像を見抜くツールの開発といった技術的手段や、法律の整備、啓蒙活動など多角的に取り組んで行く必要があります」 アメリカ著作権局の元最高法務責任者Jon Baumgarten氏 Former Copyright Office GC Warns Against Blanket Assertions That AI Ingestion of Copyrighted Works ‘Is Fair Use’ （要約）コピー機の使用が盛んになった頃「フェアユース」と主張されたが、代表的な判例におけるフェアユースの徹底的な分析の結果、誤りであることが証明された。その司法判断は複写を萎縮させたり阻害したりしたわけではなく、むしろ複写を容易にし、知識へのアクセスを向上させ、著作者と著作権者に補償金を支払う、自発的な集団許諾の体制へと導いた。 現在のアメリカ著作権局長も第1回US-Asia国際著作権シンポジウム［人工知能と著作権法］ – 早稲田大学知的財産法制研究所[RCLIP]で生成AIに否定的な見解を示したとTwitterでは記録されているが、公的な映像記録などは無い。 三大学術誌(Nature, Science, Cell)含む学術誌の対応 科学誌は論文の共著者としてChatGPTを認めない方針 | TEXAL Science誌の編集長であるHolden Thorp氏は、すべての論文の投稿は著者のオリジナル作品でなければならず、AIによって作られたコンテンツは盗作の一形態であると述べている。著者は、完全に開示し、Scienceが承認した場合のみ、このツールを使用することができる。ChatGPTのような大規模な言語モデルは、インターネットから収集した膨大な量のテキストで学習するため、学習データにある文章と非常に類似した文章を再生することができる。 「何年もの間、Science誌の著者は、『作品はオリジナルである』ことを証明するライセンスに署名してきました。Science誌にとって、“オリジナル”という言葉は、ChatGPTによって書かれた文章が受け入れられないことを示すのに十分なものなのです。結局のところ、ChatGPTからの盗作なのです。さらに、私たちの著者は、彼ら自身が論文の研究に対して責任があることを証明するのです」とThorp氏は述べている。 ChatGPTのようなツールは、文法的な間違いのないテキストを作成するが、AI自身はその内容を理解しているわけではなく、事実を取り違える傾向がある。虚偽の数字を含む見当違いな研究結果を引用することもあるが、人間を騙すには十分な説得力があるものも少なくない。学術的な文章は専門用語が多く、専門家でもChatGPTで書かれた偽の文章を本物だと信じてしまうことがあるのだ。このことは、既にMetaがリリースしたがすぐに公開停止に追い込まれた「科学的知識」AIモデルでも指摘されてされていたことだ。 科学者は、論文で結果をごまかしたいという誘惑に駆られ、あらゆる方法を駆使して偽の研究成果を発表しようとする。 153年の歴史を持つ科学誌の「Nature」がAIが生成した画像の掲載を禁止すると発表 GitHub（料理のレシピなども投稿されているが、主にITエンジニアがソースコードを公開しているサイト）利用者の「生成AI」の対応 【Infostand海外ITトピックス】GitHub Copilotに集団訴訟 AI訓練データで初 - クラウド Watch GitHubは訓練データの個々の詳細は公表していないが、GitHubリポジトリなどを含む公開されたコードで学習していると説明してきた。これらの多くはMIT License、GPL、Apache Licenseなどの一般的なオープンソースライセンスで提供されているものだ。それぞれのライセンスに従って作者名と著作権帰属の表示が必要で、利用や改変の際にも引き継いで明示する義務がある。 ところが、Copilotの出力には、それらが表示されておらず、このことがライセンス違反にあたるというのだ。 （中略） 元のコードから著作権表示を消すことを「オープンソース・ロンダリング」と呼ぶ者もいた。 （中略） 40年以上オープンソース運動にかかわってきたという原告のButterick氏は、開発者の立場からこれを、オープンソースの根本を揺るがす問題だと言う。 提訴後のThe Vergeのインタビューで同氏は「開発者はライセンスを信じてコードを公開しているのに、企業が尊重しないのならライセンスの意味がなくなる」と言い、「ライセンス表記なしでコードを利用させると、オープンソース運動そのものを殺してしまう」と語っている。また、コードに作者を明記することで仕事の獲得につなげている開発者の生活の道を奪うことになるとも述べている。 GitHub、法的論争が続く中、Copilotをビジネス向けにリリース Stack Overflow（ITエンジニア専門のQ Aサイト※）における「生成AI」の対応 大手AI企業に“訓練用データ”の利用料を請求、Q Aサイト「Stack Overflow」による計画の真意 | WIRED.jp Q＆AサイトのStack Overflowが「AI投稿OK」に方針転換して物議、抗議のためモデレーターら600人以上が大規模ストライキに署名|au Webポータル経済・ITニュース ストライキを決行したモデレーターは（中略）「ユーザー生成コンテンツに見せかけたAI生成コンテンツを許すことは、やがてサイトの価値をゼロにまでおとしめることになると確信しています」と懸念を表明しています。 （中略） モデレーターらは公開書簡に「適切なルートを通じて変化をもたらそうとした私たちの努力と危惧は、あらゆる場面で無視されてきました。今、私たちは最後の手段として、10年以上にわたりボランティアの努力を注ぎ込んできたプラットフォームへの献身を打ち切ります」と記して、ストライキの決行を宣言しました。 ※質問にあたって「事前に似たような質問が無いか調べたか、自分でどのような事を試したか具体的に書くこと」等の条件を満たすことが求められており、質問・回答が他のユーザーから投票され、良い評価を得ると自分も投票などの権限が増えていくが、悪い評価を得ると権限が剥奪される。 はじめに 画像生成AIの問題は①「データセットにより引き起こされる問題」と、②「画像生成AIそのものが持つ性質が引き起こす問題」の2点に大別される。 (上記はクリエイティブ方面の問題点であるが、他にも社会的問題としてディープフェイク等により情報の信頼性を揺るがしかねないことも挙げられる。） ①「データセットにより引き起こされる問題」 学習元への経済的還元がない。 学習元が作った成果物によって、学習元の市場と競合する存在になりえる。（つまり、自身の成果物によって、自身が市場から淘汰される可能性がある。） 学習元の模倣による類似品が容易に製作できる。 ②「画像生成AIそのものが持つ性質が引き起こす問題」 生成スピードが早く、類似品を出すことが容易なため、表現の陳腐化も早い。 生成スピードが早いために、プラットフォームへの投稿速度、量ともに尋常ではない。 i2iやControlNetをはじめとする技術によって、盗作が容易であるとともに証明する事が困難。 ①「データセットにより引き起こされる問題」の原因は、現在流通している画像生成AI（StableDiffusionやMidjorney、Nijijorney）のデータセットには著作権で保護された画像や、医療記録、家族写真、戦争の写真等が含まれており、画像の権利者の許諾を得ていないことから発生している。（詳細は⇒主要なAI画像生成サービス） さらに、抑止力が働かない法律であることと、画像生成AIサービスに悪用防止策がなされていないこと、技術がオープンソースで配布されたことによって一層加速し、歯止めがきかない状態となっている。 現在使用されている画像生成AIの多くは拡散モデルと言われいるが、この技術自体に問題があるわけではない。 権利者に無許諾で収集したデータセットを使用して作られたサービスに問題があるのだ。 （さらに言えば、そのサービスが学習元と競合しかねないことが問題である。） なお、HuggingFaceやCivitaiで公開されているモデルのほとんどがStableDiffusionベースであると言っても過言ではなく、どのモデルを使用しても権利的にグレーであることは避けられないのが現状である。それどころか、共有サイトで公開されているモデルは勝手に個人が権利者に無許諾でファインチューニングしている場合がほとんどである為、むしろ権利侵害リスクは高いと言える。 特定作家の絵柄の集中学習モデルを使用することは問題があると認識する人は多いと思われるが、一方で下記2点は使用にあたり問題ないと誤解されることが多い。 ・自身が権利者である画像をファインチューニングする場合 ・自身が権利者である画像をi2iする場合 しかし、上記2点はいずれも、もともとのモデルであるStableDiffusionのデータセットの影響は避けられない為、権利的にグレーであることに変わりはない。 画像生成AIについて、国内外でも多くの抗議が発生しており、海外では訴訟にまで至っている。(詳細は⇒各国の生成系AIへの対応・規制まとめ) 法律やガイドラインもまだ定まっておらず、現在の状況で使用するリスクは高いことを認識する必要がある。 ②「画像生成AIそのものが持つ性質が引き起こす問題」については、データセットの問題が解決された後にも残留するものであり、別途解決方法を模索する必要がある。 最後に、社会的問題としてディープフェイク等により情報の信頼性を揺るがしかねないことも問題として挙げられる。 これまでも画像編集ソフトでもディープフェイクは製作可能であったが、画像生成AIは画像編集ソフトに比べ非常に容易かつ短時間、高品質で製作可能であることが大きな違いである。 誰でも被害者になりうる問題であり、これまでの情報社会の基盤そのものが覆る可能性がある。 上記を踏まえた上で、下記に詳細を列挙する。 経済的側面 学習元への還元が皆無 現行の画像生成AIは学習元に依存しているにも関わらず、学習元へ還元する方法がない。 オープンソースでばらまかれている以上、そもそも還元自体が不可能な構造になっている。 学習元は一方的かつ無断で成果物を収奪され、他者がそれにフリーライドできる状態になっている。 生産速度による市場の埋め尽くし 短期間に大量にコピーされ拡散されることで陳腐化が急速に進む(飽きられる)。学習元の絵描きの与り知らないところでその絵描きの成果物の経済的価値が損なわれる 議会の席では「AIによる生成が出版の世界にまで及んだら国立国会図書館の収容量が足りなくなる」という旨の声も見られた イラストSNSサイトの新着がAIで埋まってしまうため、手描きのイラストが見られる可能性が低くなる 販売サイトも新着作品がAIで埋まり手描きの作品が見られる可能性が低くなる amazonが展開する「Kindle Unlimited」では実写系AIのグラビア写真集が大量に登録される FANZAやDL.siteは大量のAI出力による販売物の審査や対応に追われることになり、AI生成作品の投稿は一か月に一度だけと定められた BOOTHで「AIで生成した背景素材107枚無料配布」があり物議が醸された。手描きの背景アーティストが市場破壊を嘆いた 企業によるダンピング 中国のゲーム会社ではイラストレーターの仕事は70％減少し、報酬は10分の1に引き下げられた 生産者減少に伴う産業の衰退 SNSでは、AIの登場により絵を描くモチベーションが無くなったと嘆くイラストレーターが続出した 絵を練習していた初心者がAIを利用するようになり、絵の成長を妨げてしまう。または完全に絵を描かなくなってしまう 供給過多により需要が消失し、消費が追いつかない可能性 AI生成物を拒否する消費者層と受け入れる消費者層による意識の分断 どれも似たような絵になる、視線誘導がされていない、生成物の加工が雑、などと言ったAI利用が原因の品質の低下 AIの学習は人間のイラストに依存したものであり、イラストレーターの仕事が減るのに比例してAIの発展性も閉ざされる可能性 → 学習素材の不足 日本から海外への資産の流出 日本のコンテンツがAIに学習され、そのAIによって国外のAI開発会社が収益を得る 学習元である日本のクリエイターには何ら還元されない、そのようなビジネスモデルが確立されていない クリエイターの絵柄を無断学習したモデルをコミッションサイトで販売する 無断学習したモデルで生成した絵を、自身の作品として販売する 法律的側面 現状に則さない現行の法律 海外では規制されていようが、現行の法律では日本におけるAIへの学習が合法とされているため日本のコンテンツの海外流出に歯止めが効かない 但し書きを無視して合法を謳い、無断学習が横行している 既存の法律で対応するという政治家の言葉もあるが、時間あたり数百数千の画像が生成可能なため、著作権者がそれらに対応することは困難 アニメ・マンガ・ゲーム・映画など各メディアの版権キャラクターが出力されてしまう プロンプトで直接キャラクター名を指定していないのに、版権キャラクターと瓜二つの容姿の生成物が出てくることがある ファンアート規模の大きい「ウマ娘」や「VTuber」などが顕著であるが、それ以外の作品のキャラクターも出てくる AI生成サービスの中には商用利用可能と表記されているものもある 公式イラストとの重大な類似性が認められた二次創作に関しては、版権元から厳しい処罰を課されるパターンもある 版権キャラであると知らずに生成物を使用し、著作権侵害を引き起こしてしまう可能性。その場合「知らなかったこと」の証明が困難 児童ポルノ問題 実在児童の写真を学習元にした可能性がある児童ポルノ生成 pixivでは海外の業者と推定されるアカウントがAI製の児童ポルノ画像を大量に投稿、pixivは対応に追われることになった 身近な子供を対象にAI製児童ポルノを製造し、商売に利用する可能性（姪の写真を追加学習したいという者もいた） 剥ぎコラ・アイコラ問題 Instagramの女子高生の制服姿の写真を水着の妊婦姿に加工する事例があった AI画像生成ツールによる写真加工や学習を恐れ、園児・学生の入学写真などをSNSに投稿しないよう注意喚起もされている 韓国では中学生が同年代の写真でディープフェイクを生成。その画像でコミッションを受けようとして、懲役刑を受けた事例がある 機械学習を用いた脅迫事件 韓国では、後輩女性のわいせつ画像をAIで合成し「奴隷になれば削除してやる」と脅迫を起こす事件が発生した AIに不満を漏らした中国のイラストレーターが勝手に作品を学習され、見つけ出して暴行してやると脅迫された 新たな盗作の手段、新手のトレパクともいえるimg2img(i2i) i2iやLoRA被害が後を絶えない 従来のトレパク(絵を上からトレースしてパクる)と違い、手で描いてすらいないためより悪質 プラットフォームが「依拠性が認められない」と独自の判断を下し、i2iトレパク画像の削除を拒否した事例が存在 倫理的側面 無断学習 画像生成AIは大量の画像を学習・分析して設計されている。その中にはプライバシー性の高い画像や権利者の所持する画像もある。 家族写真や子どもの写真、医療写真なども含むデータセット 画像生成AIの殆どのベースとなっているStable Diffusionは、LAION-5Bというデータセットを学習している。このデータセットの58億5000万点の画像のうち、数十億枚の著作権で保護された画像が含まれているとされる。もともとはAI研究目的に、主にネット上からクロールされた画像群である。(米国でのStabilityAI/Midjourney/DeviantArtを相手取った訴訟の要因となっている) 国内・海外ともに、世界中のアーティストの作品が無断で学習されている キャラクターコンテンツ団体が権利を持つ作品の画像・有名キャラクターたちの姿も無断で学習されている 無断転載サイト(pixivの無断転載サイト：Danbooruなど)のコンテンツによるデータセット NovelAIは公式にDanbooruコンテンツで学習していることを明言している →https //twitter.com/novelaiofficial/status/1573844864390791169 生成物へのウォーターマークの映りこみ ウォーターマーク(透かし)がAI生成物に映りこむ事例→https //togetter.com/li/1957689 ストックサイトの有料写真素材を学習している 本来は料金を払わないと利用のできない写真素材である ↓midjourneyの例(2022年12月) 画像サムネイル用ダミー画像
https://w.atwiki.jp/genai_problem/pages/42.html
はじめに 当ページは生成系AIに対し、アートや音楽、実演家といったクリエイティブにかかわる様々な業界団体・企業が行った声明や行動について記載しています。本ページの一番下に簡単な年表もあります。 生成AIに対して懸念を示しているのは今やアート分野だけではなく、音楽分野や小説・脚本などの文筆関連分野、俳優・声優などの実演家分野、さらにはメディアにも及んでいます。これらの動きは日本国内のみならず海外でも行われており世界的なものとなっています。 当ページに記載されている声明や行動はあくまで一部である事をご留意ください。このページに書かれている内容だけではなく、各団体・企業などの声明ページ等も同時に確認する事を推奨します。 生成AIに関連して起こった訴訟・裁判・法的対応については⇒「生成系AIに関する訴訟・法的対応一覧」 作品投稿・販売プラットフォームが、AI作品に対して取った対応のまとめについては「画像生成AI・生成系AIに対する各種プラットフォーム等の反応・対応まとめ」を参照。 + 編集される方へ このページではグラフィックアート業界、デザイン業界、音楽業界、声優業界、文筆業界などクリエイティブに関わる団体・企業などが起こした行動について記載することを目的としています。 基本的に記者会見や声明の発表、AI対応チーム設立といった出来事を主に書きますが、「クリエイティブ系かにかかわらず様々な業界が国や地域を問わず生成AIに対して何らかの行動を起こした」出来事があれば、なんでも自由に書いていいです。 「グラフィックアート」「音楽」といった見出しによるカテゴリ分けをしていますが、あくまで暫定的なものなので、このwikiを訪れる人にとってより分かりやすい表示方法があるとご判断された場合は、大幅に編集していただいて構いません。 出来るだけリンクなどを貼ってくださると助かります。 自由に編集してくださって構いません。 下の画像はSNS等にこのwikiのURLを貼り付けた際表示されるサムネイルとなることを想定して作った画像です。仮の画像ですので自由に差し替えて頂いて構いません。 【目次】 はじめに 【 クリエイティブ全般 】著作権協会国際連合（CISAC） MEAA（オーストラリア） 【 アート関連（絵画・イラストなど） 】日本美術著作権連合 クリエイターとAIの未来を考える会（日本） グラフィック・アーティスト・ギルド（アメリカ） 【 写真関連 】日本写真家協会 日本写真著作権協会 【 文芸関連（小説・脚本など） 】日本SF作家クラブ 日本脚本家連盟と日本シナリオ作家協会による共同声明 全米作家協会（AG） 全米脚本家組合（WGA） カナダ作家連合 欧州作家評議会 【 音楽関連 】AIに関する音楽団体協議会（日本国内の音楽関連団体9団体によって設置） 日本音楽著作権協会（JASRAC） 日本音楽作家団体協議会 アーティスト・ライツ・アライアンス（アメリカ） ユニバーサル・ミュージック・グループ（アメリカ） グラミー賞／レコーディング・アカデミー（アメリカ） 韓国音楽著作権協会 【 俳優・声優・実演家関連 】日本芸能従事者協会 日本俳優連合 全米映画俳優組合（SAG-AFTRA） 【 アニメーション関連 】日本アニメフィルム文化連盟（NAFCA) 【 漫画関連 】韓国漫画家協会と韓国ウェブトゥーン作家協会による共同声明 【 出版関連 】英国の出版関連4団体による共同声明 【 報道機関関連 】日本新聞協会 ニュース・メディア・アライアンス（アメリカ） ニューヨーク・タイムズ（アメリカ） 韓国新聞協会 【 業界の垣根を越えた共同声明等 】欧米のメディア・作家団体・写真素材販売会社などによる共同声明 日本国内の新聞・雑誌・書籍など関連4団体による共同声明 【パブリックコメント関連まとめ】日本内閣府・知的財産戦略推進事務局：AI時代における知的財産権に関する御意見の募集について（2023年10月5日～11月5日募集） 内閣府・知的財産戦略推進事務局：新たなクールジャパン戦略の策定に向けた意見募集（2024年1月10日～2月10日募集） 文化庁：「AIと著作権に関する考え方について（素案）」に関する意見募集の実施について（2024年1月23日～2月12日募集） 内閣府・知的財産戦略推進事務局：「知的財産推進計画2024」の策定に向けた意見募集（2024年2月26日～3月27日募集） アメリカ 【 関連年表 】2023年 2024年 【 クリエイティブ全般 】 著作権協会国際連合（CISAC） 1926年に設立された世界各国の著作権団体が参加する組織である「著作権協会国際連合（CISAC）」は2023年7月20日、12の団体と共同で生成AIに関するオープンレターを公開した。 オープンレターでCISACは「生成AIの発展は急速に進んでおり、有用だが様々なリスクも抱えている。中でも生成AIの際限なき開発と自由な利用によって文化産業やクリエイティブコミュニティが大きな影響を受けることになる。『研究』という名目でAI学習へ自らの作品や実演が許可や還元なく利用されたり、AI製の作品を人間製と偽られる事による社会的不安が発生している。そのため早急に法規制が必要であり、政策協議の場に文化産業の関係者や国際的な創作者コミュニティが参加する事が必須である」と表明した。 そして、上記を踏まえた上で以下の7つの原則に沿った政策や法制度を策定し、採用する事にコミットするよう各国政府と政策立案者に呼びかけた。 １．創作者と実演家の権利は AIシステムによる利用に際して尊重され保護されなければならない ２．許諾することを可能とし、これは推奨されるべきである ３．権利者が効果的にオプトアウトする機構を有しないテキストデータマイニングのための権利制限は避けるべきである ４．クレジットされるべきである ５．AIのより公平な運用のために透明性を義務化するべきである ６．AI運営者の法的責任 ７．AIは人間の創作性に仕える道具でしかなく、国際的な法解釈はこれを補強するべきである このオープンレターに連名で参加したのは以下の団体。 CISAC（著作権協会国際連合） AEPO-ARTIS （欧州実演家団体協議会） ALCAM （南米作詞作曲家連盟） AMA （アフリカン・ミュージック・アカデミー） APMA （アジア・太平洋音楽創作者連盟） CIAGP （国際視覚芸術著作者評議会） CIAM （国際音楽創作者評議会） ECSA （欧州作詞作曲家連盟） IMPF （Independent Music Publishers International Forum） MCNA （北米音楽創作者連盟） SCAPR （実演家権利管理団体協議会） BIEM（録音権協会国際事務局） EVA（欧州視覚芸術家協会） CISACによるオープンレターの原文「Global Creators and Performers Demand Creative Rights in AI Proliferation」（2023年7月20日） オープンレターの日本語訳「CISAC（著作権協会国際連合）など国際的な文化・クリエイティブコミュニティの13団体がAIの拡散に対するオープンレターを発表しました」（2023年7月28日-JASRAC） MEAA（オーストラリア） MEAA submission on safe and responsible AI in Australia（2023年7月31日-MEAA） 【 アート関連（絵画・イラストなど） 】 日本美術著作権連合 1965年に美術6団体が共同で設立した美術著作権の啓蒙・擁護を行うための団体である日本美術著作権連合（HP）は2023年8月17日、生成AIに関する声明を発表した。 声明文によると、同連合は「生成AIは創作活動の優れた補助的ツールとなり得るものの、クリエイター達が心血を注いで創造した作品を『材料の一つ』として大量に利用する事で新たな画像や文章が生成できるという側面を持っているのも事実だ」「生成AIに対し何らかの抑制もなく安易な利活用が進めば文化の発展に必要不可欠な創作活動を阻害する恐れもある」と指摘。 さらに「自らの人格を反映した創作物が、自身の知らない所で生成AIを構築する材料として利用されていることについて違和感を抱くクリエイターも少なからずいる」「そのため、クリエイター団体である日本美術著作権連合としても現時点における生成AIの推進について諸手を挙げて賛成する事は出来ない」と表明した。 続いて、「利用者にとっての生成AIは権利侵害の不安なく使え、クリエイターにとっての生成AIは知らない所で自作品に対する権利侵害が生じるのではとの懸念を払拭できるよう、公正な利活用と権利保護の両輪があってこそ文化の振興・発展に寄与し得るだろう」とし、具体的な方法として「学習対象にされることに対するオプトアウト」「データセットに関する透明性の確保」「AI生成物である事の表示」「学習や利用など各段階においてガイドラインを制定する」事などが考えられるとした。 そして同連合は「この点については著作権法第三十条の四の但し書きが『ただし、当該著作物の種類及び用途並びに当該利用の態様に照らし著作権者の利益を不当に害することとなる場合は、この限りでない。』と定めていることを踏まえる必要があり、EUのAI規制案など各国のルールを参考にすることも考えられる」とし「広島AIプロセス」の検討状況も注目されるところだ。」とした。 最後に同連合は「生成AIは日々進化を続けており、これを取り巻く状況も刻々と変化している。日本美術著作権連合はこれを注視し今後も必要に応じて意見を発表する」と結んだ。 ⇒各国の生成AI規制については当ウィキの「各国の生成系AIへの対応・規制まとめ」へ ・日本美術著作権連合について 日本美術家連盟、日本グラフィックデザイン協会（JAGDA）、日本児童出版美術家連盟、日本理科美術協会、日本出版美術家連盟、東京イラストレーターズ・ソサエティ、日本図書設計家協会の7団体が加盟する「美術著作権の啓蒙・擁護」などを目的とした団体。 生成AIに関する声明（PDF）（2023年8月17日-日本美術著作権連合） クリエイターとAIの未来を考える会（日本） 2023年4月27日、イラストレーターや漫画家など30人で作られる団体「クリエイターとAIの未来を考える会」が記者会見を行った。 この団体は、現状の画像生成AIは著作者に無断でインターネット上から収集・複製した画像を機械学習に使用していることや、第三者がAIの機能を使って勝手に別の人が著作権を持つ画像を無断で改変し別作品として公開する行為が後を絶たず問題を抱えていると表明した。 そしてAIと著作権の問題が十分に解決されていないとして、以下のような提言を行った。 画像生成AIの機械学習に作品を使用する際は著作権の所有者に許可を得ること。 画像生成AIの出力した画像に対し、AI生成であることが分かることや元になった著作物の明示を義務付けること。 著作権の所有者へ使用料を支払うこと。 当wiki「画像生成AIに対する法整備を求める記者会見がNHKニュースで放送」に詳細あり 画像生成AI “クリエーターの権利脅かされる” 法整備など提言（2023年4月27日-NHK） グラフィック・アーティスト・ギルド（アメリカ） 1967年に設立されたアメリカのアーティスト団体「グラフィック・アーティスト・ギルド（Graphic Artists Guild）」は2023年7月13日、24のアーティスト団体と共に、EUに対して生成AIによって発生している著作権侵害への対処を進めるよう呼びかけた。同団体はEUが2021年に施行したデジタル単一市場著作権指令（DSM）を挙げ、同指令には生成AIのデータセット収集過程にも用いられるテキスト及びデータマイニング（TDM）に対する広範な著作権制限が含まれていたとした。同団体はEUが現在施行を進めている「AI法」はTDMに伴う著作権制限が考慮されていないとし、さらには著作権関連の条約であるベルヌ条約へ違反するのではないかと指摘している。グラフィック・アーティスト・ギルドをはじめとするクリエイター団体は、DSMを改正するか生成AI開発に関して行われるコピーについては著作権法の例外を適用しないと明確にしたガイダンスを公表すべきであると求めた。 以下はグラフィック・アーティスト・ギルドと共に連名で参加した団体。 Graphic Artists Guild (GAG) National Writers Union (NWU) American Society for Collective Rights Licensing (ASCRL) Artists Rights Society (ARS) American Photographic Artists (APA) Romance Writers of America (RWA) National Press Photographers Association (NPPA) American Society of Media Photographers (ASMP) Sisters in Crime (SinC) Horror Writers Association (HWA) Authors Guild Dramatists Guild of America Society of Composers Lyricists (SCL) Science Fiction Fantasy Writers Association (SFWA) Novelists, Inc. (NINC) Songwriters Guild of America (SGA) Music Creators North America(MCNA) Garden Communicators International (GCI) Concept Art Association (CAA) Society of American Travel Writers (SATW) Textbook Academic Authors Association (TAA) Alliance For Women Film Composers (AWFC) Composer Diversity Collective (CDC) Game Audio Network Guild (G.A.N.G.) The Guild Joins Call for Action on AI and Copyright（2023年7月13日-グラフィック・アーティスト・ギルド） 【 写真関連 】 日本写真家協会 2023年8月23日、公益社団法人・日本写真家協会は「生成AI画像についてその考え方の提言」と題した声明を発表。要約すると 被写体を必要とする写真に対しそれが不必要な生成AIはイラストやコラージュのようなものだ。 著作権法は著作物を「思想又は感情を創作的に表現したもの」と定義しているため、あくまで人間が作ったものだけが著作物と認められる。 生成AI画像は既存著作物をベースとした「翻案（二次的著作物の創作）」にあたり、現状では原著作物の判断する手段がないため一次著作者の権利に対する懸念がある。 生成AIで作成した二次的著作物には著作者名と原典を表記する義務が必要だ。 著作権法30条の4の見直しや原著作物を探して表示するシステムも必要。 生成AI 画像についてその考え方の提言（2023年8月23日-日本写真家協会） 日本写真家協会、「生成AI」技術についての見解を発表（2023年8月23日-デジカメwatch） 日本写真著作権協会 2023年6月30日に文化庁が主導となって行った「第68回文化審議会著作権分科会」において、日本写真著作権協会の常務理事で写真家の棚井文雄氏が生成AIについて発言した。以下は発言の要約。 現状AIが自由に創作物を学習できたり営利・非営利問わず無関係に解析できることによる、クリエイターの作品保護・創作活動への影響を心配している。 仕事への影響はもちろん、写真家などのクリエイターが人生をかけて取り組んでいるアートワークに対し許諾なしのAI学習によって類似する作品が生成できる可能性があるとするならば、それは写真作家に精神的影響を与えてしまい、創作意欲も削がれる。 広告写真家は、生成AIの有効な活用には期待するが、どの作品が元になって出来たのか不明なまま大量の生成物が作り出される事に不安を抱いているという話を聞いた。 社会にとって有益なAIの進化が進むことは良いことだが、著作物の保護と利活用のバランスが重要。AIの進化のためにも著作物、著作者は守られるべきだ。 文化審議会著作権分科会（第68回）（第23期第1回）（2023年6月30日-文化庁） さらに同協会は2023年8月17日、日本雑誌協会、日本書籍出版協会、日本新聞協会と共に生成AIに関する共同声明を発表した。 生成AIに関する共同声明（2023年8月17日-日本新聞協会） 【 文芸関連（小説・脚本など） 】 日本SF作家クラブ 日本SF作家クラブは2023年10月14日、生成AIの開発・利用に関する提言を発表。同団体は、「適切なAI技術の使用は創作の手助けとなり、著作データの提供や広報などを通しAI技術開発に協力してきた。」、「人々の権利を侵害しない形で創作に使われ創作活動が広がる事を歓迎し、AIを作り、使い、AI生成物を楽しむ権利は守るべきだ」とした。 その上で、 生成AIに利用したデータがどのように生成物へ貢献したかどうか技術的に示せていない。生成AI使用者が意図せず他者の著作権などを侵害する恐れがある。 AIの学習に関する権利制限規定となっている著作権法30条の4でも著作物に表現された思想又は感情の「表現上の本質的な特徴」の享受を目的とする場合は作者の許諾が必要。非享受目的であっても但し書きの「著作権者の利益を不当に害する場合」に該当し、同条を根拠とした許諾なしの複製等を出来ない場合もあり得る。 現状の生成AIが有する上記の問題が根本的に解決されない限り、執筆・描画・翻訳・演技・演奏・演出・開発・研究・編集・批評・出版に使われる生成Aiについて従来の創作関連の道具以上に注意深く利用する必要がある。 生成AIの利用者はこの技術の限界を理解した上で、生成物の公表について現行法令に照らし他者の権利を侵害していない事を十分確認する事を望む。 生成AIの運用者は、技術的限界を理解した上で著作者の尊厳や権利を守る仕組みの整備に協力して欲しい。 各国の行政・立法の関係者は、現状の生成AIの技術的限界、創作産業における著作者の尊厳が担保されそのインセンティブが阻害されない事の重要性を理解し、生成AIによる権利侵害の可能性、生成AIを理由とするダンピングや未発表著作の学習、契約条件の切り下げが行われるリスクなどを鑑み、創作産業保護と制度構築に関する保護手段を検討して欲しい。 と表明、最後に「生成AIに関わる開発者・研究者は現状の技術的限界を抜本的に解決するための技術開発を行って欲しい」、「当クラブは創作に関する世界の機関と連携し同様の試みが海外でも行われるよう働きかけていく」などと締めた。 現状の生成AI技術に関する、利用者、運用者、行政・立法、開発・研究者へのSF作家クラブの提言（2023年10月14日-日本SF作家クラブ） 日本脚本家連盟と日本シナリオ作家協会による共同声明 2023年11月3日、日本シナリオ作家協会と日本脚本家連盟は共同で脚本家の権利と生成AIに関する声明を発表。うち、生成AIに関するもののみを要約する。 脚本家は日々精魂込めて脚本を執筆している。脚本は脚本家によって生命を吹き込まれた表現によって全体が構築されており、過去の名作データを寄せ集めても決して名作になるものではない。AIが生成するものは単なる素材の一つに過ぎず、脚本家の代わりにはならない。 映画やテレビなど制作現場で生成AIが利用される事が考えられる。その際、利用事実の明示など透明性の確保、既存著作物への類似性・依拠性に注意。脚本家に対する生成AI利用の強要はしないよう望む。 生成AI開発のための著作物利用についても、大きな懸念を抱いている。著作権法30条の4により営利目的の開発だったとしても無償利用が可能なら、脚本家のみならず全ての創作者にとって著しく不公平ではないか。 「ＡＩは脚本家の代わりにならず」脚本家連盟などが声明（2023年11月1日-産経新聞） 「脚本家の権利と生成AIに関する共同声明」（2023年11月6日-日本脚本家連盟・日本シナリオ作家協会） 全米作家協会（AG） ⇒AIに関する全米作家協会の活動内容まとめ（全米作家協会HP） 2023年7月18日、アメリカの作家団体「全米作家協会（Authors Guild）」は、AIのトレーニングに作品を無断で利用しない様開発企業などに求める書簡を公開した。この書簡には約8500名が署名しており、「大規模言語モデルからなる生成AIは私たちの著作物がある事で存在できる。生成AIは著者の言葉、ストーリー、スタイル、アイディア等に大きく依存しており、著作権で保護された何百万もの書籍等がAIに利用されているものの、同意や報酬などを一切受け取っていない。」と主張した。さらに同協会は、「過去10年で作家の収入は40％減少しており、協会が2022年に専業作家5700名以上を対象に行った調査では執筆関連収入は23330ドル（約326万円）にとどまっている。AIによってこの状況はますます悪化し、作品のみで生計を立てるのは困難になるだろう」と懸念を示した。 全米作家協会は書簡で、生成AI開発企業に対し以下の3点を求めた。 著作物の生成AIへ利用する際は許可を取得する事 生成AIのトレーニングに利用された作家に対し、公正な補償を行う事 AIによる出力が合法か違法かに関わらず、出力における著作物の利用に対し作家への保障を行う事 この書簡は、以下の企業のCEOに届けられた。 サム・アルトマン（OpenAI）、サンダー・ピチャイ（Alphabet・Google）、サティア・ナデラ（Microsoft）、アービンド・クリシュナ（IBM）、マーク・ザッカーバーグ（Meta）、エマド・モスタク（Stability AI） More than 8,000 Authors Sign the Authors Guild Letter Calling on AI Industry Leaders to Protect Writers（2023年7月18日-全米作家協会） 全米作家協会、生成AI大手に「トレーニングに著作を無断で使うな」公開書簡（2023年7月19日-ITmedia） 2023年9月21日、全米作家協会と17名の作家はChatGPT等を開発するOpenAI社に対し著作権侵害で提訴した。 全米作家協会も著作権侵害で提訴、「チャットＧＰＴ」訓練巡り（2023年9月21日-ロイター） ⇒当wikiのページ「生成系AIに関する訴訟・法的対応一覧」にも記述有り。 12月21日、全米作家協会は作家らを対象に生成AIに関する調査を実施。2400名以上の作家が回答した。 「AI開発のため許諾・対価なしに自身の書籍を使用しても良いか」との質問には、96％が「許諾・対価が必要」と回答、「許諾・対価なしで良い」は3%、「分からない」が1%となった。 New Authors Guild AI Survey Reveals That Authors Overwhelmingly Want Consent and Compensation for Use of Their Works（2023年12月21日-全米作家協会） 全米脚本家組合（WGA） 米国の脚本家の労働組合である全米脚本家組合（Writers Guild of America、WGA）は2023年5月2日から9月27日までの148日間、生成AIの利用に関するルール整備や賃上げなどを求めストライキを行った。なお、このストライキはWGAと同様にAI利用ルール整備と賃上げなどを求め同年7月14日より開始、11月9日に終了した全米映画俳優連合（SAG-AFTRA）との同時ストライキとなるなど、ハリウッドを中心に米国の映画・テレビ業界に大きな影響を及ぼした。 英語版wikipedia「2023 Writers Guild of America strike（2023年全米脚本家組合ストライキ）」 カナダ作家連合 2023年7月23日、2300名の会員を擁する「カナダ作家連合（The Writers’ Union of Canada）」は生成AIから作家を保護するよう求める書簡を議会に送った。同連合は、AI企業は適切な対価なしに著者たちの努力から利益を得ていると主張している。 The Writers’ Union of Canada Seeks Copyright Protection Against AI Services(2023年7月23日-Fagen wasanni) 欧州作家評議会 Artistic creation needs protection under the ART principle（2023年7月26日-欧州作家評議会） 【 音楽関連 】 AIに関する音楽団体協議会（日本国内の音楽関連団体9団体によって設置） 2024年1月25日、日本音楽著作権協会（JASRAC）、NexTone（ネクストーン）、日本音楽作家団体協議会（FCA）など音楽関連団体9団体で構成された評議会「AIに関する音楽団体協議会」の設置が発表された。 協議会設置を発表する声明文にて同団体は、「生成AIの開発と利用は創造のサイクルと調和が取れていれば文化芸術やコンテンツの健全な普及発展に寄与される事が期待できるが現状は懸念がある」「生成AIは人間が生み出した音楽コンテンツを人間とはけた違いのスピードで学習でき、将来は質も向上する。その結果AI生成物が低コストで大量生成されるようになれば、クリエイターやアーティストは自らが生み出したコンテンツを学習した生成AIによって活動の場が狭められることも考えられる。」「現行著作権法の30条の4では営利目的の生成AIを開発するため作品を開発利用する事に対し権利者側が意思を反映させられない。」「アーティストの肖像や声を再現して生成されたディープフェイクコンテンツからアーティストを保護するための実効的で簡便な救済制度が確立されていない。」などと指摘した。 最後に同団体は、「for Creators、for Artists」の理念のもと、調和のとれた生成AI利活用の枠組みの実現に向け検討や提言を行っていくと締めた。 ■「AIに関する音楽団体協議会」へ参加した団体 コンサートプロモーターズ協会（ACPC） 日本音楽作家団体協議会（FCA） 日本音楽事業者協会（JAME） 日本音楽出版社協会（MPA） 日本音楽制作者連盟（FMPJ） 日本音楽著作権協会（JASRAC） 日本芸能実演家団体協議会 実演家著作隣接権センター（CPRA） 日本レコード協会（RIAJ） NexTone（ネクストーン） 「AIに関する音楽団体協議会」の設置について～ for Creators, for Artists ～（2024年1月25日-JASRAC） 音楽団体9団体がAIに関する協議会設立、アーティストを保護し調和の取れた利活用を目指す（2024年1月25日-音楽ナタリー） 日本音楽著作権協会（JASRAC） 2023年7月24日、一般社団法人・日本音楽著作権協会（JASRAC）は生成AIに関する基本的な考え方について発表した。JASRACは生成AIへの考え方を以下の4つの項目に分けた。 1.人間の創造性を尊重し、創造のサイクルとの調和を図ることが必要。 生成AIの開発・利用は創造のサイクルとバランスが取れていればクリエイターにとっても文化の発展にとって有益なものとなるが、クリエイターの生み出した著作物が人間とは比例にならない規模・スピードで学習利用される事で、結果的に著作物を代替し得るAI生成物が大量に流通する事になればサイクルが破壊され持続的な文化の発展を阻害が懸念される。 2.フリーライドが容認されれば、それはフェアではない。 著作権法30条の4によって営利目的での生成AI開発に伴う著作物利用が無制限に認められることになれば、それは多くのクリエイターの努力・才能・労力へのただ乗りにしかならず、フェアではない。このようなフリーライドが日本国内では容認されるような見解が散見され、それに対して大きな懸念を抱いている。 3.AIには国境が無いので、国際的な調和を確保すべきである。 日本政府の「AI戦略会議」が言うように、AIには国境が存在せず国際的な流通が可能であり世界中に影響を及ぼすため、国際的な共通の考え方・ルールの整合性を確保し、G7広島サミットで掲げられたような「責任あるAIの推進」「透明性の促進」といったところから様々な課題に対処すべきだ。生成AIの学習に伴う著作物の利用について「著作物に表現された思想又は感情」の享受の目的がないという整理のもと著作権制限を行っている国はG7の中で日本のみであり、調和の観点から懸念がある。 4.クリエイターの声を聞き懸念の解消を図るべきだ。 1～3までの通り、現状多くのクリエイターが生成AIに対し疑念を抱いている。国内の議論の充実、国際的な調和を図るにはクリエイターの意見を聞くことは欠かせない。世界中のクリエイターが安心して創作活動に打ち込めるよう、その懸念の解消を図ることが文化芸術及びコンテンツビジネスの持続的発展のため必要だ。 生成AIと著作権の問題に関する基本的な考え方（2023年7月24日-JASRAC） JASRACによる生成AIへの見解が発表される約1か月前の2023年6月30日、JASRAC理事を務める作曲家の渡辺俊幸氏が文化庁の「第68回文化審議会著作権分科会」にて生成AIに関する発言を行っている。渡辺氏は主に日本著作権法30条の4の問題点について指摘している。以下は発言の要約。 著作権法30条の4の成立によって生成AIによるディープラーニングのための著作物複製利用が著作者の許可を得ずに可能となったが、これはAI開発を優先させた結果のものだと思われる。 しかしながら、この改正は大きな問題を抱えていると考えている。それは営利・商業目的であっても情報解析に必要な範囲ならば、この権利制限が適用されるという点だ。これは少なくとも音楽系クリエイターの視点から見ると許しがたい内容であると言わざるを得ない。 諸外国から見てもこのような広範で強力な明文規定がないため、EU諸国の音楽関係者からは「日本は本当に大丈夫なのか」という声が上がっている。 生成AIを用いた作曲ツールが増え、これらの中には営利目的で制作されていながらも、元ネタとなった楽曲の著作者に対価が還元されないという状況を当然としている現在の著作権法は早急に見直されるべき。 仮に、ヒットソングを生み出せるようなAI作曲ツールを開発する際、開発側がヒットメーカーとなった人々に対し直接交渉をして対価を得ることなどで許可を得て、はじめてその楽曲をAIへ学習させることが出来るようにするのが本筋ではないか。このような本来著作権者が行使できる権利を全く無視した状態でAIツールの開発で利益を得る側のみにメリットがある現著作権法はとても大きな問題を抱えている。 そもそも、研究目的であるならクラシック作品や、ポピュラーソングでもパブリックドメイン楽曲の名曲があるのでそれらのみをAI学習させればよく、権利制限は本来不必要だ。これは音楽分野に限らず他分野にも言えることであると感じている。その意味からも権利制限は撤廃すべきであり、それによってAI生成物に関する依拠性の問題は生じなくなるだろう。 生成AIの問題は著作隣接権にも及び、AI技術の進化によって例えばCD等の音源からボーカルやエレキベース、ドラムス、個々の楽器の音だけを完璧に抜き出すことも出来るようになった。現行法では抜き出した音源を演奏者の許諾なくAI学習させることが可能で、それに伴って著作隣接権の無視が常態化している。 演奏者が誰なのかを聞いただけで特定するのは難しく、現法制下ではそれが悪い方向へ作用し著作隣接権が無視された状態で多数の演奏家の演奏音源が無許諾・対価なしにAI学習へ使用され、結果DTM等で使用するための高度に進化した音源が商品化される可能性がある。 日本音楽作家団体協議会（FCA）は先日、生成AIの著作物利用に対する意見表明を行ったが、これは音楽作家の総意と言っても過言ではない。（※FCAによる声明の詳細は当ページの「日本音楽作家団体協議会」の項目を参照。） ⇒著作権法30条の4については当wikiの「著作権法第三十条の四」へ 文化審議会著作権分科会（第68回）（第23期第1回）（2023年6月30日-文化庁） 10月18日に内閣府「AI時代の知的財産権検討会」において行われたヒアリングに参加し意見を述べた。 内閣府「AI時代の知的財産権検討会」（10月18日開催）のヒアリングで生成AIと著作権の関係について意見を述べました（2023年10月30日） 日本音楽作家団体協議会 2023年6月15日、一般社団法人・日本音楽作家団体協議会（FCA）はAIに関する意見表明を行った。 日本音楽作家団体協議会は、生成AIの学習の過程においてインターネット上から既存の著作物を含む膨大な量の情報が創作者の許諾なしに収集・複製されており、著作物が無断・無秩序に利用されることで創作者が不利益を被るおそれがあるため、対策を検討し解決していかなければならないと考えていることを表明。 著作権法30条の４に触れ、「生成AIの開発が急速に進むなか、創作者の権利の保証に関する議論はなおざりにされたままで、現下 AI 技術の進歩に法制度や社会制度が追いついていないと言わざるを得ません。このままでは創作者の権利が不当に害されて不利益が生じることが充分想定されます。」と指摘。 さらに同条は生成AIへ著作物を権利者の許諾なしに利用できる法的根拠とされているものの、改正の際行われた審議の時はあくまで日本発のイノベーションを促し日本版検索エンジンを開発するために著作物を利用するという事であり、人が知覚を通じて享受する目的で利用するものではないと強調されていた、とし生成AIのように元となった著作物と類似する性質を持ったデータを生成する事を念頭に置いた法改正では無かったと同協議会は指摘。 政府に対しては『「現行著作権法における権利制限規定を見直して、創作者の権利を阻害することなく AI 技術の発展と調和を図ること」、「G7 デジタル・技術閣僚宣言に基づき早急に生成 AI に関する議論の場を設け、創作者をステークホルダー(利害関係者)の一員として協議に参加させること」』を求めている。 また、「AI の問題は音楽に限らず、文芸や美術、漫画、アニメ、映像等の著作物の創作者にとっても共通かつ喫緊の課題であるはずです。FCA は各分野の創作者と連帯してこの問題解消に取り組んでいくことを表明します。」と各分野の創作者と連帯する意向を示した。 一般社団法人 日本音楽作家団体協議会HP FCA意見表明PDF PR TIMESの記事 アーティスト・ライツ・アライアンス（アメリカ） アメリカの音楽クリエイター団体アーティスト・ライツ・アライアンス（Artist Rights Alliance、ARA）は2024年4月3日、生成AIと音楽に関する書簡を発表した。この書簡はビリー・アイリッシュ、ケイティ・ペリー、ノラ・ジョーンズ、サム・スミス、スティービー・ワンダーなど有名アーティストを含めた約200名の音楽アーティストが署名した。 200+ Artists Urge Tech Platforms Stop Devaluing Music（2024年4月3日-アーティスト・ライツ・アライアンス） 200+ ARTISTS CALL ON AI DEVELOPERS, TECH PLATFORMS NOT TO DEVALUE MUSIC AND UNDERMINE ARTISTS’ RIGHTS（2024年4月3日-アーティスト・ライツ・アライアンス） 音声を盗んだりアーティストを置き換えたりする「略奪的AI」を非難する書簡にビリー・アイリッシュやスティーヴィー・ワンダーなど200人以上の著名人が署名（2024年4月3日-GIGAZINE） ユニバーサル・ミュージック・グループ（アメリカ） 大手音楽会社であるユニバーサル・ミュージック・グループ（UMG）は2023年4月26日に第1四半期の収益が減少したと発表。 その中で生成AIによって出来た音楽の問題も挙げた。 現状、大半の国の法律がアーティストの声の複製を厳密には違法とみなしていないことから生成AIによる音楽への懸念も高まっているとした。 UMGのデジタル部門責任者は、「最新の生成ＡＩの多くはアーティストやレーベルの権利を明らかに侵害する著作物を使って訓練されており、当社やアーティストとのパートナーシップと完全に対立することになる」との懸念を示した。 ユニバーサル・ミュージック、ＡＩ巡り懸念 第1四半期は減益(2023年4月27日-ロイター) 2023年10月18日、ユニバーサル・ミュージックは、他の音楽会社（ABKCO、コンコード・パブリッシング）と共同でAI開発企業Anthropicに対し訴訟を提起した。 音楽出版社大手、歌詞をめぐる著作権侵害でAnthropicを提訴——生き残りを賭け、生成AI各社は戦々恐々（2023年10月20日-BRIDGE） 当wikiのページ「生成系AIに関する訴訟・法的対応一覧」にも記述有り。 グラミー賞／レコーディング・アカデミー（アメリカ） 2023年6月17日、アメリカの有名な音楽賞である「グラミー賞」を主催する団体「レコーディング・アカデミー」は、同賞におけるAIを使った楽曲に対する新しいルールを発表した。これまではアルバムのプロデューサーやシンガーソングライター等であれば曲制作時の関与度合いにかかわらず最優秀アルバム賞の候補に推薦されることが出来たものの、新ルールでは「人間の著作が含まれない作品はどのカテゴリーにも該当しない」として人間がアルバムの20％以上に関わった場合に限り受賞候補への推薦資格があると変更している。このルールは2024年のグラミー賞に適用される予定。 「AIの作った曲、賞与えない」グラミー賞、新たなルール発表（2023年6月17日-朝日新聞） Recording Academy CEO Harvey Mason Jr. On How The New Awards Rules And Guidelines Will Make The 2024 GRAMMYs More Fair, Transparent Accurate（2023年6月17日-レコーディング・アカデミー） AI music will be eligible for a Grammy, but only if a human helps（2023年6月16日-ワシントンポスト） 韓国音楽著作権協会 2023年3月30日、韓国音楽著作権協会は「AI対応タスクフォースチーム」を発足。 協会は最近「ChatGPTの商用化などによってAIが台頭、それに伴って人間が排除されるのではないか」との会員の声が急増しているとし、特に放送音楽の市場での需要が急速に縮小しており、これは楽曲（メロディー）が主で短い曲が大部分である放送音楽の特性上、AIが人間を置き換えるのが比較的簡単であるからだ、と説明した。 協会の副会長は「AIで生計が脅かされる状況にある創作者の保護措置が議論されなければいけないにも関わらず、むしろ人間の創作物を無料で学習用データに提供できるようにする立法の試みがある」とした。 協会関係者は、「英仏などでは研究・非営利などで使用する場合に限り著作物をAI学習用に使用できるようにする一方で、韓国国内で発議されている改正案は商用・営利目的の利用も制限がない。これによって著作者の利益を過度に害することになるのではないか」とした。 ［AJU焦点］AI登場にざわめく文化界…韓国音楽著作権協会、著作権対応に出る（［AJU 초점］ AI 등장에 술렁이는 문화계…한음저협, 저작권 대응 나선다）（2023年3月30日-亜洲経済） 【 俳優・声優・実演家関連 】 日本芸能従事者協会 俳優や音楽家などで構成される団体、日本芸能従事者協会は2023年5月9日に会見を行った。 この会見ではAIが創作活動に及ぼす影響について映画、音楽、美術など各分野からの意見が出された。 同協会の代表理事は、「文化芸術分野に関わる人々の活動や権利を保護するルール作りが必要」とし、AIを使用したコンテンツの生成の際は肖像、声、演技に関する権利なども法で明文化した上で権利を保護することや、どのようなデータが使われて生成されたのかを開示する義務、クリエイターへの対価の支払い義務を求める要望書も提出した。 芸能業界団体が国に要望書 “AIコンテンツの元データ開示を”（2023年5月9日-NHK） 2023年6月8日には全ての業種のクリエイターを対象にAIリテラシーに関するアンケートを行い、結果を公表した。このアンケートは2023年5月8日～5月28日の間にオンライン上で行われたもので、総回答数は26891件。 「AIの推進でご自身の仕事が減少する心配はありますか？」との質問には「ある」が58.5％、「ない」が16.4％、「分からない」が25.1％となり、「AIによる権利侵害などの弊害に不安がありますか？」との質問には「不安」が93.8％、「不安がない」が4.1％、「分からない」が2.1％となった。さらに、「ご自身の作品等でAIに使われた事例があれば教えてください」という質問や「AIについて思う事や国への要望を教えてください」という質問には自由記述形式でありながらも多数の回答が寄せられた。(前者は2612回答、後者は14500回答のうち147回答を抽出し掲載） アンケート結果の詳細「全クリエイター実態調査アンケート10 AIリテラシー(集計結果)」(2023年6月8日-日本芸能従事者協会) 日本俳優連合 ⇒生成AIに関する日本俳優連合の活動まとめ（日本俳優連合HP） 1967年に設立され現在は約2600名が加盟している日本俳優連合（理事長：西田敏行、副理事長：水谷八重子・野沢雅子）の外画・動画部会は2023年5月10日、有志のメンバーで「AI対策プロジェクト」を発足したと発表。 連合は、AIの技術進歩で様々な分野で活用事例が進んでいるとしながらも学習元として利用される著作物に関する権利が不当に侵害されるのは実演家として看過できないと表明。 また、AIが生み出した生成物と既存の権利との関係についても配慮があるべきだとした。 今後、有識者・法曹関係者などからの協力も得ながらAIへの知見を深め、実演家を守るための指針をまとめていく方針。 「AI対策プロジェクト」発足のお知らせ（2023年5月10日-日本俳優連合） 2023年6月13日には「生成系AI技術の活用に関する提言」を発表した。連合はAI技術の発展は実演家にとっても望ましいとしながら、一方で表現の模倣、盗用を安易に促し、職域を侵害する恐れがあるとした。そして日本俳優連合として以下5つの提言を行い、業界内部でのガイドライン作り、国による法整備、国際的なルール構築を求めた。 国内外での意見交換を活発に行うとともに、EUによるAIACTの考え方に大いに賛同し、これを参考にしたガイドラインの策定を行う 学習素材は著作者が許可を与えたもののみを使用可能として、著作権法新30条4の運用の見直しを諮る 機械学習の結果によるアウトプットのイラスト、写真、映像、音声など全てのものにAIによる生成物であることを必ず明示する AIの「表現」分野への進出については、一定のルールを設ける。具体的には、人間の代替としてのAIによる表現※をしてはならないと規定する（※ただし情報の伝達は可、福祉的な利用はこの限りではない） 「声の肖像権」の設立を目指す。これまでは声と表現が切り離されて使われることが想定されていなかったため、外見だけではない「声の肖像権」の新設を急ぐ さらに日本俳優連合は、闇雲にAI技術を含めた新技術の規制をすることは目指していないとしながら、新技術の無秩序な乱用によって結果的に人間とAIの共存を不可能にする恐れがあるとして、芸術芸能分野を含むあらゆる分野でAIと人間が共存するために一度立ち止まって使い方を考え、ガイドラインを制定する必要があるとした。 生成系AI技術の活用に関する提言（2023年6月13日-日本俳優連合） 2023年10月5日から11月5日まで内閣府が募集した生成AIと知的財産権に関するパブリックコメントについて、同協会は11月10日に送付したコメントの内容を公開した。 生成ＡＩに対する意見を内閣府へ提出いたしました（2023年11月10日-日本俳優連合） 2024年2月19日、日本俳優連合の外画・動画部会のXアカウントは、公式Xアカウントで声優等の声を無断利用した生成AIに対し、「#NOMORE無断生成AI」のタグを用い懸念を示す投稿を行った。この投稿に対し5.3万リポスト（リツイート）、7万いいねもの反応を得る（2024年2月28日時点）など、高い関心が集まった。 アメリカの俳優や記者等で構成される労働組合「全米映画俳優組合（The Screen Actors Guild–American Federation of Television and Radio Artists, SAG-AFTRA）」は、2023年7月14日よりストライキを開始した。これは同年4月よりストを実施している全米脚本家組合（WGA）と共同で行われるものであり、俳優と脚本家の同時ストは実に63年ぶりとなる。俳優たちの容姿をスキャンし1日分のギャラが払われた後、その肖像権は制作会社が保有し、以降はスキャンされた本人には何も払われる事がなく生成AI技術によって永久に使い続けられるSAG-AFTRAが118日に渡って行ってきたストライキについて、暫定合意に達したと発表。ストライキは終了した。韓国漫画家協会と韓国ウェブトゥーン作家協会は韓国国会で議論中の「AI学習免責権」導入へ反対する内容の共同声明を発表。➀言論空間の混乱と社会の動揺②個人情報保護上の懸念③現行著作権法や法改正に至る過程の問題点④報道機関の著作物等をめぐる課題⑤不透明な運用実態、権利者への不十分な情報開示同協会は2023年8月17日、日本雑誌協会、日本書籍出版協会、日本写真著作権協会と共に生成AIに関する共同声明を発表した。生成AIの知的財産権に関する問題、日本著作権法30条の4の問題点を挙げ、同法の改正を求めている。変更部分はAI学習に関する部分で、事前に書面で同意しない場合AIへ記事などを利用する事を禁じ、違反した場合は民事罰や刑事罰の対象になる利用規約の該当部分4. PROHIBITED USE OF THE SERVICESニューヨーク・タイムズは自社の記事を許可なく生成AIの開発に利用されたとして、OpenAIとマイクロソフトに対し訴訟を提起した。韓国新聞協会（한국신문협회）は2023年8月2日、韓国国会の国会文化観光体育委員会に対し生成AIのデータ学習による著作権侵害を防止するための法改正を求めた。生成AIの活用範囲が広がり利用者が急速に増加する事によって、元データに対する著作権侵害問題も台頭してくる。正当な権原なくニュースコンテンツをAI学習に利用する事はメディアの著作権やデータベース制作者の権利を侵害する。なぜならばマスコミがウェブを通じて提供するニュースは著作権法上データベースに該当し、その制作者であるマスコミはデータベースの複製・配布・放送・伝送の権利を有するため。生成AIの深層学習過程ではニュースコンテンツを含む膨大なデジタル情報を収集した後、情報を分析し新しい規則・傾向・相関関係などを導出する過程（Text and Data Mining、TDM）を経る。この過程で著作権及びデータベース制作者の権利を侵害する。しかしながら現行の韓国著作権法では生成AIの学習過程で発生する著作権侵害を防止するための明確な条項が規定されていない。生成AI開発企業などはAIへニュースコンテンツを利用する事に対し韓国著作権法第35条の5「著作物の公正な利用（フェアユース）」に該当するため著作権侵害ではないと主張するが、韓国新聞協会は該当しないと考えている。その根拠は、AIの生成物は「元の著作物と区別される新しく異なる機能を果たし元著作物に対する需要を代替しないとの『変形的利用（transformative use）』に該当しない点」、「営利または商業的目的で使用されている点」「AIモデル訓練のために著作物やデータベース全体を使用する点」などだファクトをベースに重層的な検証課程を経て、政治、経済、社会など様々なテーマを幅広く取り上げるニュースコンテンツは生成AIが高品質の生成物を出力する際における重要なデータとして価値が高い。そのため無断でデータ収集を行いAI学習に利用するのはメディアの著作権を侵害する。生成AI開発企業はデータ活用に対する対価を著作権者に支給する補償体系を設けるべきだ。法改正の具体的な内容としては、ニュース著作物に対する定義を新設し「ニュース著作物」を独自の著作権保護対象とする規定を作る。ニュース記事は語文著作物（テキスト）、写真著作物（報道写真）、美術著作物（イラスト）などを総合して成り立っており、記事を構成する個々の著作物が保護されることはもちろん編集著作物としてニュース記事の著作権性も保護されることを明示する必要がある。ニュース盗用防止のための5大要求事項を伝えた。➀ニュース著作権者との利用基準協議②"グローバルAI原則"準用の公表③生成型AIの学習データの出処などを公開④ニュースコンテンツの利用方式を具体的に明示⑤ニュース著作物に対する適正な対価算定基準を整備韓国・文化観光体育部と国会文化体育観光委員会に対し、生成AI開発時における無断でのメディアコンテンツ商業利用の禁止を著作権法に盛り込む事や、生成AI開発時の使用データ公開義務化等を求めた意見書を提出した。欧米のメディアとその関連団体、作家団体、写真素材販売会社など9つの企業・団体が生成AIに対する公開書簡に署名し、「生成AIモデルの規制された責任ある成長のための原則案」を明らかにしたAIモデルを作成した際に利用したトレーニングセットの開示。AIトレーニングに利用されるコンテンツを作成する者の知的財産を保護。AIモデルの開発者・運営者に対し、メディア企業が独自の知的財産の使用に関して集団的に交渉できる機能。AIモデルとユーザーに対し、出力とインタラクションにAI生成コンテンツが含まれていることを明確に、具体的に、一貫して識別する事への義務。生成AIモデルの提供者がAIサービスの偏見、誤情報、乱用を制限する事を要求。公開書簡に署名した企業・団体は以下の通り。日本雑誌協会、日本写真著作権協会、日本書籍出版協会、日本新聞協会の4団体は生成AIに関連する共同声明を発表した。➀著作権者への還元なしに大量にコンテンツが生成される事で創作機会が失われ経済的にも著作活動が困難になる。②海賊版のような違法コンテンツを利用した非倫理的な生成AIの開発・生成が行われる。③元作品への依拠性・類似性の高い著作権侵害コンテンツが生成・拡散される。AI利用者が意図せず権利侵害を行う恐れがある。この共同声明に参加した団体この項目では政府が募集したパブリック・コメント（政策などに対し国民から意見を募る制度）に対し、各団体・企業などが送付したコメントの内容などへのリンクや関連する資料などをまとめています。
https://w.atwiki.jp/genai_problem/pages/15.html
世界各国における生成AI規制の動きについてまとめたページです。 + サムネイル画像 下の画像はSNS等にこのwikiのURLを貼り付けた際表示されるサムネイルとなることを想定して作った画像です。仮の画像ですので自由に差し替えて頂いて構いません。 【目次】 北アメリカアメリカ合衆国(USA)2023年7月からの動き 2023年4月～6月の動き 2023年1月～3月の動き カナダ 欧州EU イギリス イタリア ドイツ ロシア 東アジア中国 韓国2023年2月からの動き 2022年の動き 生成系AIに対する韓国インターネットの反応 日本 南アジアインド オセアニアオーストラリア 「AI」に関するニュース「AI」に関するプレスリリース一覧 「ChatGPT」に関するプレスリリース一覧 北アメリカ アメリカ合衆国(USA) 2023年7月からの動き バイデン政権は、ホワイトハウスにAI開発企業7社（OpenAI、Google、Amazon、Meta、Microsoft、Inflection、Anthropic）を招き、AI生成物に対し「透かし」を付けるなどの対策へ取り組む事を要請し、これら開発企業は自主的な行動を取ることを誓った。 FACT SHEET Biden-Harris Administration Secures Voluntary Commitments from Leading Artificial Intelligence Companies to Manage the Risks Posed by AI（2023年7月21日-ホワイトハウス） 2023年4月～6月の動き 米民主党上院トップ、ＡＩ法制の構想示す…対応が遅れれば中国に主導されると警告（2023年6月22日-読売新聞） 与党・米民主党のトップであるチャック・シューマー院内総務は6月21日米戦略国際問題研究所（CSIS）で講演した折、人工知能に関する法整備の構想を示した。AIの技術革新を阻害することなく使用の際の安全性や透明性を確保する事を柱として超党派で迅速に取り組む必要性を訴えた。同氏は「議会はAIによる利益を最大化しながらもアメリカ国民を新たなリスクから守る必要がある」とし、AI開発企業などが安全性、説明責任、基盤の保護、透明性の４項目を守ることが必要だとした。「基盤の保護」においてはアメリカが重視する自由や公民権のような価値観について「AIは支持も反対もしない」として適切なアルゴリズムで無ければ選挙のあり方に影響を及ぼすと警告。対応が遅れて中国がルール構築を主導すれば「民主主義は急落の時代を迎える」とした。他に、敵対勢力によるAIの悪用を防止する取り組みや、アルゴリズムの透明性の拡大、芸術家や音楽家らの知的財産を守る策が必要だとしている。シューマー氏は近く議会に各界の専門家を招き法整備の具体化に向け集中的な討議を行うとし、AIの進化に対応したスピード重視の審議を行うとした。さらにAIの問題は党派争いの外にあるべき問題だとし野党・共和党へ協力を求めた。しかしながら、下院の多数派である共和党は規制に後ろ向きな傾向で、合意の形成は困難であるとされる。 バイデン米大統領、ＡＩは「社会・経済・国家安全保障にリスク」…議会に法整備促進を要求（2023年6月21日-読売新聞） 6月20日、バイデン大統領はサンフランシスコで行われたAI専門家との会議で、「社会、経済、安全保障へのリスクを管理する必要がある」としてAIに関する法整備の必要性を訴えた。今後10年間で過去50年で起きた以上の技術革新があるとし、政権として対応の強化を行う考えを示し、特にSNSでは「適切な保護措置が無ければ害がもたらされる事が既に明らかになっている」と警告。具体的な対策としてターゲティング広告の対象から子どもを除外すべきであるとし、議会が制定するべき新しい法律について「企業に安全第一を求めるものだ」と語った。 米共和・民主上院議員、生成ＡＩ巡るＳＮＳの免責廃止法案提示（2023年6月15日-ロイター） アメリカ共和党のジョシュ・ホーリー上院議員と民主党のリチャード・ブルーメンソール上院議員は、ソーシャルメディアを運営する企業が投稿内容についての責任を免除される法的根拠となっている「通信品位法230条」について、AIが作成したコンテンツに関しては免責されないようにするとの法案を発表。これが議会を通過すれば生成AIで作られた有害コンテンツが拡散された場合、運営する企業に訴訟が起こせるようになる可能性がある。 米国、ChatGPT のようなAIのルールを検討(2023年4月12日-AFP) 米政府、AIの規制方法について一般に意見を募る(2023年4月12日-Forbes) 2023年4月11日、米国のホワイトハウスがChatGPTなどの生成AIに対する説明責任及び規制に関するルール策定の為に行動を開始したと報道された。これは偽情報の拡散、ディープフェイク・プロパガンダの生成と言った選挙の混乱を見据えた上での検討だと考えられている。米国商務省は生成AIに対する適切な安全性の保証を強く請求し、AI対策の正式な意見公募を開始した。これはバイデン政権がAI規制へと舵を切った最初の一歩として国際的に注視されている。 バイデン大統領、「AIは有用だが潜在的なリスクへの対策も必要」(2023年4月6日-PCwatch) 大統領科学技術諮問会議にて、バイデン大統領はAIについて諸問答の課題解決に役立つその一方で、健康・安全・経済・国家安全保障等に悪影響を及ぼすと想定される、あらゆるリスクへの対処が必要であり、ハイテク企業はAI製品のリリース時に安全性を担保する責任があると言及。4月5日、ツイッターにもその旨を投稿した。 AIが生成した作品には著作権を認めない。原則として人間が作った作品のみが著作権保護の対象となるプロンプトは画家への注文のようなもの著作権を認めない著作権で保護されたデータを使用しているフェアユースを盾に画像を無断使用するAI企業訴訟の概要について説明したページ（集団訴訟参加者による制作）⇒個人情報の扱いを懸念AI法の施工開始は2026年となる見通し。AIで生成したという事実を明示するように事業者へ求める」「EU法に違反するコンテンツの生成禁止」「生成AIが学習に使用した資料の一部開示厳しい措置AIの開発者が著作権で保護されたデータを学習に使用しているか宣言することAI規制欧州AI規則案責任ある使用・イタリアのChatGPT一時禁止、欧州で規制広がる予兆かChatGPTはプライバシー侵害イタリアはプライバシーの保護とデータ利用透明性の欠如を理由にChatGPTへのアクセスを遮断した。無断で個人情報を取得及び保存することを正当化する法的根拠は存在しない知的財産権を侵害する内容を含まないことこれは著作権者の許可がない知的財産の学習を違法とする法的根拠が生まれたということであり、中国と同様にAIの規制手段について考慮している米国からの注目を集めている。規制案AI生成マークの表示実名登録制5月22日AIによって作られたコンテンツに対し、AI製である事の表示を義務化する法案が発議されたAI表示法案の詳細5月3日新しいデジタル定立方案の詳細AIが学習に使用するデータの個人情報・著作権侵害ディープフェイクによる偽ニュース問題4月24日「AI-著作権法制度改善ワーキンググループ」の第3回会議が行われた。第3回ワーキンググループの詳細4月3日3月30日AI関連で起きている著作権問題について対処するために「AI対応タスクフォースチーム」を発足3月21日「AI-著作権制度改善ワーキンググループ」の第2回会議が開かれた。第2回ワーキンググループの詳細2月28日フォーラムの詳細2月24日AI時代の新しい著作権を検討する「AI-著作権制度改善ワーキンググループ」を初開催した。第1回ワーキンググループについての詳細古い資料