事例やURLまとめ AI生成物の問題点を知ってほしい 無断使用された人たちの助けになればと思い、情報をまとめました。 個人情報・写真や創作物の許諾外の無断利用される流れを止める。
1

↑翻訳AIコミックアートは、オフィスがAIの仕組みを学習した後、著作権が取り消されました。

自作発言・トレパク紹介【イラスト】 @8W5ha8

midjourneyの利用規約ページ:10. 責任の制限と賠償 青枠意訳『君が他人の知的財産侵害して俺らに損害でたら、君探して損害額分を払ってもらうつもり。 あと弁護士費用払ってもらうように裁判とかもするかもだから… (他人の知的財産侵害)そんなことしないでね』 pic.twitter.com/HWSZQA5pDU

2023-02-14 11:05:28
拡大
リンク GIGAZINE 画像生成AI「Stable Diffusion」「Midjourney」「DALL-E」などで生成した画像のアップロードと販売をGetty Imagesが禁止、ユーザーが法的なリスクに直面する可能性があるという懸念が理由 写真・画像・動画・音楽などのデータ素材をインターネット経由で配布する大手ストックフォトのGetty Imagesが、著作権侵害問題を恐れて「Stable Diffusion」「Midjourney」「DALL-E」などの画像生成AIが生成した画像をアップロード・販売することを禁止すると発表しました。 23 users 44

↑記事内容:
etty Imagesのクレイグ・ピーターCEOは、海外メディアのThe Vergeに対し、「画像生成AIから出力される画像の著作権に関しては本当に懸念があり、画像・画像のメタデータ・画像に含まれる個人に関する未解決の権利といった問題があります」と言及。つまり、AIが生成した画像を販売することでGetty Imagesユーザーが何らかの法的リスクにさらされる可能性があるとピーターCEOは懸念しているわけです。

リンク stablediffusionlitigation.com Stable Diffusion litigation · Joseph Saveri Law Firm & Matthew Butterick Stable Diffusion litigation 2 users 3859

↑翻訳:アーティストの権利を侵害する 21 世紀のコラージュ ツールである Stable Diffusion に対して訴訟を起こしました。
AI はすべての人にとって公平かつ倫理的である必要があるからです。

NovelAIの違法性

自作発言・トレパク紹介【イラスト】 @8W5ha8

Anlatan社の管理が及ばないNovelAIと同じ画像生成モデルによって、盗用した画像で学習させ作風が盗まれることについて、著作権として問題 qualias.net/what-is-the-pr…

2023-02-26 17:25:00
リンク 二本松 哲也 NovelAI のリークは何が問題なのか | 二本松 哲也 2022年10月6日に第三者による不正なアクセスによって、NovelAIの画像生成モデルを盗まれた模様です。 1 user 38
NAIリーク問題を考える @2d62144a74f24f8

note.com/jolly_minnow76… NAIリークの歴史を書きました。一万字とちょっとあるのでツイッターには投稿できません。AI絵師がどういう風にNAIリークを受け入れたのか。なぜ、AI絵師は倫理観がないのか。なぜ、AI絵師はこれほど馬鹿なのか。これを読めばその理由が大体わかります。

2023-02-19 00:00:17
リンク note(ノート) NAIリークの歴史|NAIリーク問題を考える|note はじめに 近年のAI画像生成は盗品の歴史である。danbooruという無断転載サイトから学習したNovelai。Novelaiのリークモデル。リークモデルを追加学習し、それを無断で転載したAnything。Anythingと、肖像権を無視して何万枚もの写真を無断で学習したinstagramモデルとのマージモデル(Orangemixシリーズ)。Orangemixを改造したabyss。どのモデルをとっても、それは盗品という負の要素が存在する。だから、近年のAI画像生成は盗品の歴史である。 AI絵師は、この事実 2 users
NAIリーク問題を考える @2d62144a74f24f8

日本のAI絵師の中心地は seesaawiki.jp/nai_ch/d/MenuB…です。wikiには「snsに貼るな」と書いてありますが貼ります。なぜならここにはNAIリークの導入方法が書いてあるからです。 NAIリークは盗み出されたモデルです。そのモデルの取得方法を記載している。それだけでこうやって告発する理由にはなります。

2023-02-18 12:48:41
リンク NovelAI 5ch Wiki MenuBar1 - NovelAI 5ch Wiki はじめに トップページ 用語集 赤ちゃんのために 浦島太郎のために スレの使い分け 技術解説・ツール紹介 NovelAIの使い方&FAQ プロンプト変換 おすすめツール・リンク集 各言語・国別技術 Step...

利用された写真と創作物:開発元へ学習元データの開示責任

GIGAZINE(ギガジン) @gigazine

「Stable Diffusion」のような画像生成AIにバックドアを設けることを義務化するよう呼びかける論文が発表される gigazine.net/news/20230217-…

2023-02-17 19:00:13
リンク GIGAZINE 「Stable Diffusion」のような画像生成AIにバックドアを設けることを義務化するよう呼びかける論文が発表される 最新の論文で、Stable Diffusionのような画像生成AIに「バックドア」を設けることを義務化すべきとマサチューセッツ工科大学(MIT)の研究者たちが呼びかけました。画像生成AIにバックドアを設けることで、これらを開発する企業は規制当局と協力してAIアプリが同意のないディープフェイクの作成に利用されることを防ぐことができるようになると主張しています。 36 users 51
Emad @EMostaque

@FelixHill84 Yeah but you can go behind the firewalls if you're smart and get private data.. A lot more of that than public data.

2023-02-25 00:45:31

↑AI生成画像会社stable diffusion CEO、Emadのツイート
Emad「我々のAIは良くなっていく」
一般人「もうネット上のデータ殆ど使い切ってない?」
Emad「量ではなく質」
一般人「更に質の高いデータなんてあるの?」
Emad「貴方がファイアウォールの内側に行けるなら、大量にある」

■Stability AI 同意なしで「数十億」の画像を使用したことを認める

リンク ITmedia NEWS 全米作家協会、生成AI大手に「トレーニングに著作を無断で使うな」公開書簡 OpenAIやGoogle、Metaなど、生成AIを手掛ける米大手のCEO宛に、全米作家協会が著作物をAIのトレーニングに無断で使わないよう求める書簡を公開した。既に8500人以上が署名している。 53 users 17

全米作家協会、生成AI大手に「トレーニングに著作を無断で使うな」
全米作家協会が著作物をAIのトレーニングに無断で使わないよう求める書簡を公開した。既に8500人以上が署名している。

Seamless @shiropen2

言語生成AIは文章を“盗作”しているのか? 21万件の文章から米国の研究者らが分析 itmedia.co.jp/news/articles/… 言語生成モデルがコピペや言い換え,アイディアの盗用をしてるかを独自の盗用発見システムで検証。21万件中盗用1193個が発覚。内約28%に位置情報と人名が含まれてた。図の黄はコピペ。橙は類似 pic.twitter.com/qlQV9TZ2Gp

2023-02-22 09:22:10
拡大
リンク ITmedia NEWS 言語生成AIは文章を“盗作”しているのか? 21万件の文章から米国の研究者らが分析 米ペンシルベニア州立大学と米ミシシッピ大学に所属する研究者らは、自然言語生成モデルが剽窃(ひょうせつ)している可能性を分析した研究報告を発表した。 36 users
リンク ITmedia NEWS 注目集める「AIコスプレイヤー」の作り方を調べてみたら、“無規制地帯”が見つかった イラスト生成のダークサイド(要約) 注目集める「AIコスプレイヤー」。その作り方を調べてみたら、インターネットの“無規制地帯”が見つかった。 333 users 20
自作発言・トレパク紹介【イラスト】 @8W5ha8

EU一般データ保護規則により学習データにEU在住者の写真が混じっていた場合、EU在住者の個人情報を目的外利用した場合の制裁金。 例えばAmazonだと970億円。許してもらえないよ twitter.com/takigare3/stat…

2023-02-17 22:25:22
滝沢ガレソ🥕 @takigare3

【朗報?】AIが描き出すコスプレイヤー、あまりにもレベルが高すぎる 「もう人間は要らないのでは?」「レイヤーもグラドルも淘汰されそう」「船これ座礁してるやん」と話題に (制作:@auditore_k) pic.twitter.com/RdHm3XKgKP

2023-02-17 02:36:10
リンク 日本経済新聞 欧州当局、Amazonに罰金970億円 GDPR違反で過去最大(写真=ロイター) - 日本経済新聞 【シリコンバレー=白石武志】米アマゾン・ドット・コムが消費者への広告表示をめぐって欧州連合(EU)の包括的な個人情報保護ルールである一般データ保護規則(GDPR)に違反したとして、7億4600万ユーロ(約970億円)の罰金を科す決定を受けていたことが30日、分かった。GDPRに基づく罰金額としては19年に米グーグルに科された5000万ユーロを上回り、過去最大となる。アマゾンが30日付で開示した 225 users 261
Shuji Sado (佐渡 秀治) @shujisado

EUのAI法がオープンソース開発者に適用されるべきではないとGitHubの人が言ってたという記事。 この法はAIの正確性、安全性、データ使用等での透明性をプロバイダー側が保証することを定めるが、この範囲が雑に個人まで含んでいるのでオープンソース開発にも影響するという話。theregister.com/2023/02/07/git…

2023-02-08 08:59:50
リンク www.theregister.com GitHub CEO: EU AI Act shouldn't apply to open source devs Lawmakers said to be trying to align on the basics by 'early March'

↑翻訳:GitHub の CEO は、EU AI Act はオープンソース開発者に適用されるべきではないと述べています
議員たちは、「3月上旬」までに基本に合わせようとしていると言われています

AI ツールは、大勢の人類が知らず知らずのうちに提供した写真や芸術作品によって支えられています。↓

リンク www.vice.com ISIS Executions and Non-Consensual Porn Are Powering AI Art AI is progressing at an astonishing speed, but we still don’t have a good understanding of the datasets that power AI, and little accountability for whatever abusive images they contain. 148

ChatGPT PlusのWebブラウジングが一時停止
有料記事を読めてしまうとの報告を受け
ニューヨークタイムズ(新聞記事)のようなサブスクリプションしないと開けない、本来ペイウォールで守られている記事であっても全文が表示されてしまう

リンク ITmedia NEWS ChatGPT PlusのWebブラウジングが一時停止に 有料記事を読めてしまうとの報告を受け OpenAIは、ChatGPT Plusでβ版として提供している「Browse with Bing」を無効にした。ペイウォールで制限されている記事を表示してしまう問題を修正するまでの一時的な停止だ。これにより、GPT-4の情報は2021年9月までのものに戻ってしまった。 40 users 23

ディープフェイクポルノ問題

リンク Switch news 台湾で刑法を改正、ディープフェイクのポルノを配布した場合、最高で7年の刑 先日、台湾で法改正がなされ、ディープフェイクによって利益を得た犯罪者が、長期間服役する可能性が出てきたという。 5
ゴリライブ SP🦍 @GoriliveSP

@taisukeono 最近児童ポルノを学習させるAIが大量に発生してきたので そちらの対応から始めてみては クリエイターの方にも対処してほしいですが 実物の子供の被害対策が早急かなと ちなみにこれまだマシな部類で 本格的なエロ画像がpixivに大量に投稿されてます twitter.com/CCloud79190165… twitter.com/terudarin/stat… pic.twitter.com/O0yIGTUEsQ

2023-02-02 13:52:29
CCloud @CCloud79190165

AIが道具になると思っている人へ: インターネットのどこかに、この「道具」を持っている人がいる限り、あなた自身やご家族の子供の写真をインターネットに投稿することはできますか? pic.twitter.com/C1dUTNOBLk

2023-01-26 23:51:26
rin @terudarin

※注意喚起・拡散希望※ (画像閲覧ご注意ください) 現在、画像生成AIによって、悪意ある人間がweb上のあらゆる写真を無断収集し、ポルノ画像を大量に合成・公開できる状態です。 インスタ、Twitter等に写真を上げるのは今は特に危険です。 多くの育児垢さんや学生の方に届いてほしい。 続く↓ pic.twitter.com/Y2N02YOCZa twitter.com/CCloud79190165…

2023-01-28 03:23:16
拡大
拡大
ネコノネ @samenya_monster

#育児 垢さんは気をつけてて大丈夫だと思うのですが、 年長の子がいて自分やお友達で写真や動画をInstagramや TikTokなどに投稿してしまうこともあると思うので気をつけてください… 今は著作物や写真等を無許可で学習している #画像生成AI の影響で遥かに障壁が低くなっています… pic.twitter.com/0aBuKFsBZv

2023-02-01 21:11:22
拡大
拡大
AskAubry 🦝 @ask_aubry

Mia Janin was only 14 when she took her own life. An all boys SnapChat with approx 60 members reportedly were sharing AI nudify and Photoshopped images of girls in their school and making fun of them. This should be illegal. This should be considered producing CP. pic.twitter.com/LKucBCzgtT

2024-01-25 09:48:52
拡大

イギリスロンドン在住 ミア・ジャニンが自ら命を絶ったとき、彼女はまだ14歳だった。伝えられるところによると、約60人のメンバーが所属する男子だけのスナップチャットが、AIがヌード化したりフォトショップで加工した女子生徒の画像を学校内で共有し、からかっていたという。
これは違法であるべきです。これはCPの生成を考慮する必要があります。

■13歳少女らの裸の画像をAIでねつ造、SNSで共有も スペイン南西部

ライブドアニュース @livedoornews

【約20件の被害】13歳少女らの裸の画像、同世代の子どもがAIで捏造 スペイン news.livedoor.com/article/detail… 偽のわいせつ画像はチャットアプリ「WhatsApp」で何カ月も出回っていたという。被害にあった少女らの年齢は13歳から15歳。おびえており、不安障害に悩まされている少女もいるという。 pic.twitter.com/CN5dRxdNoI

2023-09-27 07:53:50
拡大
リンク YouTube 13歳少女らの裸の画像をAIで捏造、SNSで共有 スペイン当局が捜査開始 スペイン当局は、同国南西部で同世代の子供たちが13歳の少女らの裸の画像を人工知能(AI)を使って捏造し、共有していたことが犯罪に当たるか捜査している。これまでにおよそ20件の被害の報告が検察に寄せられた。#スペイン #人工知能 #捏造チャンネル登録:https://youtube.com/ReutersJapan...

自分の写真や創作物を守る

■WEBスクレイピング対策をしているサイトを使う
または個人サイトは大規模なスクレイピングのターゲットとされにくい

自作発言・トレパク紹介【イラスト】 @8W5ha8

【全絵描きさん・クリエイターへ‼️‼️】 pixiv →Danbooruに多くの作品が転載、タグ付け管理され、イラスト画像から逆向きに画像生成AIのプロンプト用にされて合成素材扱い、高坂がいる クロスフォリオ →スクレイピング対策あり‼️‼️ だそうですよ‼️‼️ xfolio.jp/portfolio/offi… pic.twitter.com/JRvw2V2Zaw

2023-06-10 15:02:12
拡大

クロスフォリオは小説も投稿できますので、小説もWEBスクレイピングから守ってくれます。

■画像保護ツールを使う

リンク mist-project.github.io Mist 3 users 79

画像保護ツールMist
Mist は、Stable diffusion、Scenario.gg などの LoRA、SDEdit、DreamBooth 機能を含む一般的な AI-for-Art アプリケーションによって画像のスタイルとコンテンツが模倣されないように設計された強力な画像前処理ツールです。 Mist は画像に透かしを追加し、AI-for-Art アプリケーションで使用されるモデルでは認識できないようにし、模倣できないようにします。

1
まとめたひと