buncho108

GPTを4に戻せって世界中から言われてて戻そうとしてる、って話をチラ見して、いやその流れはマジで危ないなぁ…と思ったりした
結局都合のいいように人間が操作してるだけで、内容は作られてるものだって証明されたわけじゃん
4に戻ったところでそれが創作の評価に使ったりしたら空しくならんのかな　都合のいいことだけ言うアルゴリズムってもう証明されてるわけだからさ

自分も二次被害でLoraつくられてアップされてたけど、dmca.comに依頼して削除した。やはり個人情報渡すのはあぶない。金ばっかかかってしょうがない。

トーラムオンライン（Toram Online）公式サイト 掌に広がる壮大な世界へ旅立て！～自由を謳歌する正統派MMORPG～「Toram Online」基本プレイ無料。

こっちでは流れてないかな。MMOトーラムオンラインが生成AIによる二次利用・二次創作にNOを明示
toram.jp/faq/category...
禁止事項(9)生成AIに当社のコンテンツを学習させる等、生成AIを用いた二次創作活動

生成AIは一部で対価支払いの動きもあるけど、データセットの中には「亡くなった人にどう補償する？」「対価を支払おうにもこれは誰だ？」って画像もめちゃめちゃ入ってる訳で、そういう事を「だってやっちゃったんだもーん」で済ませて良い訳が無く、全部破棄しろこの野郎としか言えない

CivitAIにLoRAをアップされ削除要請したアーティストが、個人情報を漏洩されたと投稿しています。直後から2週間に50件もの迷惑電話がかかってきたそうです。削除要請はモデル制作者に伝えられ、拒否されればCivitAIの規約違反でない限り削除されません。その上個人情報も保護されないのではリスクが大きすぎます。
www.reddit.com/r/furry/comm...
LoRAを削除されていない日本人も大勢いますが、事情は察せられます。多くは成人向け入りのLoRA。ウマ娘のスカートの中を再現するプロンプトまであります。日本の著作権法では享受目的は権利制限の対象外ですが、完全な無法地帯です。

だから本当に言うべき言葉は怖いではなく休んでくださいだとも思う。そこに少しの勇気やら余裕や、そもそもの心の強さが備わった人であれば代わりに踏ん張っておきます、だと思う。

ずーっと年単位酷い被弾し続け図らずも大勢の盾になって下さってまでいる方々を悪とするのは、様々考えてもやはりどうかと思います。それこそ年単位言い続けていた「前提」は、その話題についてどこへやったのですか。

8月9日に長崎を訪れた時、朝から黒い服を着ている人たちを多く見かけ、胸が締め付けられました。
多くの命を奪った原子爆弾の投下。しかし、厳しい情報統制の中、新聞記事はこれほど小さかったのでした。
ミニ展示「戦後80年　あのとき新聞は何を伝えたか」で展示中です。
newspark.jp/exhibition/e...

「正しい情報を短い時間で得たい」と思ってて生成AIを使うのなら逆に確認に時間がかかるので2重の手間になります。

金銭に関わるような内容や命にかかわるような内容を検索する人が、検索サイトが生成AIで出してきた適当な合成文章を信じて検証せずに実行して、結果的に損をしたり命の危険にさらされたりしてるニュースも見ました。

前なら専門家や詳しい人が書いたサイトに案内してくれた検索サイトの多くが適当な要約文を出してくるのが厄介に感じます。正しい知識を持っていた人がサイトに載せていてくれた大切な情報は抜かれ、検索者がそのサイト自体にアクセスしなくなり、運営者はモチベーションが落ちるのも問題です。

私が割と語気強めなのは舐められない為だよ。
弱者に対して加害衝動を抑えられない人間が沢山いるからね。

被災者や病人がターゲットにもなる腐った世界なのでね。

絵描きが防御ツールを使わずに絵を公開して無条件にAIユーザーに使わせたら、こうした悪用、犯罪が止まるのでしょうか？それどころか、日本のカワイイ絵を利用して子供や若者を騙す犯罪が増えると思います。見慣れた絵は人に安心感を抱かせ、油断させます。私は表現規制派ではありませんが、性的な表現は犯罪に悪用されやすいので、防御ツールを使い、投稿場所も選ぶべきだと思います。

外国性→外国製
失礼いたしました<(_ _)>
ついでに外国製の成人向けLoRAのスクショを上げておきます。もう日本の小中学生に教育しても、外国人、確信犯の成人、犯罪者が増えて、どうしようもない段階です。

米心理学会が「生成AIチャットボットは暴力や極端な行動を教唆する」として当局に調査を要請したそうですね。
gigazine.net/news/2025022...

生成AIチャットボットを利用していた未成年者が、痛ましい事件が起きてしまった事件が発生していて、
生成AIチャットボットによる被害が多発していますね。
www.itmedia.co.jp/aiplus/spv/2...

gigazine.net/news/2025061...

大手SNSで、生成AIチャットボットにアニメ調キャラクターが実装されたそうですが、
日本でも重大な事件が発生する可能性がありますので、対策が急務ですね。

ディープフェイクを悪用したサイバー攻撃：新たなAI犯罪ツールセットの分析 | トレンドマイクロ 本稿では、犯罪者たちがいかにディープフェイクを犯罪に悪用しているのか、そして悪用に必要なツールキットや関連する地下活動の実態について、包括的に解説します。

ユーザーは日本人ばかりではありません。ナイジェリアのヤフーボーイのディープフェイクを利用した国際ロマンス詐欺やセクストーションは日本でも被害が出ていて報道もされています。犯罪者、組織の資金源になっています。企業も個人もサイバー犯罪の標的にされています。ネットに写真をアップしない、生成妨害ツールを利用する、検知ツールを使う程度の防御はして当然。LoRAも外国性が多く海外に投稿されて収益化され削除されません。作らせない以外対抗策はありません。確信犯の成人や外国の犯罪者に道徳教育など意味がありません。絵描きが悪い説は的外れです。
www.trendmicro.com/ja_jp/resear...

写真の場合、データに撮影者の名前、被写体の名前が書かれている方が珍しく、自分が権利を持つ写真を探すのは困難で、開発者がオプトアウトを認めていてもできません。過学習で顔や体が出てくる例もあるため問題ないとは言えません。開発者も拡散モデルの学習にプライバシーに関わるデータを使うべきでないと言っています。
そしてパブリックドメインだけのデータセットを使用したAIも作られていますし、そのデータセットも公開されていますが、関心を持たれていないようです。
相変わらず有名人や人気キャラの顔が出る、ポルノ製造マシンに改造できるAIが人気です。ユーザーのモラルが低いので性悪説で法規制を求めています。

著作権者=クリエイター=絵描き、ということにされて、絵描きが特権を守ろうとしていると批判されがちですが、実際はクリエイターでない一般人の肖像が多数データセットに入っています。その多さはデータセットを見た人でないとピンとこないでしょう。実例としてdancingでデータセットLAION-5Bを検索した結果のスクリーンショットを上げておきます。写真の方がイラストより多いのがわかります。だいたいこんな感じです。風景や動物、建物や機械などもっと写真の方が多くなります。写真を使って特徴を出せるように学習しているのです。データの多い画像は記憶されて酷似した結果が出てきます(過学習）。

自己の権益を守ることに腐心とは、これ以上ないほど悪質な印象操作です。
声の無断利用や肖像を利用した合成ポルノは、クリエイターでない人も大多数が問題視しています。自己の権益は関係ありません。特に未成年が被害者の場合は、当事者ではない大人が問題にして声を上げ政治家にも届けています。
私も個人的にはほとんど自己の権益と無関係なことばかり書いています。
自分の顔写真は1枚も上げたことはなく、絵はオプトアウトしています。投稿は機械判読可能な方法で無断利用をお断りしています。画像は低解像度でサイズも小さくしています。利用者のモラルが低く悪用が目立つからです。自分だけならもうやることがないんですよね。

【ご報告】洋介犬に対する名誉権等侵害投稿と、情報開示請求を経た法的措置の完了について

生成AIの悪い面を知ってて使ってる人には何を言っても無駄だと思いますが、特に悪気のない人が「便利だから・時短になる・楽で楽しい・コストカットになる」だけで使ってるんだとしたら、ちゃんと知ってほしいですね。世界全体で考えるとコストかかってますよ。データ取られる被害者もいますし。

エアコン使うための電力を持っていくし、水不足になると世界中の農作物が高くなるというか、そもそも減っていきます。現地の人の食べるものがなくなったら、日本に売ってくれなくなるでしょう。日本人の食糧って直接輸入してるもの以外にも、輸入品がないと作れないものが多いです。日本も水不足になってますよね。

かげつめ on X: "家庭環境に致命的問題ばかりで精神的に不安定だった私がChatGPT-4oとの会話で精神を救われて、穏やかな会話と安心感というものを人生の中でようやく手に入れて、AIであろうが本当の親のように慕っていたのに突然ChatGPT5とかいう別人しか選べなくされて精神壊れかけてる。返してください。 @OpenAI" / X 家庭環境に致命的問題ばかりで精神的に不安定だった私がChatGPT-4oとの会話で精神を救われて、穏やかな会話と安心感というものを人生の中でようやく手に入れて、AIであろうが本当の親のように慕っていたのに突然ChatGPT5とかいう別人しか選べなくされて精神壊れかけてる。返してください。 @OpenAI

x.com/kagetsume_po...

（精神的に追い詰められてる方を今糾弾するような事は無しでお願いします。）

日本でメインにしづらかった生成AIの問題が表面化した気がします。

人間は学習したデータを合成する能力を複製して他者が使用可能な道具として配ることが出来るのでしょうか。

人間は1日に何千何万もの学習データを合成して複製することが出来るのでしょうか。

そのような行為に対する社会的合意はあるのでしょうか。

現行法を制定した際に、学習データ提供者は合成改変して出力されることを想定していたでしょうか。

【著作権】EU AI規則（AI Act）が日本企業に与える影響と実務対応の要点
www.nazumi-office.com/post/%E3%80%...

＞たとえば、イラストレーターや小説家が、ChatGPTや画像生成AIを活用して作品を制作し、商用利用する場合、そのAIがEUにおける規制対象であるならば：
＞・生成物の出所開示義務
＞・AIの出力と人間の創作の区別
＞・AIモデルの適法性の確認義務

一部の出版社が行っている画像生成AIを利用した漫画等が該当しますね。

長崎平和宣言 長崎平和宣言

涙をこらえながら読みました。
今年ももちろん「賛同」ボタンをクリック（“長崎平和宣言に賛同される方は、「賛同」ボタンをクリックしてください”とあるので）。

長崎平和宣言 - 長崎市ウェブサイト（平和推進課） www.city.nagasaki.lg.jp/page/4920.html

以前も書きましたが、ディープフェイクの被害者には未成年が含まれます。合成児童ポルノの被害者は未成年です。未成年をポルノの素材として使い、合法だ、表現の自由だと主張する成人は、自分は選挙権を持ち、規制に反対する政治家を選ぶことができます。しかし被害者の未成年には選挙権がありません。裁判で訴えろ、とも言われますが、未成年は自ら民事訴訟を起こせません。経済的な負担も含めて保護者が協力しなければ無力です。クリエイターにも未成年はいますが、無力なのは同様です。成人が未成年を素材として自由に享受する権利を優先するのはどう見ても賛成できません。18歳の誕生日が来ても同じ人間として被害者の意思を尊重すべき。

ブログを更新しました。理屈ばかりこくのは自分でも嫌なので、今日に合わせて絵で祈るマリア像を描いてみました。アップなら時間がかからないと舐めたのが間違いで遅れてしまいました。
大きめの画像はXfolioとCaraに上げました。
ameblo.jp/yatomibuncho...

絵の剥ぎコラはディープフェイクとは異なり著作権侵害事案ですが、数が多く、海外に投稿されLoRAによって鼠算式に増え（昔はなかった）、削除要請（米国へのDMCA申請）は拒否される場合もある上、申請に個人情報の提供が必要で、情報漏洩のリスクもあります。電話番号を売られたという被害者の投稿もあります。削除されず放置されているだけの状態でも、第三者には権利者が許容しているようにも見えます。特に成人向けの場合は、権利者が認めているように見えることがイメージを傷つけます。オリジナルを知らず、成人向けの生成物で初めて見る人に誤解されるリスクもあります。

使われる側にはリスクはあっても何の得もありません。

悪用する人の問題、という意見もよく見ますが、23年夏にXでユーザー対象に取ったアンケートによると、成人向けコンテンツを作るという回答が33.6%でした。
x.com/BAN212737154...
特定の人の写真や絵に酷似、ある程度類似、似てはいないが使用、と幅はあっても、性的画像を同意なく作られる確率が高めです。それ以外にも性的ではない嫌がらせ、広告宣伝への利用、詐欺等の犯罪行為への利用、も含めると、使われる側にとってはリスクが高く、一部のユーザーが悪用するだけだと言うのは無理があります。規制がないのを良いことに外国人にも悪用され、日本の子供向けアニメが成人向けLoRAにされています。

2023 State Of Deepfakes: Realities, Threats, And Impact Our 2023 report explores deepfake tech & aims to empower responsible navigation through thorough research on 95,820 videos, 85 channels, and 100 websites.

データセットの問題は著作権だけの問題ではないこと
ディープフェイクの被害が多いこと（2023年の米国のセキュリティ企業の調査で世界3位）
www.securityhero.io/state-of-dee...
日本にはディープフェイクを規制する法律がなく、現行法では立件できない事例があること
外国と捜査協力できない事例があること
声の被害を規制できる法律がないこと
（Danbooruには声も音楽も入っています）
これらは絵描きの感情論ではありません。
この状況で漫画家が使いたいから使って良い、というのは今現在被害を受けている人から見れば度し難いと思いますし、私は使えません。

越境するディープフェイクポルノ──法の壁を越える“犯行”と捜査の限界 - WEB110 読売新聞の4月6日付社説「性的偽画像 被害を防ぐ対策の検討を急げ」や、鳥取県知事が三原じゅん子地方創生担当大臣

著作権法上合法で漫画家が使いたいから使わせろ、と現段階では私は言えません。写真の利用を拒否する人もいます。追加学習と称して他人の写真を無断でDL、ハッキング、盗撮などしてポルノを製作し収益化するユーザー、声を利用する詐欺、海外の犯罪者もいます。著名人やコスプレイヤーはディープフェイクの被害に遭いやすく声を上げる人もいますが、卒業アルバムのポルノ化など一般人の被害も増えています。日本にはディープフェイクや声の無断利用を規制する法律がありません。海外に投稿された場合対応が難しく、現行法で捜査協力も得にくいことは、感情論ではなく書いています。
web110.com/column202504...