Katsuo in the sky

あけましておめでとうございます。
今年もよろしくお願いします。

今年は去年より忙しくなることが分かっていますので、SNSでの発信率は落ちる可能性が高いと思いますが、SNSに現れなくてもパブコメなどはしっかり対応していくつもりでいます。

大空スバルさんのDetroitBecomeHuman配信、ありそうなテック側の言い訳にキレキレのツッコミ入れてて面白い…！

AIに関する内閣府の新たなパブコメ募集が開始されました。提出期限は2025/1/23(木) 23:59です。
添付画像は「中間とりまとめ（案）」より。

AI戦略会議・AI制度研究会中間とりまとめ（案）に関する御意見の募集について
public-comment.e-gov.go.jp/servlet/Publ...

AIの脅威ってどんなもの？ 専門家が考える悪影響とその対策 ソーシャルメディア（SNS）のタイムラインを眺めていると、お気に入りの音楽アプリがプレイリストを提案してくれたりします。これだけみると、人工知能（AI）が好みを学んで必要なものを提供してくれて、私たちの生活を向上させてくれる存在のように感じるかもしれません。しかし、その便利さの裏には｢アルゴリズムによる弊害｣という深刻な問題が潜んでいます。その弊害は、目に見えるものでも、すぐに影響が表れるもので

『プライバシーは侵害され、個人の可能性は偏ったアルゴリズムに左右され、最も弱い立場にある人たちの安全が脅かされます。何も知らないうちに、です。
これを私は｢目に見えない累積的な弊害｣と呼んでいます。バックグラウンドで運用されているAIの影響は、その姿を見せずに壊滅的な結果をもたらす可能性があります。』

AIの脅威ってどんなもの？ 専門家が考える悪影響とその対策
www.gizmodo.jp/2024/12/how-...

広がるAI使った性的偽画像被害、狙われる卒アルの個人写真　載せない学校増える可能性も 卒業アルバム（卒アル）の写真などを生成人工知能（AI）で性的な画像や動画に加工する「ディープフェイクポルノ」の被害が国内外で広がっている。特に卒アルに掲載され…

『韓国や米国ではディープフェイクを直接規制する法律の整備が進むが、日本では明確に規制する法律はないのが現状だ。』

広がるAI使った性的偽画像被害、狙われる卒アルの個人写真　載せない学校増える可能性も
www.sankei.com/article/2024...

ただのアルゴリズムでもAI（人工知能）と呼ぶようになってしまったから本来のAIをAGIと呼ぶことになっていたのに、
自分達が達成の印象（インパクト）欲しさに、都合よくゴールをズラしていくテック…
（今後、本来の人工知能は何と呼べば良いのか…）

文科省　法制度に関するワーキングチーム（第2回）
参考資料２　「文化芸術活動に関する法律相談窓口」に寄せられた御相談
www.bunka.go.jp/seisaku/bunk...
イラストレーターからの相談事例が複数紹介されています。

学習されないための対策を追加しましたが、クリエイターではなく、消費者を対象にしているので、クリスタノイズなどは書いていません。
【2024/12/25追記】生成AIのディープフェイク、ポルノ被害に関心がある方のための情報ガイド

#NOMORE無断生成AI #ディープフェイク
xfolio.jp/portfolio/se...

本日（12/20）期限のパブコメ・意見案を公開しました。
docs.google.com/document/d/1...

Xの方に、参考資料をぶら下げました。
x.com/info_kvaluat...

#NOMORE無断生成AI
本日締め切りです
今回の件は該当項目を選択して
それにあわせた意見を提出するやり方です(自分は4通(4分野)になりました)
生成AI関連のどれか一項目だけでもいいので
一筆よろしくおねがいします
public-comment.e-gov.go.jp/pcm/detail?C...

卒業アルバムの同級生を裸に 子どもも加害者？画像加工の実態 | NHK | WEB特集 【NHK】「何これっ。気持ち悪い。軽いパニックみたいな」15歳の少女のもとに送りつけられてきたのは、自分が裸になった画像。SNSに…

本日のクローズアップ現代、「被害者の生まれる技術であることを放置してこのまま未来に進んで良いのか？」と問う姿勢の、良い内容でしたね。

見れなかった方は、内容の一部が以下に掲載されています。
www3.nhk.or.jp/news/html/20...

クロ現 、日本も韓国と同じような状況だな…

【時視各角】韓国の１０代に広がるディープフェイク性犯罪
japanese.joins.com/JArticle/322...

なお、番組でも伝えている通り、韓国は関連法案が可決されている。

韓国「ディープフェイク」問題 さらなる対策強化の法案を可決
www3.nhk.or.jp/news/html/20...

こちら、本日この後１９：３０分からです。
気になりますね。

《リッチな絵柄に便乗しその付加価値を享受することが目的であること。》

ここ、僕もぼんやり考えてました。
「画像が欲しい」のではなく、「売れたり欲求を満たしたりできる完成品が欲しい（世の中で完成品として出回っているものと同等・同価値のものを享受したい）」というフリーライド欲求が可視化された気がします。

何かしら「欲しい絵」があって、そのために『特定の完成品』を学習させているというか。

その欲求自体は否定しませんが、だったら制限規定から外れると考えて、許諾（場合によっては対価も）が必要だろう、と思います。

その辺りですよね・・・

FireFlyも、AdobeがAdobeStockをちゃんと審査する意思があって、かつコントロールが出来ていれば、同等の立ち位置だったとは思うので。
今後知名度が上がり規模が大きくなったりすると、FireFly同様に透明性・健全性の確保、その信用の担保が難しくなっていきそうなのは気になる・・・

とはいえ、そこが問題になるのは「他の画像生成よりミツアが主流」になってからの問題ではあると思うので、
（もし他がなんとかなったような未来なら、ミツアの懸念対処はそれからでも間に合う）
他の画像生成の問題点を差異で浮き彫りにした点で、現時点では高く評価しています。

最近ミツア話題だったので他の方も書いている内容と被るかもしれませんが、自分の懸念点。

１：知名度が上がって、もし同人活動などで流行りの絵柄を真似して取り入れるのが上手い人が学習元に参入してくると、流行絵柄量産陳腐化ツールにはなってしまう

２：知名度が上がって、他の画像生成AIを使って画像を作る人が学習元に潜り込むと、生産ペースから１の問題が起こりやすく、クリーンとも言えなくなるので、学習元参加者のチェックは厳しくする必要がある

３：「学習元と同一の市場」での享受目的にする以外には使えないものなので、学習元画像本人は許可していても上記含めると、他の創作者に不利益を齎す可能性は残る

ミツアの認知が広がると、
１・他の画像生成AIが「無許可で集めないと出来ない」と言っていることはテックの怠惰に過ぎなかったこと。
２・ミツア以外の利用を選ぶということは、いらすとや利用の理由の「絵は描けないけど、絵の力で伝わりやすくしたい」ではなく、リッチな絵柄に便乗しその付加価値を享受することが目的であること。

この２つの証明になることが大きいですね。

個人的にはまず「画像を使わない技術」のものが画像識別AIとして台頭して欲しかったですが…
（その理由はスレッドにでも書いておきます。）

YouTubeで「サードパーティーが自分の動画でAIをトレーニングすることを許可するかどうか」をクリエイターが選択可能に YouTubeが日本時間の2024年12月17日、クリエイターが「サードパーティー企業のAIトレーニングに自分の動画が使用されることを許可するかどうか」を選択可能にすると発表しました。この設定はデフォルトでオフになっていますが、もしAmazon・Meta・OpenAIなどのサードパーティー企業によるAIトレーニングを許可したい場合、クリエイターが自分で設定を変更できます。

YouTubeで「サードパーティーが自分の動画でAIをトレーニングすることを許可するかどうか」をクリエイターが選択可能に
https://gigazine.net/news/20241217-youtube-opt-out-ai-training/

すみません…
意見公募要項を見ると、Xは含まれていないみたいです。
（仲介型デジタル広告のみプラットフォームが指定されていませんが、現状Google提供の広告の話かも…）

ただ、日本で議論されるべき「特定デジタルプラットフォーム」にXが含まれていないのは問題だと思いますし、
この方針で良いのか、広く皆様の忌憚ない意見を募集となっているので、
「Xも大いに問題です」とか、「Metaに限らず、こうあって欲しい」という内容もアリではないか？
…とは思います。

デジタル広告はプラットフォームを指定されていないからXもアリかなと思っていましたが、これも「Googleが提供している広告に関してだけ」なのかな…
何か書いて「次回はXも含めるようにしてください」って書いた方が良いかもしれませんね。

ブルースカイのはページの最初の画像っぽいですが、Xの方はどういうアルゴリズムなんでしょうね…？
最後に追加された画像…？

中学生が卒業アルバムを悪用?! 身近に迫る“AI生成ポルノ” - クローズアップ現代 全く身に覚えのない自分の裸の写真が知らない間に拡散している・・・いまそんな被害が急速に広がっている。ＡＩ技術によって作られる「ディープフェイク・ポルノ」。ネット上には顔写真一枚から性的な画像や動画を作るとうたうサービスがあふれ、中学生が卒業アルバムの写真を悪用していると見られるケースも見つかった。誰もが被害者になりかねない深刻な事態。なぜ野放しに？対策は？ＡＩ時代に突きつけられた死角に迫っていく。

来週のクローズアップ現代で、
「AI生成ポルノ」の問題が特集されるようです。

www.nhk.jp/p/gendai/ts/...

シンプルにこれで良いのよ。著作権者の拒否する権利、そして、それが使用されていないかを明示する義務！

新しいパブコメのようです。
1月20日まで。
プラットフォームという「現在具体的に問題が起きている場」についてのものなので、書きやすそうですね。

public-comment.e-gov.go.jp/pcm/detail?C...

『テイルズ オブ』シリーズや『ブレンパワード』などの作品で知られるいのまたむつみ氏のミニ展示会「少女とネコ展」が2025年1月10日から開催決定。大の猫好きであったいのまた氏による生前の“ネコ愛”イラスト原画を展示
https://news.denfaminicogamer.jp/news/2412122n

これは酷い…

洋介犬さん、凄い…！
少し前に自分もこのテーマの表現にチャレンジしたけれど、ずっと端的で分かりやすいです。
さすがですね…！

そして、あなたも被害者候補の時代へ

Xで新しい生成画像の悪用手段が登場している…

自分の言う通りにならないライバーに対し、
ファンアートタグで生成画像を連投し氾濫させることで、Xのアルゴリズムの何かでそのタグの付いたファンアートが検索しても表示されなくなっている様子…

いつの間にかProcreate公式アカウントが来ていたみたい