水族園・植物園・昆虫園・動物園・博物園・文学館・歴史館・産業科学館・天文科学館・美術館・音楽館・食文化館・図書館 etc.

１５７人工知能研究所

モデルオートファジー障害（Model Autophagy Disorder (MAD)）

ナゾロジー
【AI狂牛病】AIイラストで画像生成AIが学ぶデータ崩壊が起こりつつある
2024.08.09 FRIDAY
画像生成AIモデルは、膨大なサンプルから学習し、新たな画像を生み出します。
その結果、今やネット上にはAI画像があふれています。
では、AIモデルが、知らず知らずのうちにAI画像を取り入れて学習するようになると、どうなるのでしょうか。
アメリカのライス大学（Rice University）に所属するリチャード・G・バラニューク氏ら研究チームは、生成AIモデルが合成データを学習して新たな合成データを生成するループが生じると、生成される合成データの品質はどんどん劣化していくと報告しました。
研究チームは、こうした状況を狂牛病（ウシにウシの肉骨粉をエサとして与える行為で蔓延した疾患）になぞらえています。
そして現在、静かに「AI狂牛病」が広がっているかもしれません。
この研究は2024年5月オーストリア・ウィーンで開催された深層学習分野の国際会議「ICLR 2024」で発表されていて、論文はプレプリントサーバーarXivに公開されています。
Breaking MAD: Generative AI could break the internet
https://news.rice.edu/news/2024/breaking-mad-generative-ai-could-break-internet
Cannibal AIs Could Risk Digital ‘Mad Cow Disease’ Without Fresh Data
https://www.sciencealert.com/cannibal-ais-could-risk-digital-mad-cow-disease-without-fresh-data
SELF-CONSUMING GENERATIVE MODELS GO MAD（PDF）
https://doi.org/10.48550/arXiv.2307.01850
※ＡＩの癌？