【悲報】AI、マジでバカになる模様…オリジナル不足で自滅へ

今日知った「ウロボロス効果」とは、AIモデルがオリジナルな人間によるコンテンツ不足によって崩壊すること。AIが合成コンテンツを「餌」にせざるを得なくなり、急速な知的劣化、均質化、知性の崩壊のスパイラルに陥る現象のことである。

どんな話題？

AIによるコンテンツ生成が急増する現代、インターネットは「モデル崩壊」という現象に直面しているかもしれません。これは、AIが自身の生成したデータで学習を繰り返すことで、情報の質が低下し、不整合な内容が増加していく現象です。まるで「デジタル近親交配」のような状態と言えるでしょう。

最近のChatGPTのアップデートでは、その兆候が顕著に見られました。突然、事実とは異なる情報を自信満々に主張したり、存在しない手順を説明したりと、「幻覚」のような状態に陥ったのです。まるで、酔っぱらった人が訳のわからないことをペラペラ喋るような、そんな様子だったと聞いています。

この問題の原因の一つは、AIモデルの学習データとして、著作権などの問題から「合成データ」への依存が高まっていることでしょう。しかし、あるAI研究者の調査によると、合成データは必ずしも悪いものではなく、GANsなど、性能向上に役立つ場面もあるようです。彼の報告書は、まるで探偵小説のように、様々な角度から謎を解き明かそうとしていました。さらに、データの質の悪さや、特定データの不足といった課題も浮上しています。

では、この「モデル崩壊」は避けられない未来なのでしょうか？私は、「人間の介入」が不可欠だと考えます。AIの学習データの選定や精査、そしてAI自体が生成する情報への監視体制を構築することで、この問題に対処できるのではないでしょうか。さもなければ、インターネットは「デマ」と「ナンセンス」の渦に飲み込まれてしまうかもしれません…。ぞっとしますね。

みんなの反応

へー、名前があったのか。俺はデジタル近親相姦って呼んでたけどなw

インターネットはAI生成コンテンツで溢れかえってて、AIはインターネットで学習してるから、最終的には意味不明なゴミだらけになるんじゃね？

それってモデル崩壊って言うんだよボケ！ウロボロス効果じゃねーよ！記事読んでないのか？それともAIが自分の尻尾を食って書いたのか？w

Google検索するたびに実感できるよな。AIの回答は役に立たないか意味不明のどっちかだし。

ChatGPT使ってる奴とか、OpenAIのサブ見てる奴なら、先週初期症状を見てるはずだろ。

ゴミが入ればゴミが出るってやつだろ。

まあ正直、AIが無制限のデジタルコンテンツを消費することでバカになっていくってのは、今まで見た中で一番人間らしい特徴だなw

よっしゃ！50億ドルもかけたAIモデルが、メールを正確に要約したり、スプレッドシートに入力したりすることすらできない上に嘘をつくってマジかよ！この技術は完全にイカれてるぞ！

俺が脳みそ溶けるなら、AIのオーバーロードも一緒に溶けてくれよ。

よーく聞けよ、AI研究者は最初からこの可能性のある問題を認識してたんだ。これは古い記事だぞ。

Facebookの高齢者は騙されるだろうなw

AI業界で働いてるんだけど、見出しだけでは全貌が伝わらないな。人間のオリジナルコンテンツが不足しているわけじゃない。合成コンテンツを使う理由は他にもたくさんある。

AIアルツハイマーだな

シンギュラリティはおじゃんかよ

LLMsは高度な予測変換マシンだよ。かなりクールで賢いけど、ある時点で「終わり」と言って、別の技術に移行する必要がある。AGIはLLMじゃない。

記事はほぼ1年前のものだな。懸念は妥当だった/であるけど、その後、ベンチマークの急速な飽和が続いていることから、実際には裏付けられていないようだな。AIモデルの崩壊は起きていない。OpenAIの4oモデルの最近の媚び媚びぶりは奇妙だが、彼らの最先端モデルや最新のミニモデル（推論モデル）とは全く関係ないことを考えると、それほど重要ではない。（理由：モデル）

何十年にもわたるポップミュージックを見れば、これはAIに限ったことじゃないと分かるだろ。

AI以前から存在しただろ。サブredditってやつだ。

> 急速な愚かさ、同一性、知的衰退のスパイラル

Redditで起こっていることと同じだろ？

これについてプレゼンしたことがあるんだけど、モデル崩壊の画像は恐ろしいぞ。

人間も他の人間をコピーするとき同じことするよな。

AIモデルはどんどん良くなってるし、「崩壊」は見てないな。

面白いことに、右翼メディアのエコーチェンバーもアメリカ保守派と同じことをした。右翼では、オリジナルの報道や学術研究はほとんど行われていない。

つまり、偉大なるAIの蜂起はボケたボットから始まるのか？

ランパンシーが襲来する時だな

/r/conservativeの人間と同じことか？

これは新しい概念ですらない。25年前の大学では、出力が入力になるニューラルネットワークは事実上狂ってしまうと教えられた。