AIが生成したデータをAIに5回以上学習させると『MAD』になる。出力結果に大きな破綻が生じることが判明
AIが生成したデータをAIに5回以上学習させると、出力されるデータに大きな破綻が生じることが判明しました。海外メディアのTom’s Hardwareが報じました。
ChatGPTによって生成されたテキストや、Stable Diffusionで生成した画像などを使ってAIに繰り返し学習させると、『MAD』と呼ばれる現象が発生する傾向にある。以下の生成AIによる画像をご覧いただきたい。
これはAIが生成したデータで5回以上学習を行ったあとの出力結果だ。現実にはありえない奇妙な破綻した出力結果となっている。 『MAD』とはModel Autophagy Disorder (モデル・オートファジー(自食作用)・障害)の略称だ。この研究に携わったライス大学とスタンフォード大学の研究者が名付けた。 この結果は、AIの作ったデータを使用して、無限にデータを作れるかもしれないという希望を打ち砕いている。 ［Source: Tom’s Hardware］ |
Model Autophagy Disorderについて補足を入れると、つまるところ、「自分自身の作ったモデルを食べることで(学習することで)起こる障害」という意味です。
「AIの作ったデータを元にして、さらに新しいデータを無限に作れるんじゃね？」なんて思うかもしれませんが、実際にやってみるとどんどん破綻していき、使用に堪えない低品質なものになるようです。