The post has been translated automatically. Original language: Russian
https://www.sciencealert.com/cannibal-ais-could-risk-digital-mad-cow-disease-without-fresh-data
Scientists from Rice University have discovered the first digital disease in AI, called "Model Autophagy Disorder" (MAD). This condition occurs when AI models are trained on data created by other AI models, instead of fresh real data. Over time, this leads to degradation of the quality and diversity of the generated results, the AI results begin to resemble each other and gradually lose quality.
The images demonstrating the effects of such training show how the image quality deteriorates after several training cycles, turning into unrecognizable and distorted versions of the original data.
The researchers demonstrated that without regular updating with real data, the AI results begin to become more distorted and monotonous, which can eventually lead to a serious decrease in the quality of the images or texts created.
https://www.sciencealert.com/cannibal-ais-could-risk-digital-mad-cow-disease-without-fresh-data
Учёные из университета Райса обнаружили у ИИ первое цифровое заболевание, названное «расстройство модельной аутофагии» (Model Autophagy Disorder, MAD). Это состояние возникает, когда модели ИИ обучаются на данных, созданных другими моделями ИИ, вместо свежих реальных данных. Со временем это приводит к деградации качества и разнообразия генерируемых результатов, результаты ИИ начинают походить друг на друга и постепенно терять в качестве.
На изображениях, демонстрирующих последствия такого обучения, видно, как качество изображений ухудшается через несколько циклов обучения, превращаясь в неузнаваемые и искажённые версии изначальных данных.
Исследователи продемонстрировали, что без регулярного обновления реальными данными результаты ИИ начинают становиться всё более искажёнными и однообразными, что в конечном итоге может привести к серьёзному снижению качества создаваемых изображений или текстов.
Share
