https://www.sciencealert.com/cannibal-ais-could-risk-digital-mad-cow-disease-without-fresh-data

Учёные из университета Райса обнаружили у ИИ первое цифровое заболевание, названное «расстройство модельной аутофагии» (Model Autophagy Disorder, MAD). Это состояние возникает, когда модели ИИ обучаются на данных, созданных другими моделями ИИ, вместо свежих реальных данных. Со временем это приводит к деградации качества и разнообразия генерируемых результатов, результаты ИИ начинают походить друг на друга и постепенно терять в качестве.

На изображениях, демонстрирующих последствия такого обучения, видно, как качество изображений ухудшается через несколько циклов обучения, превращаясь в неузнаваемые и искажённые версии изначальных данных.

Исследователи продемонстрировали, что без регулярного обновления реальными данными результаты ИИ начинают становиться всё более искажёнными и однообразными, что в конечном итоге может привести к серьёзному снижению качества создаваемых изображений или текстов.