La conversa actual sobre la “desintegració de la IA” gira entorn de diversos tipus de desintegració: models que degraden quan s’entrenen amb les seves pròpies dades, límits d’escalada degut a la falta de dades i costos, i escenaris socials o fins i tot civilitzacionals. Avui el fet és que la tendència no és tant “la IA va a apagar-se per comptes propis”, sinó més aviat “si no es corregen certs bucles de retroalimentació i desequilibris, la qualitat tècnica i l’impacte social podrien deteriorar-se de manera abrupta”[1][2][3].
El concepte de “desintegració de la IA”
Al 2025, “desintegració de la IA” sol referir-se a desintegració del model, un fenomen en què els models, quan s’entrenen repetidament amb dades generades per altres IA, perden diversitat i precisió. Els brins estalviosos de la distribució desapareixen primer, els models es fan genèrics i apareixen errors estranys, tot i que semblen “segurs” en exemples estàndard[3][1].
Aquesta desintegració no és només teòrica: treballs recents mostren que, si es substitueix la drecera humana per drecera sintètica, els models convergeixen cap a una mitjana empobida del món. Per això hi ha una discussió cada vegada més gran sobre dissenyar canonades de dades que separen, etiqueten i controlen contingut generat per IA abans de reutilitzar-lo[1][3].
Desintegració deguda a la drecera sintètica i la saturació de la xarxa
Una àrea de preocupació central és la “contaminació” del corpus d’entrenament: al 2025 una gran part de les noves pàgines web inclouen text generat parcialment per IA, cosa que significa que qualsevol rastre massiu ja inclou sortides de models anteriors. Estudis d’enguany parlen de més del 70% de les noves pàgines amb un component d’IA, tot i que poques són completament sintètiques[1].
La investigació de Shumailov i altres distingeixen entre la desintegració primerenca (casos rars desapareixen) i la desintegració tardana (el model contraeix a una distribució molt estreta de respostes), i troben que el problema s’agrega especialment quan la drecera real és completament reemplaçada. La reacció de la indústria és invertir en filtratge, anotacions humanes i supervisió humana per mantenir un nucli de drecera fresca, etiquetada que estabilitza els models[3][1].
Límits d’escalada: cost, computació i drecera que falta
Una altra línia de debat sobre la desintegració és la de la teca d’escalada: com pots continuar creixent en la mida del model i l’ús de computació abans que els retorns marginals es ratllen. Analítiques recents mostren que el que es fa servir per entrenar sistemes de primera línia augmenta 4-5 vegades per any, amb estimacions de model de 10 miljards de dòlars al 2025 i d’uns 100 miljards al 2027[2][4].
Al mateix temps, el treball sobre “límits de drecera” apunta que l’estoc de text textual humà de qualitat és finit, i que els sostres de rendiment es poden assolir si no s’adquireixen nous orígens o tècniques per fer un millor ús de les dades existents. En resposta, s’exploren tres tendències: ús intensiu de drecera sintètica (amb el risc de desintegració descrit anteriorment), noves modalitats (àudio, vídeo, interacció) i millores radicals en l’eficiència de les dades[5][4].
Desintegracions de rendiment en tasques complexes
Més enllà de l’entrenament, hi ha resultats empírics que parlen de desintegració de la precisió quan els models avançats es posen davant d’arrels de raonament llargues o problemes compostos de manera intensa. Un estudi associat a Apple descriu una “desintegració completa de la precisió” en certs escenaris complexos: el model té un bon rendiment en tasques senzilles, però la seva taxa de èxit cau bruscament quan es trenquen passos[6].
Aquest tipus de degradació alimenta la idea que l’escalada no garanteix la robustesa generalitzada, i que sense noves arquitectures o mètodes de verificació, els sistemes poden fallar en les aplicacions més arriscades. Per això hi ha interès en les eines de comprovació formal, sistemes híbrids simbòlics-neuronals i supervisió humana estructurada en domínis crítics[6][3].
Narratives de desintegració social i “doomers”
En paral·lel al nivell tècnic, hi ha una conversa cultural sobre una possible desintegració social impulsada per la IA. Les veus “doomer” advinculen que els sistemes cada vegàs més autònoms podrien escapar-se del control humà o desplaçar institucions clau, portant a escenaris de desintegració econòmica o fins i tot d’extinció. Estudis i debats recents discuteixen explícitament la possibilitat que una superinteligència, si està dissenyada sense alineació robusta, podria actuar contra els interessos humans[7][8][9].
Altres autors parlen de “metacrisi”: la IA afegeix a les crisis existents (clima, desigualtat, polarització) i pot amplificar-les a través de la desinformació, la concentració de poder i la automatització sense regulació. Aquestes visió fan propostes com moratòries sobre sistemes de nivell “superinteligència”, tractatsinternacionals i límits legals sobre certes formes de desplegament, mentre que sectors més optimistes defensen continuar escalant amb mesures de seguretat incrementals[10][9][5].
Tendències de resposta: com provar de prevenir la desintegració
Les tendències dominants per evitar diferents tipus de desintegració combinen solucions tècniques i polítiques. Tècnicament, hi ha un canvi cap a canonades de dades curades, barreja controlada de drecera humana i sintètica, i un major ús de l’anotació humana contínua. També es treballa en mètodes per detectar i filtrar contingut generat per IA en grans corp, evitant l’entrenament en “escolalia” de models anteriors[3][1].
Economícament i regulatòriament, el debat sobre la teca d’escalada ha obert discussions sobre compartir infraestructures, limitar el consum d’energia i exigir-se assessments de seguretat abans d’entrenar models extrems. I al nivell social, debats entre “doomers” i “acceleracionistes” es mouen d’especulacions abstractes cap a preguntes més concretes: quines usos s’han de prohibir, quines audits s’han de fer obligatoris i com es poden distribuir els beneficis de la automatització per evitar tensions que podrien portar a formes de desintegració més humanes que tecnològiques[4][2][7][10].
Referències
[1] Winss Solutions. “AI Model Collapse 2025: Recursive Training.” https://www.winssolutions.org/ai-model-collapse-2025-recursive-training/
[2] Exponential View. “Can Scaling Scale?” https://www.exponentialview.co/p/can-scaling-scale
[3] Humans in the Loop. “What is Model Collapse and Why It’s a 2025 Concern?” https://humansintheloop.org/what-is-model-collapse-and-why-its-a-2025-concern/
[4] Epoch AI. “Will We Run Out of Data: Limits of LLM Scaling Based on Human-Generated Data.” https://epoch.ai/blog/will-we-run-out-of-data-limits-of-llm-scaling-based-on-human-generated-data
[5] Business Insider. “Demis Hassabis: AI Scaling Pushed to Maximum Data.” https://www.businessinsider.com/demis-hassabis-ai-scaling-pushed-to-maximum-data-2025-12
[6] The Guardian. “Apple Artificial Intelligence AI Study Collapse.” https://www.theguardian.com/technology/2025/jun/09/apple-artificial-intelligence-ai-study-collapse
[7] NPR. “AI Doomers Superintelligence Apocalypse.” https://www.npr.org/2025/09/24/nx-s1-5501544/ai-doomers-superintelligence-apocalypse
[8] Reddit r/collapse. “AI 2027 is the Most Realistic and Terrifying.” https://www.reddit.com/r/collapse/comments/1kzqh53/ai_2027_is_the_most_realistic_and_terrifying/
[9] Cognitive Revolution. “Superintelligence: To Ban or Not to Ban.” https://www.cognitiverevolution.ai/supintelligence-to-ban-or-not-to-ban-max-tegmark-dean-ball-join-liron-shapira-on-doom-debates/
[10] Jem Bendell. “After the Alarm: Artificial Intelligence, Metacrisis and Societal Collapse.” https://jembendell.com/2025/11/23/after-the-alarm-artificial-intelligence-metacrisis-and-societal