© Open AI
Opmerking van de auteur: Ik werd zojuist aangesproken door een boze programmeur die AI gebruikt. Hij schreef: "Studenten frauderen, dat was altijd al zo, vertel ons eens iets wat we nog niet weten." Ik antwoordde: "Heb je het MIT-artikel of de andere link gelezen?" Natuurlijk niet: TL/DR [Te Lang/Niet Gelezen], wat mijn punt bewijst. Zelfs de programmeur gaf toe dat hij het werk van AI moet controleren.Waar het hier om gaat, is dat *degenen die een echte opleiding hebben genoten, AI kunnen gebruiken omdat ze genoeg kennis in huis hebben om het te controleren, maar kinderen die AI gebruiken als vervanging voor echt leren, zullen deze vaardigheid nooit ontwikkelen.*
Degenen die daadwerkelijk over kennis beschikken, kunnen AI gebruiken en zich niet realiseren dat ik niet bedoel dat AI nutteloos is, maar dat het echt leren en denken ernstig ondermijnt.
Het MIT-document is 206 pagina's lang, waarbij het laatste deel de statistieken van het onderzoek bevat, maar de argumenten die erin worden aangevoerd, zijn van groot belang. Dat geldt ook voor het andere artikel waarnaar hieronder wordt verwezen.
Dat AI degenen die het gebruiken in dommeriken verandert, is niet alleen vanzelfsprekend, maar ook onweerlegbaar.
ChatGPT kan kritisch denkvermogen aantasten, volgens een nieuwe studie van MIT
"Van de drie groepen vertoonden ChatGPT-gebruikers de laagste hersenactiviteit en presteerden 'consequent ondermaats op neurologisch, taalkundig en gedragsmatig gebied.' In de loop van enkele maanden werden ChatGPT-gebruikers met elk volgend essay luier en namen tegen het einde van het onderzoek vaak hun toevlucht tot copypasten."AI verbreekt de verbinding tussen leren en het voltooien van een academische taak. Met AI kunnen studenten het vakje 'taak voltooid, werkstuk geschreven en ingeleverd' aanvinken zonder iets geleerd te hebben.
"De taak werd uitgevoerd en je zou kunnen zeggen dat het efficiënt en makkelijk was," zegt Kosmyna. "Maar zoals we in het onderzoeksdocument aantonen, heb je er in feite niets van in je geheugen opgeslagen."
En met leren bedoelen we niet het onthouden van een feitje, maar leren hoe je moet leren en leren hoe je moet denken. Zoals Substack-schrijfster maalvika uitlegt in haar veelbesproken essay over compressiecultuur die je dom en oninteressant maakt, hebben digitale technologieën onze aandachtsspanne verkort door middel van wat ik 'belonende afleiding' zou noemen, waardoor we niet langer iets kunnen lezen dat langer is dan een paar zinnen zonder dat we een samenvatting, een filmpje met hoogtepunten of een soundbite willen.
Met andere woorden, maar heel weinig mensen zullen het MIT-document daadwerkelijk lezen: TL/DR. Hier vindt u de samenvatting: Your Brain on ChatGPT (mit.edu).
Hier volgt de link naar het volledige onderzoeksdocument.
Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task.
Om de context te begrijpen - en daarmee ook het uiteindelijke doel van het onderzoek - moeten we eerst inzicht krijgen in de structuur van leren en denken, een complex geheel van processen. De cognitieve belastingstheorie (CLT) biedt een kader om een aantal van deze processen te analyseren.
De cognitieve belastingstheorie (CLT), ontwikkeld door John Sweller, biedt een kader voor het begrijpen van de mentale inspanning die nodig is tijdens het leren en het oplossen van problemen. Het onderscheidt drie categorieën cognitieve belasting: intrinsieke cognitieve belasting (ICL), die verband houdt met de complexiteit van de leerstof en de voorkennis van de leerling; extrinsieke cognitieve belasting (ECL), die verwijst naar de mentale inspanning die wordt opgelegd door de presentatie van informatie; en relevante cognitieve belasting (GCL), die de mentale inspanning vertegenwoordigt die wordt besteed aan het ontwikkelen en automatiseren van schema's die het leren ondersteunen.Het aanvinken van het vakje "taak voltooid" leert ons niets. Echt leren en nadenken vereist al het cognitieve werk dat AI beweert voor ons te doen: het lezen van de bronmaterialen, het volgen van de verbanden tussen deze bronnen, het vinden van wormgaten tussen verschillende kennisuniversa en het doorgronden van beweringen en veronderstellingen als een onafhankelijke kritische denker.
Wanneer AI een aantal beweringen en veronderstellingen als gezaghebbend samenvoegt, verwerven we geen oppervlakkige kennis - we leren niets. AI vat samen, maar zonder het vermogen om onbetrouwbare beweringen en veronderstellingen eruit te filteren, omdat het niet over impliciete kennis van contexten beschikt.
AI produceert dus materiaal zonder enige cognitieve waarde en de student neemt dit klakkeloos in een werkstuk over zonder daadwerkelijk enige cognitieve vaardigheden te leren. Deze cognitieve schuld kan nooit worden "terugbetaald," aangezien het cognitieve tekort een leven lang blijft bestaan.
Zelfs het veelgeprezen vermogen van AI om samen te vatten, ontneemt ons de noodzaak om kernvaardigheden op cognitief gebied te ontwikkelen. Zoals deze onderzoeker uitlegt, leren we, en leren we diepgaand na te denken, door "te ploeteren," in tegenstelling tot een oppervlakkig begrip van de leerstof om een examen te halen.
Een pleidooi voor ploeteren: AI maakt zijn belofte waar om mensen te bevrijden van ploeteren. Maar soms kan het uitbannen van ploeteren innovatie in de weg staan.
"Helaas remt deze innovatie innovatie af. Wanneer mensen het monikkenwerk van literatuuronderzoek, citatievalidatie en grondig onderzoek verrichten - de dingen die OpenAI beweert te doen voor Deep Research - ontdekken ze bij toeval dingen waar ze niet naar op zoek waren. Ze bouwen voort op ideeën van anderen waar ze voorheen niet aan hadden gedacht en worden geïnspireerd om geheel nieuwe ideeën te vormen. Ze leren ook cognitieve vaardigheden, waaronder het vermogen om informatie efficiënt te filteren en discrepanties in betekenis te herkennen.Kortom, aangezien AI per definitie niet in staat is om de taken uit te voeren die nodig zijn voor authentieke innovatie, verleren we hoe we moeten innoveren. Wat we "leren," is het vervangen van authentieke innovatie door een oppervlakkig slimme simulatie van innovatie, waarmee we de cognitieve kernvaardigheden die nodig zijn om te innoveren, verliezen.
Ik heb op mijn vakgebied, systeemanalyse, gezien dat onderzoekers decennialang onjuiste informatie hebben geciteerd en deze hebben uitgebreid tot een zichzelf in stand houdend wereldbeeld. Kritisch denken zorgt ervoor dat de onderzoeker het werk dat anderen als fundamenteel beschouwden, niet accepteert en de fout ontdekt. Hulpmiddelen zoals Deep Research zijn niet in staat om de kern van de waarheid te ontdekken en zullen dus misleiding in onderzoek in stand houden. Dat is het tegenovergestelde van goede innovatie."
Door het gemakkelijke en handige pad van AI-simulaties van innovatie te volgen, "vallen we voorzichtig van de klif." Maar omdat dit allemaal TL/DR is en er geen samenvatting, filmpje met hoogtepunten of soundbite van gemaakt is, zien we het niet eens.
Dus hier is de TL/DR-samenvatting van AI voor "dommeriken": AI verandert ons in dommeriken.
Reacties van Lezers
voor onze Nieuwsbrief