Arkusz z kluczem oceniania zamiast stu pytań
Do części praktycznej nie ma „pytań” – jest arkusz i zasady oceniania. Jeden arkusz SPL.01 to 6 rezultatów i 51 …
Pytanie pomylone na egzaminie próbnym wraca najpierw następnego dnia, a później odstępy rosną do 6, 15 i 38 dni. Skąd biorą się te odstępy, co mówi o nich stuletnia krzywa zapominania i jak wygląda jedno pytanie rozpisane na szesnaście tygodni do sesji.
Poprzedni wpis skończył się pytaniem, na które nie dałem pełnej odpowiedzi: skoro do pomylonych pytań trzeba wracać, to kiedy? Nazajutrz, po tygodniu, w przeddzień egzaminu? Odpowiedź ma zaskakująco dużo liczb – część z nich ma sto czterdzieści lat, część siedzi w kodzie tego serwisu. Poniżej jedno i drugie, a na końcu jedno pytanie rozpisane na szesnaście tygodni do sesji zimowej.
W 1885 roku Hermann Ebbinghaus uczył się na pamięć list sylab bez sensu, a potem mierzył, ile czasu oszczędza przy ponownej nauce po różnych przerwach. Wyszła z tego krzywa, którą zna każdy podręcznik psychologii: stroma na początku, płaska później. W 2015 roku Murre i Dros powtórzyli ten eksperyment w niemal identycznych warunkach i dostali niemal identyczny kształt. Po dwudziestu minutach oszczędność wynosiła 56%, po jednym dniu 27%, po sześciu dniach 22%, a po miesiącu 4%.
Dwie rzeczy z tych liczb są ważne, a jedna nie. Ważne: najwięcej ginie w pierwszej dobie, a potem tempo zapominania gwałtownie zwalnia – między pierwszym a szóstym dniem krzywa prawie stoi w miejscu. Nieważne: same wartości. To sylaby bez znaczenia, wkuwane bez zrozumienia, i jeden uczestnik. Materiał sensowny i rozumiany – jak pytanie o adresację IP, które potrafisz wyprowadzić, a nie tylko zapamiętać – może być zapominany inaczej niż sylaby bez znaczenia. Ogólna obserwacja pozostaje jednak użyteczna: pamięć słabnie z upływem czasu, a tempo tego procesu nie jest stałe. I to od niej zaczyna się wszystko poniżej.
Gdyby każda powtórka po prostu „ładowała pamięć od nowa”, najlepiej byłoby powtarzać codziennie. Tak nie jest. Można to sobie wyobrazić tak: skuteczna powtórka sprawia, że następne zapominanie przebiega wolniej, więc kolejną powtórkę można odłożyć dalej. To uproszczony model, ale dobrze tłumaczy, skąd biorą się rosnące odstępy.
Skąd wiadomo, jaki odstęp jest „odpowiedni”? Z badania, które przywoływałem w poprzednim wpisie: Cepeda i współpracownicy w 2008 roku sprawdzili to na ponad 1350 osobach, z przerwami od minut do trzech i pół miesiąca i sprawdzianem nawet rok później. Przy każdym horyzoncie istniał odstęp optymalny – zarówno zbyt krótki, jak i zbyt długi odstęp dawał wynik gorszy od optymalnego. Przy sprawdzianie za kilka tygodni najlepsza przerwa wynosiła około jednej piątej tego czasu, przy sprawdzianie za rok – około jednej dwudziestej.
Do tego dochodzi rzecz, którą trudno przyjąć, bo przeczy odczuciom. Kornell w 2009 roku uczył studentów słówek z fiszek: jedni przerabiali talię w jednej sesji, drudzy tę samą talię w kilku rozłożonych. Rozłożenie dało lepszy wynik u 90% uczestników. A mimo to po pierwszej sesji 72% z nich było przekonanych, że lepiej działa nauka w jednym ciągu. Rozłożone powtórki często wydają się mniej skuteczne właśnie dlatego, że między sesjami zdążysz trochę zapomnieć – każda z nich jest trudniejsza, niż byłaby nazajutrz, i to odczucie myli się z brakiem postępu.
Jest jeszcze jedno badanie, które zmienia sposób patrzenia na to, czym w ogóle jest powtórka. Karpicke i Roediger w 2007 roku uczyli studentów list słów, a potem sprawdzali po tygodniu, ile zostało. W kluczowym warunku słowa, które student już raz poprawnie odtworzył, przestawały być czytane, ale nadal były odpytywane. Wynik po tygodniu: ponowne czytanie już odtworzonych słów nie dało nic – 44% w grupie, która czytała dalej, i 44% w grupie, która przestała. Ponowne odpytywanie z tych samych słów podniosło wynik o ponad sto procent w stosunku do grupy, która przestała być odpytywana.
W tym samym badaniu grupa, która czytała listę piętnaście razy, pamiętała po tygodniu mniej niż grupa, która czytała ją pięć razy, ale piętnaście razy była z niej odpytywana.
Wniosek dla ucznia jest prosty i trochę bezlitosny: powtórka, w której oglądasz pytanie z zaznaczoną odpowiedzią, nie jest powtórką. Powtórką jest moment, w którym musisz odpowiedzieć, zanim zobaczysz klucz – właśnie ten wysiłek przypominania jest jej najważniejszą częścią.
Rosnące odstępy trzeba jakoś wyznaczać, a ręczne prowadzenie kalendarza dla kilkuset pytań to zajęcie na pełny etat. Od tego jest algorytm. W serwisie działa SM-2 – schemat opisany przez Piotra Woźniaka w programie SuperMemo w 1987 roku, na tyle prosty, że można go prześledzić na kartce. Ściślej: uproszczona wersja SM-2, dostosowana do czterostopniowej skali ocen zamiast oryginalnej sześciostopniowej; odstępy i współczynnik łatwości działają jak w pierwowzorze.
Każde pytanie ma trzy liczby: ile razy z rzędu odpowiedziałeś dobrze, aktualny odstęp w dniach i „współczynnik łatwości”, który startuje z wartości 2,5. Po każdej powtórce oceniasz sam siebie w skali od 0 do 3:
| Ocena | Znaczenie | Co robi algorytm |
|---|---|---|
| 0 | nie wiem | reset – pytanie wraca jutro |
| 1 | z trudem | reset – pytanie wraca jutro |
| 2 | dobrze | odstęp rośnie: 1 → 6 → 15 → 38 dni… |
| 3 | łatwo | jak wyżej, ale współczynnik rośnie, więc odstępy wydłużają się szybciej |
Dwa pierwsze odstępy są stałe: jeden dzień i sześć dni. Każdy następny to poprzedni pomnożony przez współczynnik łatwości – stąd 15, 38, 95. Ocena „łatwo” podnosi współczynnik o jedną dziesiątą, oceny „nie wiem” i „z trudem” go obniżają, ale nigdy poniżej 1,3, żeby pytanie nie utknęło w pętli codziennych powrotów.
Skąd biorą się pytania w tej kolejce? Z ukończonych egzaminów online. Każde pytanie, na które padła odpowiedź – poprawna albo błędna – trafia do powtórek automatycznie: błędne wraca po jednym dniu, poprawne po trzech. Pytania pominięte nie wchodzą, bo algorytm nie wie, czy je znasz. Sesja powtórek pokazuje najpierw zaległe, a potem dokłada nowe. Dzienny cel to czterdzieści świadomych powtórek; po jego osiągnięciu można kontynuować, ale nie trzeba.
Zwróć uwagę, jak to się składa z badaniami wyżej. Odstępy rosną z każdą udaną powtórką, co jest zgodne z ogólną zasadą wynikającą z badań nad rozkładaniem nauki w czasie: im dłużej informacja ma pozostać dostępna, tym większe mogą być przerwy między powtórkami. Sam mnożnik 2,5 nie pochodzi z tych badań – to parametr algorytmu. A każda powtórka jest odpytaniem, nie czytaniem – dokładnie to, co u Karpicke i Roedigera dawało dwukrotną różnicę.
Teoria brzmi abstrakcyjnie, więc rozpisałem ją na kalendarz. Od terminu deklaracji na sesję zimową 2027 (15 września 2026) do części pisemnej (7 stycznia 2027) jest 114 dni. Przyjmij, że w dniu deklaracji rozwiązujesz egzamin próbny, a potem każdą powtórkę oceniasz na „dobrze”.
| Pytanie | Kiedy wraca (dzień od egzaminu próbnego) | Powtórek do egzaminu |
|---|---|---|
| pomylone na próbnym | 1, 2, 8, 23, 61 – następna dopiero w dniu 156 | 5 |
| poprawne na próbnym | 3, 9, 24, 62 – następna w dniu 157 | 4 |
| pomylone, z potknięciem w trzeciej powtórce | 1, 2, 8, 23, potem reset: 24, 25, 31, 46, 84 | 8 |
Trzy rzeczy widać od razu.
Po pierwsze, koszt jednego pytania to cztery, pięć spotkań w całym cyklu, nie codzienne wkuwanie. Po piątej powtórce algorytm odkłada je na ponad trzy miesiące, czyli poza egzamin – uznaje, że po udanym odstępie 38 dni kolejna powtórka może nastąpić znacznie później.
Po drugie, potknięcie jest drogie, ale nie katastrofalne. W tym przykładzie jedna ocena „nie wiem” w trzeciej powtórce cofa pytanie na start i dokłada trzy spotkania przed egzaminem. Dlatego uczciwa ocena się opłaca: oznaczenie „dobrze” tam, gdzie było „z trudem”, oszczędza dziś dwie minuty i kosztuje pytanie, które w styczniu wraca jako niewiadoma.
Po trzecie, pytania poprawne też wracają. To nie jest błąd – to wniosek z Karpicke i Roedigera: odpytanie z tego, co już umiesz, jest tym, co utrwala. Różnica polega tylko na tym, że zaczynają od dłuższego odstępu.
SM-2 jest prosty i przewidywalny, i za to go lubię, ale ma cztery ograniczenia, o których warto wiedzieć.
Nie zna daty egzaminu. Algorytm optymalizuje pamięć „na zawsze”, a Cepeda pokazał, że optymalny odstęp zależy od tego, kiedy jest sprawdzian. Pytanie odłożone na dzień 156 nie wróci samo przed 7 stycznia – jeśli chcesz je zobaczyć jeszcze raz, musisz po nie sięgnąć sam.
Nie wie, że pytania bywają podobne. Cztery warianty tego samego zadania z różnych sesji to dla algorytmu cztery niezależne pytania. Bywa, że jedno z nich umiesz „dzięki” drugiemu, a algorytm liczy to jako cztery sukcesy.
Ocena jest Twoją deklaracją. Algorytm nie sprawdza, czy „dobrze” było naprawdę dobrze. Cały system stoi na tym, że oceniasz uczciwie – i na tym, że nie da się pominąć pytania (w sesji powtórek nie ma takiego przycisku, świadomie).
Nie wybacza długiej przerwy. Tydzień bez powtórek to tydzień, w którym zaległości rosną, a odstępy dla pytań, które akurat miały wrócić, przestają być optymalne. W praktyce dlatego lepiej utrzymywać regularność, niż dopuścić do narastania dużej kolejki zaległości.
Nie mam danych, które pokazałyby, że użytkownicy regularnie robiący powtórki zdają lepiej niż ci, którzy ich nie robią. To da się kiedyś policzyć z wyników egzaminów online i jeśli to zrobię, napiszę – niezależnie od wyniku.
Nie wiem też, czy 2,5 jako startowy współczynnik i próg 1,3 są dla pytań egzaminacyjnych najlepsze. Te liczby pochodzą z 1987 roku i z nauki słówek; SM-2 ma młodszych następców, którzy dopasowują parametry do konkretnego ucznia. Wybrałem prostszy algorytm, bo da się go wytłumaczyć w jednej tabeli – i dlatego, że uczeń, który rozumie, czemu pytanie wraca akurat dziś, częściej je robi.
Badania, na które się powołuję, robiono na sylabach, słówkach i tekstach, nie na zadaniach egzaminu zawodowego. Kierunek efektów jest jednak zgodny we wszystkich tych materiałach, a praktyka rozłożona w czasie i aktywne testowanie się to dwie techniki, które w przeglądzie Dunlosky'ego z 2013 roku dostały najwyższą ocenę użyteczności ze wszystkich dziesięciu badanych.
W następnym odcinku zajmę się arkuszem jako jednostką nauki: dlaczego jeden arkusz z konkretnej sesji uczy czegoś, czego nie daje sto pytań z różnych. Powtórki znajdziesz pod adresem Inteligentne powtórki, a terminy sesji, od których liczyłem 114 dni, we wpisie o terminach egzaminu 2027.
Do części praktycznej nie ma „pytań” – jest arkusz i zasady oceniania. Jeden arkusz SPL.01 to 6 rezultatów i 51 …
Po dwudziestu losowych testach w INF.02 widziałeś niecałe 20% puli, około 80 z 800 losowań było już powtórkami, a o …
Litera przy kwalifikacji mówi, jak przebiegnie Twoja część praktyczna: czy oddajesz wyrób, czy dokumentację, czy egzaminator patrzy Ci na ręce, …
Zaloguj się i ćwicz tysiące pytań egzaminacyjnych za darmo.