Jak napisać pracę magisterską z AI i uczenia maszynowego – przewodnik

Praca magisterska z AI albo uczenia maszynowego to jeden z trudniejszych projektów, jakie możesz wybrać na studiach. Nie dlatego, że matematyka jest nieludzka (choć bywa), ale dlatego, że musisz połączyć solidny przegląd literatury z eksperymentami, kodem, metrykami i wnioskami, które rzeczywiście coś znaczą. Wielu studentów gubi się na którymś z tych etapów. Ten przewodnik pokazuje, jak to zrobić od początku do końca.

Cztery typy prac z AI – który wybrać?

Zanim zaczniesz pisać, zdecyduj, o czym piszesz. W ML istnieją cztery główne typy prac magisterskich i każdy z nich ma inną strukturę, inną metodologię i inne oczekiwania promotora.

Nowy model lub architektura. Proponujesz coś, czego wcześniej nie było: nową warstwę sieci neuronowej, modyfikację transformera, hybrydową architekturę łączącą CNN z rekurencją. To najtrudniejszy typ. Musisz uzasadnić, dlaczego Twoje rozwiązanie jest lepsze od istniejących, a każde twierdzenie wymaga eksperymentalnego potwierdzenia.

Porównanie metod. Bierzesz kilka istniejących algorytmów (np. XGBoost, Random Forest, SVM, sieć neuronową) i testujesz je na konkretnym problemie lub zbiorze danych. Praca jest wykonalna w rozsądnym czasie, ale pułapka jest jedna: porównanie bez statystycznej analizy wyników jest akademicko bezwartościowe. Accuracy na poziomie 87,3% kontra 86,9% nic nie mówi bez confidence intervals.

Zastosowanie do konkretnego problemu. Masz problem z medycyny, finansów, rolnictwa, NLP po polsku – i adaptujesz istniejące metody do tego problemu. To bardzo dobry temat magisterski. Skupiasz się na jakości danych, doborze metryk adekwatnych do dziedziny i interpretacji wyników w kontekście dziedzinowym, nie tylko technicznym.

Nowy zbiór danych lub benchmark. Zbierasz, czyścisz i publikujesz zbiór danych, którego jeszcze nie ma – np. nagrania mowy w regionalnym dialekcie, zdjęcia chorób roślin z polskich pól, recenzje w języku polskim z etykietami sentymentu. Taka praca wymaga ogromnego nakładu przy zbieraniu danych, ale ma realną wartość dla społeczności.

Większość prac magisterskich to kombinacja drugiego i trzeciego typu. To bezpieczny wybór, który możesz zrealizować w ciągu semestru.

Jak wybrać temat i sformułować problem badawczy

Zły temat to „Zastosowanie uczenia maszynowego w medycynie”. Dobry temat to „Porównanie metod klasyfikacji guzów piersi na zbiorze danych Wisconsin Breast Cancer z uwzględnieniem niezrównoważonych klas.”

Różnica jest prosta: dobry temat ma granice. Wiesz, co robisz, na czym, jakimi metodami i po co.

Szukając tematu, sprawdź trzy rzeczy. Czy problem jest wystarczająco konkretny, żebyś mógł zdefiniować metrykę sukcesu? Czy masz dostęp do danych (albo możesz je zebrać)? Czy Twój promotor rozumie dziedzinę na tyle, żeby ocenić Twoją pracę?

Dobry problem badawczy zaczyna się od pytania: „Czy metoda X działa lepiej niż metoda Y na zbiorze Z pod względem metryki M?” albo „Czy zastosowanie techniki T poprawia wyniki modelu dla problemu P?” Pytanie musi być falsyfikowalne – czyli odpowiedź „nie” też jest prawidłowym wynikiem.

Unikaj tematów, gdzie jedynym miernikiem sukcesu jest to, że „zrobiłeś działający model”. Model działający to minimalny próg, nie wkład naukowy.

Przegląd literatury – gdzie szukać i jak to ogarnąć

Przegląd literatury w pracy z AI to nie lista pięciu podręczników. To mapa aktualnego stanu wiedzy w wąskim wycinku dziedziny.

Korzystaj z czterech głównych źródeł:

• arXiv (arxiv.org) – większość prac z ML trafia tutaj jako preprinty, często zanim ukaże się w czasopiśmie. Sekcje cs.LG (Machine Learning), cs.AI, cs.CV, cs.CL, stat.ML
• Google Scholar – dobry do szukania po cytatach i śledzenia, kto cytuje dany artykuł
• Papers With Code (paperswithcode.com) – unikatowe źródło: artykuły połączone z kodem i wynikami na benchmarkach. Szybko sprawdzisz, jaki jest state-of-the-art na Twoim zadaniu
• Semantic Scholar (semanticscholar.org) – bardziej filtruje jakość niż Google Scholar, dobry do znajdowania wpływowych prac

Technika, która działa: zacznij od 2-3 kluczowych artykułów (najlepiej prac przeglądowych albo klasycznych prac dla Twojego tematu), sprawdź ich listy referencji, a potem sprawdź, kto je cytuje w Google Scholar. W ten sposób budujesz sieć literatury zamiast szukać chaotycznie.

Zorganizuj notatki od razu. Zotero (darmowy) albo Mendeley sprawdzają się dobrze. Dla każdego artykułu zanotuj: co proponuje, na jakich danych testuje, jakie osiąga wyniki i czego nie uwzględnia (to często staje się Twoją motywacją badawczą).

Przegląd literatury w rozdziale 2 pracy powinien być aktywny, nie pasywny. Nie piszesz „autorzy zaproponowali X”. Piszesz „X działa świetnie przy małych zbiorach danych, ale nie sprawdza się gdy klasy są niezrównoważone, co jest dokładnie problemem, który rozwiązuje ta praca.”

Metodologia eksperymentalna – jak tego nie zepsuć

To jest serce pracy z ML i miejsce, gdzie większość studentów popełnia błędy, które dyskredytują wyniki.

Podział danych

Podział train/val/test to standard, ale musi być wykonany prawidłowo. Dane testowe to dane, których model NIGDY nie widział w żadnym etapie treningu ani doboru hiperparametrów. Jeśli używasz zbioru testowego do dostrajania modelu, masz data leakage i Twoje wyniki są bezwartościowe.

Typowy podział: 70/15/15 albo 80/10/10. Przy małych zbiorach danych (poniżej 1000 przykładów) rozważ k-fold cross-validation zamiast stałego podziału.

K-fold cross-validation dzieli dane na k równych części, trenuje model k razy (za każdym razem inna część jest testem), a wynik to średnia z k ocen. Standardowe k to 5 albo 10. Przy bardzo małych zbiorach używa się leave-one-out CV.

Przy danych szeregów czasowych nigdy nie mieszaj losowo. Zawsze trenuj na wcześniejszych danych, testujesz na późniejszych. Inaczej masz wyciek informacji z przyszłości do przeszłości.

Ablation study

Ablation study to jeden z najmocniejszych elementów pracy. Sprawdzasz, co do czego naprawdę się przyczynia w Twoim modelu. Jeśli proponujesz architekturę z trzema nowymi komponentami (A, B, C), powinieneś przetestować też model bez A, bez B, bez C i bez A i B. To pokazuje, który komponent faktycznie robi robotę.

Bez ablation study recenzent ma prawo twierdzić, że Twoje ulepszenie wynika z innego czynnika, np. z większej liczby parametrów, a nie z innowacji architektonicznej.

Baseline

Każda praca musi mieć punkt odniesienia. Baseline to najprostszy model, który sensownie rozwiązuje Twój problem. Przy klasyfikacji tekstu baselineowym może być logistic regression na TF-IDF albo gotowy model z HuggingFace bez fine-tuningu. Przy danych tabelarycznych – XGBoost z domyślnymi parametrami.

Jeśli Twój zaawansowany model ledwo bije prosty baseline, to też jest wynik – tyle że mówi, że problem jest prostszy niż myślałeś, albo że Twoje podejście wymaga reworku.

Metryki – co mierzyć i dlaczego

Wybór metryki to decyzja dziedzinowa, nie techniczna.

Klasyfikacja:
– Accuracy (dokładność) to najgorsza metryka przy niezrównoważonych klasach. Model przewidujący zawsze klasę większościową przy rozkładzie 95/5 ma 95% accuracy i jest bezużyteczny.
– F1-score to harmoniczna średnia precision i recall. Używaj gdy zależy Ci na obu błędach: fałszywych pozytywach i fałszywych negatywach.
– Precision/recall z osobna gdy jeden typ błędu jest kosztowniejszy. Przy detekcji raka recall ważniejszy (nie możesz przegapić chorego). Przy spamie precision ważniejszy (nie możesz blokować normalnych maili).
– AUC-ROC mierzy zdolność modelu do rankingowania, niezależnie od progu. Dobry przy niezrównoważonych klasach.
– AUC-PR (precision-recall curve) lepsze niż AUC-ROC gdy zależy Ci szczególnie na klasie mniejszościowej.

Regresja:
– RMSE (root mean square error) kara za duże błędy bardziej niż małe. Dobry gdy duże błędy są szczególnie kosztowne.
– MAE (mean absolute error) bardziej odporny na outliery.
– R2 pokazuje, jaki procent wariancji wyjaśnia model.

NLP:
– BLEU (Bilingual Evaluation Understudy) dla tłumaczenia maszynowego i generowania tekstu. Mierzy n-gramowe nakładanie się z referencją.
– ROUGE dla sumaryzacji.
– Perplexity dla modeli językowych.
– BERTScore dla semantycznego podobieństwa, lepszy niż BLEU dla oceny jakości tekstu.

Generatywne modele obrazów:
– FID (Frechet Inception Distance) mierzy jakość i różnorodność wygenerowanych obrazów. Im niższy FID, tym lepiej.
– IS (Inception Score) starszy, mniej polecany.

Podaj wyniki ze standardowymi odchyleniami albo confidence intervals. Wynik „91,3% ± 0,8%” mówi więcej niż samo „91,3%”. Przy porównaniu modeli użyj testów statystycznych (t-test, Wilcoxon signed-rank test) i podaj p-value.

Reprodukowalność – jak sprawić, żeby Twoje wyniki miały wartość

Problem reprodukowalności w ML jest realny. Mnóstwo opublikowanych prac nie da się odtworzyć, bo autorzy nie podali seedów, wersji bibliotek albo szczegółów preprocessingu. Twoja praca magisterska nie powinna do nich dołączać.

Seed. Ustaw seed dla wszystkich generatorów losowości na początku kodu:

import random
import numpy as np
import torch

SEED = 42
random.seed(SEED)
np.random.seed(SEED)
torch.manual_seed(SEED)
torch.cuda.manual_seed_all(SEED)

requirements.txt albo environment.yml. Zapisz dokładne wersje wszystkich bibliotek. Nie „torch>=1.9”, tylko „torch==2.1.0”. Użyj pip freeze > requirements.txt albo conda env export > environment.yml.

Docker. Jeśli zależy Ci na pełnej reprodukowalności środowiska, stwórz prosty Dockerfile. Nie musisz być ekspertem DevOps – wystarczy FROM python:3.11, instalacja wymagań i kopiowanie kodu.

GitHub z kodem. Opublikuj kod. Praca bez dostępnego kodu jest trudna do zweryfikowania. Zorganizuj repozytorium: data/, notebooks/, src/, experiments/, README.md z instrukcjami uruchomienia. W README napisz jak zainstalować środowisko, jak uruchomić preprocesseing, jak uruchomić trening, jakie wyniki spodziewać się na zbiorze testowym.

Konfiguracja eksperymentów. Nie hardkoduj hiperparametrów w kodzie. Używaj plików konfiguracyjnych YAML albo argparse. Każdy eksperyment powinien mieć unikalny identyfikator i logować wszystkie hiperparametry. Narzędzia: MLflow, Weights & Biases (wandb), albo choćby prosty plik JSON z parametrami eksperymentu.

Wizualizacje – co warto pokazać

Dobre wizualizacje mówią więcej niż tabela z liczbami i są tym, co promotor zapamięta z prezentacji.

Confusion matrix to standard przy klasyfikacji. Pokazuje nie tylko ogólną dokładność, ale też które klasy model myli ze sobą. Narysuj ją jako heatmapę z liczbami bezwzględnymi albo procentami. Jeśli model myli klasę A z B, ale nie B z A, to też informacja.

Learning curves (krzywe uczenia) to wykresy loss i metryki na zbiorze treningowym i walidacyjnym w funkcji epok. Pokazują, czy model się przeucza (overfitting: train rośnie, val spada), nie douczy (underfitting: oba niskie) albo uczy się prawidłowo. To jedno z pierwszych narzędzi diagnostycznych.

SHAP i LIME to narzędzia do interpretowalności modeli. SHAP (SHapley Additive exPlanations) pokazuje, jak bardzo każda cecha wejściowa wpłynęła na konkretną predykcję albo na model globalnie. LIME buduje lokalny model liniowy wokół konkretnego przykładu. Przy danych tabelarycznych SHAP wartości i wykres beeswarm to mocny element każdej pracy.

Inne przydatne wizualizacje: t-SNE albo UMAP reprezentacji latentnych (przy modelach głębokich), ROC curve, precision-recall curve, histogram rozkładu błędów, przykłady najtrudniejszych przypadków (where the model fails).

Jak pisać poszczególne rozdziały

Related Work (przegląd literatury)

Nie listujesz artykułów. Grupujesz je tematycznie i pokazujesz, jak literatura doprowadziła do Twojego pytania badawczego. Dobra struktura: opisujesz ogólny problem, potem metody klasy A, potem metody klasy B, potem co jest nie tak z oboma i dlaczego Twoja praca to adresuje.

Każda praca, którą cytujesz, powinna mieć w Twoim tekście konkretną rolę: pokazuje kontekst, udowadnia że problem istnieje, definiuje baseline albo jest bezpośrednio porównywalna z Twoim rozwiązaniem.

Opis architektury lub metodologii

Opisujesz co robisz tak precyzyjnie, żeby czytelnik mógł to odtworzyć. Wzory matematyczne pisz w LaTeX-u. Podaj wymiary tensorów w kluczowych miejscach. Opisz każdy krok preprocessingu danych. Narysuj diagram architektury (możesz użyć draw.io, PowerPoint albo biblioteki torchviz).

Nie pisz „użyłem sieci neuronowej”. Pisz „użyłem 4-warstwowego Transformera z 8 głowicami uwagi, embedding size 512, dropout 0.1, trenowanego przez 100 epok z learning rate 1e-4 z harmonogramem cosine annealing.”

Eksperymenty i wyniki

To najdłuższy i najważniejszy rozdział. Opisz setup eksperymentalny: sprzęt (GPU: NVIDIA RTX 3090, 24 GB VRAM), framework (PyTorch 2.1.0), czas treningu. Przedstaw wyniki tabelarycznie dla wszystkich porównywanych metod. Opisz wyniki ablation study. Omów przypadki, gdzie model działa szczególnie dobrze i gdzie zawodzi.

Nie chowaj negatywnych wyników. Jeśli coś nie zadziałało zgodnie z hipotezą, napisz dlaczego Twoim zdaniem tak jest. To dojrzałe podejście naukowe.

Limitations i Future Work

Każda dobra praca naukowa uczciwie opisuje swoje ograniczenia. Ograniczenia to nie słabości pracy – to granice, w których wyniki są ważne. Przykłady: „eksperymenty prowadzono na jednym zbiorze danych, nie wiadomo czy wyniki generalizują się na inne domeny”, „ze względu na ograniczenia obliczeniowe nie testowano modeli większych niż 110M parametrów”, „zbiór danych pochodzi z jednego kraju i może zawierać bias geograficzny.”

Future Work to nie „można by zrobić więcej”. To konkretne pytania, które otwiera Twoja praca i które ktoś powinien zbadać.

Etyka AI i bias – obowiązkowy rozdział

Prace z AI od 2022 roku praktycznie zawsze wymagają refleksji etycznej. To nie jest formalność – to realna część inżynierii ML.

Bias danych to coś, co należy zbadać, nie zignorować. Jeśli trenujesz model klasyfikacji twarzy na zbiorze zdominowanym przez jedną grupę demograficzną, model będzie działał gorzej na pozostałych. To nie jest „problem zbioru danych” – to Twój problem badawczy.

Zbadaj różnice w wynikach modelu dla podgrup. Jeśli budujesz model do oceny kredytowej, sprawdź F1 osobno dla różnych grup wiekowych, płci, regionów. Narzędzia: Fairlearn, AIF360 (IBM).

Przy modelu językowym omów ryzyko generowania treści szkodliwych albo utrwalania stereotypów. Przy systemach rekomendacji – echo chamber i filter bubble. Przy modelu medycznym – konsekwencje fałszywych negatywów i pozytywów.

Najczęstsze błędy – i jak ich uniknąć

Data leakage. Najpoważniejszy błąd. Pojawia się gdy informacja z danych testowych wpływa na trening. Klasyczne przypadki: normalizacja na całym zbiorze przed podziałem (trzeba normalizować na train, potem aplikować te same parametry do val/test), feature selection na całym zbiorze, augmentacja przed podziałem. Każdy z tych błędów sztucznie zawyża wyniki.

Brak baseline. Bez punktu odniesienia Twoje wyniki nic nie znaczą. „Model osiągnął 94% accuracy” brzmi świetnie do momentu, gdy okaże się, że losowy klasyfikator daje 93%.

Porównanie bez confidence intervals. Różnica 0,5 punktu procentowego między modelami to różnica statystycznie nieistotna przy małym zbiorze testowym. Użyj bootstrap resampling albo testów statystycznych.

Overfitting bez regularyzacji. Jeśli trenujesz model głęboki bez dropout, weight decay albo early stopping, i raportujesz wyniki na zbiorze treningowym – to jest błąd. Wyniki na zbiorze testowym to jedyna miara generalizacji.

Hiperparametry dobrane na zbiorze testowym. Grid search, random search, Bayesian optimization – wszystkie powinny pracować na zbiorze walidacyjnym. Jeśli dobierasz hiperparametry patrząc na wyniki testowe, Twoje wyniki testowe są zanieczyszczone.

Brak opisu preprocessingu. Reprodukowalność zaczyna się od preprocessingu. „Dane zostały wyczyszczone” to za mało. Opisz każdy krok: jak obsłużyłeś wartości brakujące, jak zakodowałeś zmienne kategoryczne, jak normalizowałeś dane liczbowe, jak tokenizowałeś tekst (i jakim tokenizerem, z jakimi parametrami).

Zbyt ambitny temat przy zbyt małym zbiorze danych. Trening modelu transformer od zera wymaga gigabajtów danych i setek godzin GPU. Przy pracy magisterskiej prawie zawsze lepiej jest fine-tuning gotowego modelu (BERT, RoBERTa, GPT-2) niż trening od zera.

Narzędzia i frameworki – praktyczny przegląd

PyTorch to dominujący framework badawczy. Większość nowych architektur pojawia się najpierw w PyTorchowym kodzie. Dynamiczny graf obliczeniowy ułatwia debugowanie. Polecam zacząć od oficjalnych tutoriali i kursu fast.ai.

TensorFlow / Keras – wciąż popularny w przemyśle. Keras (jako interfejs wysokiego poziomu) jest łatwiejszy na start. Jeśli Twój promotor pracuje w TensorFlow, prawdopodobnie łatwiej uzyskasz pomoc.

scikit-learn to absolutny standard dla klasycznych algorytmów ML (SVM, drzewa decyzyjne, random forest, gradient boosting). Spójne API, świetna dokumentacja, prosta integracja z pipeline’ami preprocessingu.

HuggingFace Transformers to biblioteka, od której zaczyna się praca z modelami językowymi. Gotowe modele (BERT, RoBERTa, T5, Llama) z fine-tuningiem w kilkudziesięciu linijkach kodu. Datasets HuggingFace to równolegle repozytorium zbiorów danych.

XGBoost / LightGBM / CatBoost – gradient boosting. Przy danych tabelarycznych często bije głębokie sieci i jest szybszy w treningu. LightGBM jest szybszy od XGBoost przy dużych zbiorach.

Popularne zbiory danych do pracy magisterskiej: MNIST, CIFAR-10/100 (klasyfikacja obrazów), UCI Machine Learning Repository (klasyczne ML), IMDB, SST-2 (sentiment analysis), SQuAD (question answering), MS COCO (detekcja obiektów), Kaggle (mnóstwo zbiorów dziedzinowych).

FAQ

Natalia Witek-Dąbrowska

Redaktorka i korektorka z 20-letnim doświadczeniem

Specjalizuję się w korekcie prac naukowych i dyplomowych. Jeśli potrzebujesz pomocy z tekstem, napisz do mnie.