Jak napisać pracę magisterską z machine learning

Machine learning to kierunek, w którym praca magisterska to projekt zbliżony do eksperymentu naukowego. Stawiasz hipotezę, dobierasz dane, trenujesz modele, mierzysz wyniki, interpretujesz. A potem musisz to opisać tak, żeby komisja zobaczyła nie tylko końcowy wynik, ale całą logikę procesu.

Maj to dobry moment, żeby uporządkować, jak ta praca powinna wyglądać. Część studentów ma już wytrenowane sieci, zapisane checkpointy i tablice metryk. Promotor czeka na opisaną metodologię. Obrona za 6 tygodni.

To moment, w którym łatwo utknąć. Modele działają. Train loss spada, val loss rośnie po 30 epokach. Ale jak opisać train/val/test split, cross-validation, dobór hiperparametrów i ablation study tak, żeby recenzent zrozumiał, i nie miał wątpliwości, że to nie były przypadkowe wyniki, to inna sprawa. Z mojej praktyki, prace z ML często mają świetne eksperymenty i bardzo słabą sekcję metod. Brakuje seedów, brakuje confidence intervals, brakuje fair porównania baseline’u.

Ten artykuł pomoże Ci to odwrócić. Pokażę, jak zaplanować pracę magisterską z machine learning, co musi znaleźć się w każdym rozdziale i na jakie pułapki uważać.

Wybór tematu i pytania badawcze

Machine learning daje bardzo szeroki wachlarz tematów, od klasycznych zadań klasyfikacji i regresji, przez clustering, reinforcement learning, po sieci neuronowe i transfer learning. Trudność polega na zawężeniu tematu do problemu, który da się zbadać metodologicznie poprawnie w skończonym czasie.

Obszary, które najlepiej sprawdzają się w pracach magisterskich z machine learning:

• Klasyfikacja medyczna, diagnostyka na podstawie obrazów (RTG płuc, MRI, histopatologia), klasyfikacja chorób z danych klinicznych; datasety NIH Chest X-ray, MIMIC-III
• Regresja predykcyjna, ceny nieruchomości (Boston Housing, Kaggle House Prices), wartości giełdowe, zużycie energii; analiza feature importance
• Porównanie klasyfikatorów, benchmark kilku modeli (SVM, Random Forest, XGBoost, MLP) na konkretnym problemie z analizą trade-offów
• Reinforcement learning, agent w środowisku OpenAI Gym (CartPole, LunarLander), Q-learning vs. DQN vs. PPO
• Transfer learning, fine-tuning pretrained modeli (ResNet, EfficientNet) na własnym, mniejszym datasecie obrazów
• Imbalanced learning, strategie radzenia sobie z niezbalansowanymi klasami (SMOTE, undersampling, class weights, focal loss)

Pytanie badawcze musi być sformułowane testowalnie. Nie: „Które modele ML są najlepsze?”, ale: „Czy model XGBoost trenowany na danych UCI Diabetes osiąga statystycznie istotnie wyższe F1-score niż logistic regression przy 5-fold cross-validation (p < 0.05)?”

Jedno pytanie główne. Maksymalnie trzy szczegółowe hipotezy. Komisja musi widzieć, że wiesz, co testujesz i jak.

Metodologia pracy magisterskiej z machine learning

Metodologia w ML musi być na tyle precyzyjna, że ktoś z tego samego datasetu, tego samego seeda i tej samej architektury dostanie wynik różniący się o mniej niż 1% metryki. To standard reprodukowalności, którego komisja na poważnych uczelniach oczekuje.

Definicja zadania
Klasyfikacja (binarna, wieloklasowa, multi-label), regresja, clustering, anomaly detection, ranking. Określasz typ jednoznacznie. Dla klasyfikacji, czy klasy są zbalansowane (ile % każdej). Dla regresji, rozkład zmiennej celu (czy normalny, czy log-normalny, to wpływa na wybór funkcji straty).

Dane
Źródło (publiczny dataset z linkiem i wersją, własny zbiór z opisem procesu zbierania), liczba przykładów, liczba cech, typy zmiennych. Statystyki opisowe, rozkłady, brakujące wartości. Augmentacja danych (dla obrazów: rotation, flip, color jitter, MixUp; dla tekstu: synonim replacement, back-translation; dla tabelarycznych: SMOTE dla mniejszościowej klasy).

Train / Validation / Test split
Standardowo 70/15/15 lub 80/10/10. Stratyfikacja po klasach dla klasyfikacji. Dla danych grupowych (np. pacjent ma wiele rekordów), GroupKFold, żeby pacjent nie był jednocześnie w trainie i teście (data leakage). Dla danych czasowych, split chronologiczny. Podajesz dokładne wielkości każdego zbioru i seed.

Cross-validation
K-fold (standardowo k=5 lub k=10) dla porównania modeli na trainie. Stratified KFold dla klasyfikacji. Nested cross-validation, jeśli stroisz hiperparametry, żeby uniknąć optymistycznego biasu. Final evaluation zawsze na holdout teście, którego model nie widział.

Wybór modeli, baseline i zaawansowane
Baseline: zawsze. Dla klasyfikacji binarnej, logistic regression. Dla wieloklasowej, naive Bayes lub decision tree. Dla regresji, linear regression. Bez baseline’u nie wiesz, ile Twój zaawansowany model rzeczywiście dodaje.

Modele główne:
– Klasyczne ML, SVM (kernels: linear, RBF, polynomial), Random Forest, Gradient Boosting (XGBoost, LightGBM, CatBoost)
– Sieci neuronowe, MLP dla danych tabelarycznych, CNN dla obrazów (ResNet, EfficientNet, ViT), RNN/LSTM dla sekwencji, Transformer dla NLP
– Ensemble methods, voting, stacking, blending

Hiperparametry, strojenie
Grid Search dla małych przestrzeni (do 4-5 wymiarów). Random Search lub Bayesian Optimization (Optuna, Hyperopt, Scikit-Optimize) dla większych. Liczba prób, minimum 50, standardowo 100-200. Podajesz: przeszukiwaną przestrzeń (zakresy każdego parametru), liczbę prób, ostateczne wartości, metrykę optymalizowaną.

Metryki
Klasyfikacja binarna: accuracy, precision, recall, F1, ROC-AUC, PR-AUC. Macierz pomyłek z procentami. Klasyfikacja wieloklasowa: macro/micro/weighted F1, per-class precision/recall.

Regresja: RMSE, MAE, MAPE, R², adjusted R². Residual plots dla weryfikacji założeń.

Confidence intervals na metrykach (bootstrap, minimum 1000 próbek). Bez nich nie wiesz, czy różnica między modelami jest statystycznie istotna.

Funkcja straty i optymalizator
Klasyfikacja: cross-entropy (binary lub categorical), focal loss dla bardzo niezbalansowanych. Regresja: MSE, MAE, Huber loss (odporne na outliery).

Optymalizatory: SGD with momentum, Adam, AdamW. Learning rate scheduler (StepLR, CosineAnnealingLR, ReduceLROnPlateau). Early stopping z patience 10-20 epok na val loss.

Środowisko techniczne
Python 3.10+, PyTorch (np. 2.1) lub TensorFlow/Keras (np. 2.15) z wersjami. scikit-learn dla klasycznych modeli. CUDA i wersja GPU, jeśli trenowałeś na GPU (kluczowe, RTX 3090 vs. Tesla V100 ma znaczenie). Plik requirements.txt lub environment.yml jako załącznik.

Struktura i rozdziały

Praca magisterska z machine learning ma zazwyczaj 70-100 stron. Standardowa struktura:

1. Wstęp, kontekst problemu, dlaczego ML jest właściwym podejściem, motywacja, struktura pracy.

2. Cel pracy i hipotezy, jasno sformułowane, max 1 strona.

3. Przegląd literatury i state-of-the-art, kluczowe publikacje dla problemu, najnowsze artykuły z NeurIPS, ICML, ICLR, CVPR, ACL (max 5 lat). Tabela porównawcza wcześniejszych podejść z wynikami.

4. Teoretyczne podstawy, matematyka modeli, których używasz. Nie podręcznik, ale tyle, żeby było jasne, że rozumiesz. Sieci neuronowe, backpropagation, funkcje aktywacji. Boosting, gradient descent na funkcji straty.

5. Dane, opis datasetu, EDA, preprocessing, augmentacja.

6. Metodologia eksperymentalna, schemat eksperymentu, split, cross-validation, modele, hiperparametry, metryki.

7. Wyniki, tabele porównawcze (model, metryka średnia ± SD, czas trenowania), ROC curves, confusion matrices, ablation study (co stanie się, gdy usuniesz feature X / komponent Y).

8. Dyskusja, interpretacja, porównanie z literaturą, ograniczenia, błędy modelu (gdzie się myli, przykłady), kierunki dalszych badań.

9. Wnioski, 5-8 punktów odpowiadających na hipotezy.

10. Literatura, minimum 40-50 pozycji, mix klasyki i aktualnych artykułów. Cytowania w formacie APA lub IEEE, konsekwentnie.

Załączniki, link do repozytorium GitHub, requirements.txt, dodatkowe wykresy, krzywe uczenia dla wszystkich modeli.

Najczęstsze błędy

• Brak baseline’u, od razu trenujesz BERT-a albo ResNet-50. Komisja zapyta: „A jakby zwykła logistic regression?”. Bez baseline’u nie udowodnisz, że Twój wybór ma sens
• Data leakage, najczęściej: fit scalera na całych danych, augmentacja przed splitem, target encoding bez cross-validation, użycie informacji z testu w treningu
• Tylko jedna metryka, accuracy w niezbalansowanych klasach to fałszywy obraz. Zawsze raportuj 3-4 metryki dopasowane do problemu
• Brak seedów, wyniki nieodtwarzalne. Każda losowość ustawiona: np.random.seed, torch.manual_seed, random.seed, torch.cuda.manual_seed_all. Plus deterministic=True dla cuDNN, jeśli zależy Ci na pełnej powtarzalności
• Cross-validation tylko na trainie, brak holdout, model widział „test” w optymalizacji hiperparametrów. To overfitting na test set. Holdout musi być nietknięty do końca
• Hiperparametry „ze stack overflow”, komisja zapyta, czemu lr=0.001 a nie 0.0001. Bez tuningu nie ma odpowiedzi
• Brak confidence intervals, XGBoost ma F1=0.82, Random Forest 0.81, i co? Bez przedziałów ufności i testu statystycznego (t-test, Wilcoxon) nie wiesz, czy różnica jest istotna
• Słaba dyskusja błędów modelu, gdzie model się myli? Jakie próbki źle klasyfikuje? Confusion matrix z analizą per-klasa to obowiązek
• Wzory z Wikipedii bez interpretacji, wstawiasz wzór cross-entropy, którego potem nie odnosisz do swojego eksperymentu. Wzory tylko wtedy, gdy odwołujesz się do nich dalej
• Brak ablation study, magistrka bez ablation to praca, w której nie wiesz, który komponent ile dodaje. Komisja docenia ablation: „model bez augmentacji vs. z augmentacją”, „z dropoutem vs. bez”.

FAQ

Podsumowanie

Praca magisterska z machine learning jest tak dobra jak jej metodologia eksperymentalna. Możesz mieć świetne wyniki, ale jeśli nie opiszesz splitów, cross-validation, hiperparametrów i ablation, komisja straci zaufanie do liczb. Z drugiej strony, porządny baseline, jasne porównanie z literaturą i uczciwa dyskusja błędów modelu często ważą więcej niż egzotyczna architektura.

Jeśli zbliżasz się do obrony i chcesz mieć pewność, że praca jest gotowa, zapraszam na dobrzenapisane.pl. Koretuję prace techniczne regularnie, sprawdzam język, spójność zapisu wzorów, terminologię ML, podpisy pod rycinami i tabelami. Napisz, odpiszę w ciągu 24 godzin.

Dowiedz się więcej

• Goodfellow, I., Bengio, Y., Courville, A. (2016). Deep Learning. MIT Press
• Géron, A. (2022). Hands-On Machine Learning with Scikit-Learn, Keras, and TensorFlow (3rd ed.). O’Reilly Media
• Chollet, F. (2021). Deep Learning with Python (2nd ed.). Manning Publications
• Hastie, T., Tibshirani, R., Friedman, J. (2009). The Elements of Statistical Learning (2nd ed.). Springer
• Papers with Code, benchmarks i state-of-the-art: https://paperswithcode.com
• arXiv, preprinty z ML: https://arxiv.org/list/cs.LG/recent

Inne artykuły na blogu:
– Jak znaleźć literaturę do pracy dyplomowej
– Metodologia pracy magisterskiej, od czego zacząć
– Korekta pracy magisterskiej, co obejmuje i ile kosztuje

Natalia Witek-Dąbrowska

Redaktorka i korektorka z 20-letnim doświadczeniem

Specjalizuję się w korekcie prac naukowych i dyplomowych. Jeśli potrzebujesz pomocy z tekstem, napisz do mnie.