O predmetu
Predmetni nastavnik: dr Višnja Simić
Saradnik: Lazar Krstić
Cilj predmeta
Osposobljavanje studenata za razumevanje i praktičnu primenu koncepata nadgledanog mašinskog učenja u domenu regresije i klasifikacije.
Ishod predmeta
Savladano gradivo omogućava studentu da:
- Razume ključne pojmove mašinskog učenja (teorijske pretpostavke, matematičke osnove, prednosti i nedostatke algoritama nadgledanog i nenadgledanog mašinskog učenja).
- Razlikuje osnovne pristupe mašinskom učenju.
- Primeni postupak izbora i evaluacije optimalnih modela za dati problem.
- Efikasno primeni fundamentalne algoritme regresije i klasifikacije na probleme srednje složenosti.
Sadržaj predmeta
Teorijska nastava
Osnovni koncepti mašinskog učenja. Oblasti primene. Vrste mašinskog učenja. Nadgledano učenje. Postavka problema nadgledanog učenja. Model. Minimizovanje greške modela. Preprilagođavanje i potprilagođavanje Unakrsna provera. Funkcije gubitka. Regularizacija. Balans između sistamatskog odstupanja i varijanse. Modeli zasnovani na stablima. Obučavanje stabala odlučivanja. Orezivanje stabala odlučivanja. Predstavljanje stabala odlučivanja u vidu pravila. Metode najbližih suseda. Razdvajajuće granice. Prokletstvo dimenzionalnosti. Linearni modeli za regresiju i klasifikaciju. Linearna regresija. Višestruka linearna regresija. Logistička regresija. Multinomna logistička regresija. Veštačke neuronske mreže. Perceptron. Gradijentni spust. Veštačke neuronske mreže sa propagacijom unapred. Aktivacione funkcije. Verovatnosni modeli. Naivni Bajesovski klasifikator. Metode zasnovane na jezgrenim funkcijama. Metode vektora podrške. Problem maksimalne margine. Skupno obučavanje. AdaBoost. Random Forest. Evaluacija i izbor modela. Кonfuziona matrica. Senzitivnost i specifičnost. ROC kriva. Površ ispod ROC krive (AUC).
Praktična nastava
Primena softverskih alata i implementacija rešenja u R okruženju i programskom jeziku Python. Rad na vežbama podrazumeva primenu stečenog znanja na rešavanje konkretnih zadataka u domenu nadgledanog mašinskog učenja.
Način polaganja ispita
- Domaći zadaci 30 poena
- Testovi 40 poena
- Završni ispit 30 poena