Opis kolegija
Uvod: AI forenzika kao disciplina; kontekst, motivacija, EU AI Act , Arhitektura modernih AI sustava: LLM-ovi, difuzijski modeli, GANs Digitalni trag AI sustava: metapodaci, log datoteke, API pozivi Detekcija AI generiranog teksta: perplexity, burstiness, watermarking , Forenzika promptova i konverzacijskih sustava; prompt injection napadi Deepfake – tehničke osnove: GAN-ovi, face-swap, voice cloning Detekcija deepfake videa i slika: CNN klasifikatori, FaceForensics++ Forenzika audio sadržaja: kloniranje glasa, spektralna analiza Forenzika AI generiranih slika: C2PA standard, content provenance Forenzika ML modela: model stealing, membership inference, watermarking Forenzika podataka za treniranje: data poisoning, backdoor napadi , Objašnjivost AI odluka: LIME, SHAP, Grad-CAM u forenzičkom kontekstu Pravni okvir i AI dokazi: EU AI Act, chain of custody, etički izazovi , 2h Ishodi: AI u istražnom procesu: integrirana analiza kompleksnih slučajeva Prezentacije studentskih projektnih radova
Ishodi učenja
- izgraditi Izraditi forenzički izvještaj primjeren za korištenje u pravnim postupcima sukladno EU AI Act-u.
- osmisliti Provesti forenzičku analizu ML modela i skupa podataka za treniranje (membership inference, data poisoning).
- analizirati Prikupiti, očuvati i analizirati digitalne dokaze vezane uz AI sustave sukladno načelima chain of custody.
- pripremiti Primijeniti metode detekcije AI generiranog tekstualnog, vizualnog i audio sadržaja
- analizirati Opisati arhitekturu i funkcioniranje modernih AI sustava relevantnih za forenzičku analizu (LLMovi, difuzijski modeli, GANs)
Literatura
Obavezna literatura
- Tolosana, R. et al., "DeepFakes and Beyond: A Survey of Face Manipulation and Fake Detection", Information Fusion, 2020.
Casey, E., "Digital Evidence and Computer Crime", Academic Press, 2011.
Kirchenbauer, J. et al., "A Watermark for Large Language Models", ICML 2023.
EU Artificial Intelligence Act – Uredba (EU) 2024/1689. 5. NIST AI Risk Management Framework (AI RMF 1.0), 2023.
