Opis predmeta
Opis predmeta dostupan je samo na hrvatskom jeziku.
- Uvod: AI forenzika kao disciplina
- Kontekst, motivacija, EU AI Act
- Arhitektura modernih AI sustava: LLM-ovi, difuzijski modeli, GANs
- Digitalni trag AI sustava: metapodaci, log datoteke, API pozivi
- Detekcija AI generiranog teksta: perplexity, burstiness, watermarking
- Forenzika promptova i konverzacijskih sustava
- Prompt injection napadi
- Deepfake – tehničke osnove: GAN-ovi, face-swap, voice cloning
- Detekcija deepfake videa i slika: CNN klasifikatori
- FaceForensics++ Forenzika audio sadržaja: kloniranje glasa, spektralna analiza
- Forenzika AI generiranih slika: C2PA standard, content provenance
- Forenzika ML modela: model stealing, membership inference, watermarking
- Forenzika podataka za treniranje: data poisoning, backdoor napadi
- Objašnjivost AI odluka: LIME, SHAP
- Grad-CAM u forenzičkom kontekstu
- Pravni okvir i AI dokazi: EU AI Act, chain of custody, etički izazovi , 2h
- Ishodi: AI u istražnom procesu: integrirana analiza kompleksnih slučajeva
- Prezentacije studentskih projektnih radova
Kada i gdje
Raspored nastave i zauzetost prostorija dostupni su nakon prijave TVZ računom.
Prijava TVZ računomObavijesti kolegija
-
Prvi kolokvij iz Forenzika umjetne inteligencije je u terminu predavanja 24.11.2026 na HVU u 330 online putem LMS-a
Pročitaj na Digitu ↗ -
Danas na predavanju smo spomenuli neke ideje o antiforezici
Pročitaj na Digitu ↗ -
VJEŽBE - predaja VAŽNO!
Pročitaj na Digitu ↗ -
Predaja vjezbi 1 i 2
Pročitaj na Digitu ↗ -
Forenzika umjetne inteligencije - labosi 20.10.2026
Pročitaj na Digitu ↗
Izvor: Digit (Moodle). Cijeli tekst obavijesti dostupan je studentima upisanima u e-kolegij.
Ishodi učenja
Ishodi učenja prikazani su na engleskom jeziku.
- Prepare a forensic report suitable for use in legal proceedings in accordance with the EU AI Act.
- Collect, preserve and analyze digital evidence related to AI systems in accordance with chain of custody principles.
- Collect, preserve and analyze digital evidence related to AI systems in accordance with chain of custody principles.
- Apply detection methods for AI-generated text, visual and audio content
- Describe the architecture and functioning of modern AI systems relevant for forensic analysis (LLMs, diffusion models, GANs)
Literatura
Obavezna literatura
- Tolosana, R. et al., "DeepFakes and Beyond: A Survey of Face Manipulation and Fake Detection", Information Fusion, 2020.
Casey, E., "Digital Evidence and Computer Crime", Academic Press, 2011.
Kirchenbauer, J. et al., "A Watermark for Large Language Models", ICML 2023.
EU Artificial Intelligence Act – Uredba (EU) 2024/1689. 5. NIST AI Risk Management Framework (AI RMF 1.0), 2023.
