Sažetak
Rad prolazi kroz postupak lokalnog pokretanja i administriranja nekoliko jezičnih modela umjetne inteligencije uz pomoć sustava poput Ollama, OpenWebUI, Docker i VMware. Osim praktične komponente, velika je pažnja usmjerena na usporedbu lokalnog pokretanja jezičnog modela umjetne inteligencije i onog u oblaku. Diplomski se rad također bavi analizom razlika između takvih načina pokretanja, poput cijene, skalabilnosti i, što je najvažnije, sigurnosti. Također se prikazuju brojne mogućnosti koje pruža samo lokalno pokrenut AI, primjerice interakcija dvaju ili više jezičnih modela umjetne inteligencije i upravljanje modelom pomoću treniranja istog. Iako veliki broj korporacija prelazi na lokalno, samoodrživo AI rješenje, suočavaju se s brojnim izazovima poput stalne potrebe za praćenjem novih verzija, sigurnosnih zakrpa te visokog inicijalnog troška opreme.
Ključne riječi
AI; cloud; Ollama; OpenWebUI; Docker; VMware