Sovereign AI rendszerek építése és üzemeltetése vállalati környezetben
Open source LLM-ek finomhangolása, optimalizálása és biztonságos futtatása saját infrastruktúrán: lokális AI építés a költséges, adatvédelmi kockázatot hordozó publikus API-k kiváltására.
Mit fogsz tanulni?
10 hét alatt a hardvertervezéstől a modellkvantáláson, finomhangoláson és RAG-rendszereken át a biztonságos, air-gapped deploymentig.
1 A Sovereign AI alapjai és hardvertervezés Az alapvető koncepciók és a hardver-választási kritériumok megértése.
- Nyílt vs. zárt ökoszisztémák
- Hugging Face Hub mérnöki szemmel
- Hardverbecslés: GPU választás, memória matek (VRAM, sávszélesség)
2 Modell optimalizáció és kvantálás A modellek memóriaigényének drasztikus csökkentése kvantálási eljárásokkal.
- Hogyan fér el a modell a memóriában? (FP16 vs INT4)
- Kvantálási eszközök a gyakorlatban (llama.cpp, AutoGPTQ)
- CPU vs GPU inferencia optimalizálás
3 Hatékony finomhangolás (Efficient Fine-Tuning) Saját feladatokra specializált modellek készítése minimális erőforrással.
- PEFT és LoRA technológiák mélyfúrása
- Saját adathalmaz készítése (Dataset Engineering, Chat Template, JSONL)
- Tanítás felügyelete és kiértékelése (Loss curves, Overfitting)
4 Lokális inferencia és RAG rendszerek Vállalati szintű production szerverek üzemeltetése és tudásbázis csatolása.
- Vállalati szintű szerverek beüzemelése (vLLM, Ollama, PagedAttention)
- Saját tudásbázis csatolása (RAG architektúra, lokális vektoradatbázis)
- API végpontok készítése és integrációja
5 AI biztonság és deployment Biztonságos, offline rendszerek telepítése és üzemeltetése.
- Prompt Injection elleni védelem
- Air-gapped (offline) telepítési stratégiák
- A kész rendszer konténerizálása és átadása (Docker, NVIDIA Container Toolkit)
Miért érdemes belevágnod?
Rengeteg vállalat érzi ugyanazt a szorítást: a versenyképességhez kellene a mesterséges intelligencia, ugyanakkor a szigorú adatvédelmi szabályok (GDPR, üzleti titok, banktitok) miatt nem tölthetik fel az érzékeny adataikat egy nyilvános, „Black Box” működésű AI szolgáltatóhoz. Ráadásul a publikus AI API-k token alapú árazása lineárisan növekvő, hosszú távon fenntarthatatlan költséget jelent.
A válasz erre a Sovereign AI: a saját infrastruktúrán futtatott, nyílt modellek ma már számos vállalati use case-ben versenyképes alternatívát adnak a zárt rendszerekkel szemben, ott, ahol az adatszuverenitás, a költségkontroll és a testreszabhatóság számít. És pont most van itt az ideje: az új kvantálási eljárások (például a GGUF) miatt, amihez tavaly még szuperszámítógép kellett, az ma lefut egy erős gamer PC-n vagy egyetlen bérelt GPU-n. Emellett a saját modell megszünteti a függőséget a nagy tech cégektől, az AI Engineer pedig ma az egyik legkeresettebb IT pozíció, mert a cégek olyan szakembert keresnek, aki képes összerakni ezeket a rendszereket.
- Munka mellett végezheted, rugalmas időbeosztással
- Gyakorlati projekteken keresztül, oktatói mentorálással
- LinkedIn profilodba beágyazható tanúsítvány
Ismerd meg oktatódat
Jagusztin László
Chief Technology Architect, Alerant
Jagusztin László vagyok, Architect az Alerant Zrt.-nél. Az elmúlt 20-30 évben mint vezető dolgoztam telekommunikációs és energetikai cégeknél. A munkám nagy részét a DevOps bevezetési projekteknek a vezetése vagy tanácsadása töltötte ki.
Kinek ajánlott?
- Backend fejlesztők, akik AI-integrációval és LLM-alapú alkalmazásfejlesztéssel bővítenék az eszköztárukat
- DevOps és MLOps mérnökök, akik AI modellek biztonságos üzemeltetésével foglalkoznak
- Tech Lead-ek és CTO-k, akik stratégiai döntéseket hoznak az AI bevezetéséről és infrastruktúrájáról
Kinek nem ajánlott?
- Akiknek nincs fejlesztői vagy üzemeltetési tapasztalatuk
- Akik felhős API-kkal (OpenAI, Claude) való integrációt tanulnának, arra az AI asszisztensek képzésünk való
- Akik no-code AI eszközöket keresnek
- Akik üzleti, stratégiai AI-áttekintést várnak technikai mélység nélkül
Mik a képzés előkövetelményei?
Mélyreható LLM-előismeretre nincs szükséged, a képzés minden koncepciót nulláról épít fel. Ha van már tapasztalatod AI-integrációban, DevOps vagy MLOps területen, az előny, de nem feltétel. Hasonlóan előny, ha hozzáférsz erősebb NVIDIA GPU-hoz (pl. RTX 4090, A100), de nem kötelező: a kvantálási eljárásokkal gyengébb gépen vagy akár CPU-n is haladhatsz, és a képzés megtanít a hardverbecslésre is.
Hogyan fogsz tanulni?
Gyakorlatorientált oktatás
Minden héten izgalmas gyakorló feladatokat kapsz majd, amelyek keretében már menetközben is konkrét lekérdezéseket fogsz megvalósítani
Interaktív digitális tananyag
A gyakorlati feladatok elvégzéséhez és a képzés sikeres teljesítéséhez szükséges tudást digitális tananyagok és vezetett kódolások formájában adjuk át, amelyeket saját időbeosztásod szerint, akár munka mellett is feldolgozhatod és egy évig korlátlan alkalommal visszanézheted.
Oktatói mentoring
A képzés ideje alatt az oktató folyamatosan a rendelkezésre áll, bármikor kérdezhetsz tőle, ha elakadtál, és rendszeresen visszajelzést ad a feladataidra, fejlődésedet végigkíséri.
Konzultációk
Valamennyi tanegység végén egy-egy élő konzultációs alkalmat is szervezünk, amikor élőben is felteheted kérdéseidet, közösen kiértékelhetitek és átbeszélhetitek a gyakorlás során elkészített projekteket, és tanulhattok egymás elakadásaiból is.
Limitált férőhely
A fent említett interakciók miatt képzéseinket korlátozott létszámmal indítjuk csak el, hogy biztosan jusson mindenkire ideje az oktatóknak.
Minőségbiztosított képzések
Képzéseink szakmai minőségbiztosítását az iparági vezető technológiai vállalatok és a Budapesti Műszaki és Gazdaságtudományi Egyetem végzi.
- Tanúsítványt kapsz, amelyet önéletrajzodhoz és LinkedIn profilodhoz csatolhatsz
- Bizonyítja, hogy elsajátítottad az adott ismereteket
- Segíti a szakmai előmeneteledet és karriered fejlődését
Jó társaságban leszel!
Már több mint 150 hazai és nemzetközi cég munkatársa képezte magát tovább nálunk.
Tudtad?
A munkáltatók 83%-a finanszírozza a munkatársak képzését, ne felejtsd el megkérdezni a tiédet!
Következő indulási dátum
Más időpont érdekel?
Add meg az e-mail címed, és szólunk, ha új időpontot hirdetünk meg.
Fizetési lehetőségek
Többféle fizetési lehetőséget biztosítunk, hogy a legmegfelelőbb opciót válaszd.
Online fizetés bankkártyával
Az OTP SimplePay az egyik legelterjedtebb online fizetési megoldás — gyors és biztonságos fizetési folyamatáról ismert.
Kamatmentes részletfizetés
Nem szeretnénk, ha a fizetési nehézségek akadályoznák a szakmai fejlődésedet, ezért a részvételi díjat több részletben, teljesen kamatmentesen is kifizetheted.
Fizetés banki átutalással, egy összegben
Ha online kártyás fizetés helyett banki átutalással szeretnél fizetni, az sem probléma — írj nekünk, és ebben is segítünk.
Készen állsz a jelentkezésre?
Jelentkezz most, és kezdd el a fejlődést!
Gyakran Ismételt Kérdések
Milyen hardverre van szükségem a kurzus elvégzéséhez?
Az ideális egy NVIDIA GPU (pl. RTX 4090, A100), de a kvantálási eljárások lehetővé teszik a futtatást gyengébb PC-n vagy akár CPU-n is. A kurzus megtanít hardverbecslésre, hogy meghatározd az igényeidhez szükséges eszközöket.
Szükséges-e a képzés előtt mélyrehatóan ismerni az LLM-eket?
Nem, elég a középhaladó Python-tudás és az alapszintű Terminal-jártasság. A képzés minden koncepciót nulláról építkezve tanít.
Mit jelent az "air-gapped" szó a képzés kontextusában?
Internetkapcsolat nélküli telepítést jelent: a rendszer offline környezetben működik, garantálva az adatszuverenitást és minimalizálva a biztonsági kockázatokat.
Hány hét alatt lehet befejezni a képzést?
A képzés 10 hét hosszú, de a digitális tananyaghoz 1 évig korlátlan hozzáférést kapsz, így saját tempóban is haladhatsz.
Mi történik, ha nem vagyok elégedett a képzéssel?
100%-os pénzvisszafizetési garanciát vállalunk az indulástól számított 8 napon belül.