AI security engineering LLM-alapú alkalmazások támadása és védelme

A prompt injection olyan támadás, amelyben a támadó szöveggel írja felül egy nyelvi modell eredeti feladatát. Ez történhet közvetlenül a felhasználói kérésben, vagy közvetve: a modell által feldolgozott weboldalba, dokumentumba vagy akár képbe rejtett utasítással. A képzésen a közvetlen és a közvetett változatot is kipróbálod támadói és védői oldalról, és olyan védekezési mintákat építesz, amelyek megnehezítik ezeket a kísérleteket.

A jailbreak eredetileg egy eszköz, például egy telefon gyártói korlátozásainak feloldását jelenti. Nyelvi modelleknél azokat a technikákat nevezik így, amelyekkel rá lehet venni a modellt, hogy megkerülje a saját biztonsági szabályait, és olyan választ adjon, amit egyébként megtagadna. A képzésen a jailbreak a manipulált utasításokról szóló tanegység része, a többkörös támadásokkal együtt.

A jailbreak célja jellemzően az, hogy a modell beépített biztonsági korlátait kijátssza. A prompt injection az alkalmazás szintjén támad: a fejlesztő által megadott feladatot írja felül, gyakran olyan külső tartalmon keresztül, amit a modell feldolgoz. A gyakorlatban a kettő gyakran együtt jelenik meg, ezért a képzésen mindkettőt ugyanabban a tanegységben dolgozod fel.

Nem, AI-biztonsági előismeret és gépi tanulási háttér nem kell, és RAG- vagy AI Agent-alapú alkalmazást sem kell korábban építened: ezek felépítését és a támadási technikákat a képzés a biztonság szempontjából, az alapoktól tárgyalja. Arra viszont szükséged lesz, hogy magabiztosan olvass és módosíts Python-kódot, ismerd a webes és API-biztonsági alapokat (OWASP Top 10), és alapszinten használd a Linux parancssort és a Dockert. Előnyt jelent az alkalmazásbiztonsági, penetrációs tesztelői vagy LLM-alapú fejlesztői tapasztalat, a Git ismerete, illetve ha használtál már nyelvi modellt API-n keresztül.

Ha stratégiai szinten keresel választ az AI-kockázatokra, ez a képzés valószínűleg nem neked való. Heti laborfeladatokra, kódolásra és parancssori munkára épül, a záróprojektben pedig egy teljes biztonsági felmérést végzel el egy sebezhető vállalati asszisztensen. Akkor illik hozzád, ha a gyakorlatban szeretnéd tesztelni és védeni az AI-rendszereket.

A mentorált képzéseink tananyaga tanegységenként, hétről hétre válik elérhetővé. Ez a módszertanunk része: így mindenki ugyanott tart a tananyagban, és a konzultációkon közösen tudjátok átbeszélni az aktuális témakört és a feladatokat. Az ütemezést egyénileg nem tudjuk módosítani, de egy héten belül te döntöd el, mikor tanulsz. Ha egy-egy héten kevesebb időd jut rá, akkor sem maradsz le végleg: a konzultációk felvételét visszanézheted, a házi feladatokat később is feltöltheted, a képzés végén pedig vizsgaidőszak is van, amikor fel tudsz zárkózni. A tananyagot az indulástól számítva egy évig eléred.

A jelentkezésedet e-mailben visszaigazoljuk, és megküldjük az első számlát. Ha átutalással fizetsz, a közleménybe kizárólag a számla sorszáma kerüljön, mert így tudjuk beazonosítani a befizetésedet. Ezen túl nincs más teendőd: az indulás előtt hozzárendeljük a kurzust a tanulói fiókodhoz, a kezdés előtti napon pedig küldünk egy összefoglaló, eligazító levelet. Részletfizetésnél a további számlákat mindig az esedékességük előtt küldjük ki.

A meghirdetett csoportokat az adatlapon, a „Következő indulási dátumok” szekcióban találod. Ha egyik időpont sem fér bele az időbeosztásodba, add meg az e-mail címed ugyanott, a „Más időpont érdekel?” résznél, és szólunk, amint új időpontot hirdetünk. Ha a jelentkezésed után derül ki, hogy mégis egy másik csoport lenne jobb, írj az info@cubixedu.com címre, és átvezetünk. Ha már kaptál számlát, azt ilyenkor sztornózzuk, így nem marad nyitott tételed.

Igen, mindkettő megoldható. A jelentkezés „Számlázás” lépésénél válaszd a „Munkatársnak vásárolok” lehetőséget, több fő esetén pedig a „Több munkatársat szeretnél beíratni?” gombot. Ha inkább írnál, vagy a munkáltatódnak hivatalos árajánlatra van szüksége a döntéshez, keress minket az info@cubixedu.com címen, és összeállítjuk. Ha a cégnél elhúzódik a jóváhagyás, az sem gond, a képzéseinket rendszeresen újraindítjuk, így egy későbbi csoportra is tudsz jelentkezni.

A kuponkódot a jelentkezési űrlap „Fizetés” lépésénél tudod megadni: írd be a Kuponkód mezőbe, kattints a Beváltás gombra, és a rendelési összegző rögtön a kedvezményes végösszeget mutatja. A kuponok érvényessége kódonként eltér, ezért ha a tiéd nem működne ennél a képzésnél, írj nekünk az info@cubixedu.com címre, és megnézzük.

Igen, ajánlásért 5% kedvezményt adunk, amit az ajánló és az ajánlott is megkap, és a nálad lévő egyéb kedvezmény mellett is érvényesíthető. Írj nekünk az info@cubixedu.com címre az általad ajánlott jelentkezők nevével, amint biztos a részvételük, és mindenkinek külön kupont küldünk. A kupont a jelentkezési űrlap „Fizetés” lépésénél tudod beváltani.

Igen, több képzésből kérhetsz csomagot, amit a külön megvásárolt kurzusoknál kedvezőbb csomagáron adunk. Írd meg az info@cubixedu.com címre, mely képzések érdekelnek, és összeállítjuk. Küldünk hozzá egy áttekintést a képzések formátumáról, a tervezett indulásokról és a javasolt tanulási időről, valamint egy naptárnézetet, amiből látod az esetleges átfedéseket. Az összeállítás csak kiindulópont, a csomag bármelyik képzésünkből összerakható, és az ütemezés menet közben is rugalmasan alakítható.