A felhős AI-eszközök kényelmesek, de három dolgot nem te tartasz kézben: hová kerül a céges adatod, meddig férsz hozzá a szolgáltatáshoz, és mennyibe fog kerülni később. A legtöbb cégnek a legfontosabb ezek közül az adat — egy ár-, ügyfél- vagy beszállítói adat nem véletlenül megy ki egy külső szolgáltatóhoz. Erre van válasz: a kritikus, érzékeny részt hozd be saját szervereden futó AI-ra, amit te birtokolsz. Nem dogma és nem a felhő teljes kiváltása — okos hibrid. Ebben a cikkben végignézem, mit jelent ez a gyakorlatban, hol éri meg, és mit építek már ma ebből.
A kényelem ára, amit ritkán számolsz ki
Az AI-eszközök néhány kattintással bekapcsolhatók, és ez nagy csábítás. Csakhogy amit bekapcsolsz, az egy külső szolgáltató rendszere — és ezzel a céged működésének egy darabja az ő kezébe kerül.
A legtöbb cég ezt addig nem veszi észre, amíg minden zökkenőmentes. Pedig a kérdés egyszerű: ha holnap a szolgáltató megváltoztatja a feltételeket, az árat, vagy korlátozza a hozzáférést, az érint-e egy folyamatot, amire a működésed épült? Ha igen, akkor van egy függőséged, amiről nem te döntesz.
És van egy ennél is fontosabb kérdés, ami magyar KKV-knál szinte mindig elsőre felmerül.
A legnagyobb tét: hová kerül az adatod?
Amikor egy felhős AI-nak átadsz egy dokumentumot — egy szerződést, egy árlistát, egy ügyfél-levelezést —, az a tartalom kimegy a céged falain kívülre, egy külső szolgáltató feldolgozásába. Hogy ott pontosan mi történik vele, azt jó esetben egy szerződés szabályozza, de a kontroll nem nálad van.
Egy kereskedő vagy gyártó cégnél ez nem apróság. Az árképzésed, a beszállítói feltételeid, az ügyfeleid adatai üzleti értéket és felelősséget hordoznak. A GDPR a személyes adatokra továbbra is vonatkozik, az EU AI Act pedig bizonyos AI-felhasználásoknál további megfelelési szempontokat hozhat be. A „hová kerül az adat" tehát nem technikai nüansz, hanem üzleti és jogi kérdés.
Itt jön be a lényeg: az az állapot, amikor az érzékeny adat a saját szervereden vagy géped fut, a saját, kontrollált környezetedben marad, és nem te könyörögsz betekintésért egy külső szolgáltatónál.
Mit jelent a saját gépen futó AI a gyakorlatban?
A saját gépen futó AI nem egy márka és nem egy varázsdoboz. Annyit jelent, hogy a mesterséges intelligencia a saját vagy kontrollált környezetedben fut — a te hardvereden, vagy egy általad kézben tartott EU-s rendszerben —, nem egy külső felhőben.
Fontos, hogy ez nem a felhős AI teljes kiváltása. A reális kép ennél árnyaltabb: a kritikus, adat-érzékeny és állandóan használt részt hozod be helyben, a többit hagyhatod a felhőben, ha ott olcsóbb és jó. Erről mindjárt részletesen.
A lényeg az irány: az érzékeny adat nem hagyja el a házat, a hozzáférés és a működés pedig a te kezedben marad.
Hol éri meg a helyi megoldás — és hol marad jó a felhő?
Ez nem hitvita. A jó döntés szinte mindig egy okos keverék.
A felhős, nagy szolgáltató jó, ha kísérletezel, ha csak alkalmanként van rá szükség, vagy ha a feladat nem érzékeny. Gyors, nincs belépő-költség, és a legújabb modelleket kapod.
A helyi, saját szerveren futó rendszer akkor nyer, ha:
- érzékeny adattal dolgozol (ügyfél, ár, beszállító, egészségügy, jog),
- az AI a működésed állandó, beágyazott része, nem alkalmi,
- számít a kiszámítható, fix költség,
- és fontos az EU-s adatkezelés meg az AI Act-tudatosság.
A legtöbb cégnek a kettő kombinációja a válasz: a hétköznapi, nem érzékeny feladat mehet felhőbe, az érzékeny mag pedig helyben fut. Ez a hibrid megközelítés — nem mindent vagy semmit.
Amit már ma építek ebből
Ez nem elmélet. Azt, hogy a saját szerveren futó irány működik, a saját, leszállított vagy mért munkám támasztja alá — és szándékosan csak azt írom ide, ami valóban kész vagy mért.
Privát, helyben futó ügyfél-asszisztens. Egy magyar kereskedő KKV-nál pilotban építettem és mértem olyan privát AI-asszisztenst, amely a cég saját rendszerének tudásából válaszol, és helyben futó architektúrára épül — úgy tervezve, hogy az ügyfél tudásanyaga ne kerüljön külső AI-szolgáltatóhoz. Ezt nem ígéretként mondom: a mérhetőség a lényeg. A javítások előtt és után is lemértem a rendszert — a fals adatot adó esetek száma négyről egyre csökkent, és a maradék egyet is célzottan javítottam.
Helyi anonimizáló réteg a felhő elé. Oda is építek hidat, ahol mégis felhős AI-t használna a cég: egy helyben futó kísérleti megoldásban (POC) azt teszteltem, hogyan lehet magyar szövegben még a céges határon belül felismerni és kezelni az érzékeny adatot, mielőtt bármi külső eszközbe kerülne. A nehéz része nem a csere, hanem a pontos felismerés — épp ezen dolgoztam a legtöbbet.
Több ügyfél, elszigetelt adat. A helyi rendszeremet úgy építettem, hogy az ügyfelek adatai adatbázis-szinten fizikailag el vannak különítve egymástól — ezt kereszt-szivárgásra célzott méréssel is ellenőriztem (nulla átszivárgás), nem feltételezem.
Saját hardveren futó nagy nyelvi modell. A háttérben egy helyi, általam üzemeltetett nyelvi modell dolgozik a saját gépemen — vagyis az AI-feldolgozás kritikus része saját kézben tartható, kötelező külső AI-felhő nélkül.
A belépő reálisan: nem kell szupergép
Sokan azt hiszik, a helyi AI csak nagyvállalati nagyvas. Ez ma már nem igaz.
Egy használt, 24 GB-os videokártya (RTX 3090) jó kiindulás kisebb terhelésre — több jól körülhatárolt KKV-feladatra már reális kezdés. Ha komolyabb, állandó terhelésre tervezel, egy komolyabb helyi konfiguráció egyetlen erősebb kártyára (RTX PRO 6000) és egy modern, helyben futtatható, nyílt súlyú, megengedő licencű modellre épül — a piacon több ilyen is elérhető, jellemzően Qwen-alapú —, amely a megfelelő méretben nagyjából 24 GB videómemórián elfut. Ennek a „nyílt súlyú" résznek a saját kézben tartás szempontjából épp ez a lényege: egy ilyen modellt szabadon letölthetsz és ténylegesen birtokolhatsz — bárki ellenőrizheti —, nem egy zárt API-tól függsz, amit bármikor elvehetnek tőled. Ezt a méretezést a saját hardver-kutatásom alapján ajánlom — nem katalógusból.
A pontos konfiguráció a terheléstől függ, ezt a felmérésen számolom ki a te igényeidre. A beruházás finanszírozására egyébként cégre szabottan több konstrukció is létezhet — ezt érdemes konzultáción átnézni, mert nem minden keret illik minden célra.
És a hozzáférés meg az ár? — a függetlenség, ami időszerű
Eddig az adatról volt szó, mert a legtöbb cégnek az a fő tét. De van egy második, ma különösen időszerű érv a saját szerveren futó megoldás mellett: a függetlenség egy külső kapcsolótól.
A nagy AI-szolgáltatók hozzáférési feltételei és árazása változik. Ami tegnap olcsón és korlátlanul elérhető volt, holnap drágább vagy szűkebb lehet — és ez nem a te döntésed. Ha egy folyamatod erre épült, a működésed sebezhető egy rajtad kívüli lépéstől.
Ezt nem kell drámaként felfogni, és főleg nem összeesküvésként. Felfogni úgy érdemes, ahogy bármelyik kritikus beszállítói függőséget: egy felelős cég nem ül rá egyetlen, általa nem kontrollált forrásra a működése fontos részében. A helyi kapacitás ezt a kockázatot csökkenti: a kritikus rész nem egyetlen külső szolgáltató döntésétől függ, és a saját, kiszámítható rendszered ára nem mozdul, akármit lép a piac.
Gyakori kérdések
Akkor most ne használjak felhős AI-t?
De, használj — ott, ahol jó. A felhős, nagy modell kísérletezésre és nem érzékeny feladatokra gyors és kényelmes. A lényeg, hogy az érzékeny magot ne add ki a kezedből. A reális válasz a hibrid, nem a mindent-vagy-semmit.
Mennyibe kerül belépni a helyi AI-ba?
Egy belépő hardverből és a bevezetésből áll össze; használt 24 GB-os kártyával a belépő alacsonyabb, mint sokan gondolják. A pontos számot a te terhelésedre a felmérésen számolom ki — kitalált árat nem mondok.
Lassabb a helyben futó modell, mint a felhős?
A megfelelő modell-méret és hardver mellett a hétköznapi céges feladatokra elég gyors. A cél nem a leglátványosabb modell, hanem a ti feladatotokra megbízhatóan elég.
Tényleg nem megy ki az adatom?
A helyi rendszernél a feldolgozás a saját vagy kontrollált EU-s környezetben marad. Ahol mégis felhős eszközt használnál, oda ilyen irányra helyi anonimizáló réteg építhető; nálam ennek már kísérleti megoldása (POC) futott — a cél, hogy az érzékeny adatot még a céges határon belül kezeljem, mielőtt külső eszközbe kerülne.
Kis cégnek is reális ez?
A belépő szint igen. Hogy nálad hol éri meg helyit, hol elég a felhő, és mi a józan első lépés, azt a felmérésen konkrétan átnézem veled.
Hol kezdj?
A saját szerveren futó AI nem egy nagy, mindent felforgató projekt — egy döntési kérdés. Hol van olyan érzékeny adatod vagy állandó AI-terhelésed, amit nem akarsz külső kézben tudni? Ott éri meg behozni helyben. A többi mehet a felhőben, ha ott jó.
Foglalj egy díjmentes felmérést — egy beszélgetés alatt ezt nézem át veled:
1. Érzékeny adat — mely folyamatban van érzékeny adat vagy állandó AI-terhelés.
2. Hol éri meg a helyi út — és hol elég a felhő.
3. Reális belépő — milyen hardver és bevezetés kell hozzá, túlígérés nélkül.
Ha kifejezetten a saját adatból, forrással válaszoló privát asszisztens érdekel, erről külön oldalon írtam részletesen. A felmérés díjmentes és kötelezettségmentes.
Nem az AI-t magát árulom, hanem azt, hogy rend legyen a cég működésében és a fölött, hogy ki és mit lát az adataidból. A saját szerveren futó AI ennek az egyik eszköze — ott, ahol tényleg számít.
Hivatkozások:
- Európai Bizottság — az EU AI Act hivatalos áttekintése (digital-strategy.ec.europa.eu)
- Nemzeti Adatvédelmi és Információszabadság Hatóság (naih.hu) — GDPR-kontextus