Az ügynökségi mesterséges intelligencia irányításával kapcsolatos kihívások az EU 2026-os mesterséges intelligencia törvénye értelmében

Mivel az EU mesterséges intelligencia törvényének végrehajtási rendelkezései 2025 augusztusában hatályba lépnek – a teljes körű megfelelési kötelezettségek pedig 2026-ra nyúlnak át –, egy új és nehéz probléma merül fel a technológiai vezetők számára Európa-szerte és azon túl. Az ágentikus mesterséges intelligencia rendszerek, amelyek önállóan hajtanak végre több lépésből álló feladatokat vállalati környezetekben, mély irányítási hiányosságokat tárnak fel, amelyek kezelésére a meglévő megfelelési keretrendszereket soha nem tervezték.

A tét óriási. Az ilyen autonóm ügynököket telepítő szervezetek akár 35 millió eurós vagy a globális éves forgalom 7%-át is kitevő bírsággal nézhetnek szembe a legsúlyosabb jogsértések esetén. A kellemetlen valóság pedig az, hogy sok vállalatnak jelenleg nincs megbízható módja arra, hogy elmagyarázza, mit csinálnak a mesterséges intelligencia által vezérelt ügynökeik, nemhogy bizonyítsa, hogy ezek a tettek jogszerűek.

Mi okozza a kormányzási válságot?

A hagyományos, egyetlen kérdésre reagáló és egyetlen kimenetet előállító MI-modellekkel ellentétben az ágensalapú MI-rendszerek olyan fokú függetlenséggel működnek, amely alapvetően megváltoztatja a kockázatszámítást. Ezek az ágensek adatokat mozgathatnak platformok között, tranzakciókat kezdeményezhetnek, kommunikálhatnak külső API-kkal, és láncba köthetik a döntéssorozatokat – gyakran minimális emberi felügyelettel minden lépésben.

Pontosan ez az autonómia teszi őket értékessé. Az olyan cégek, mint a Salesforce, a Microsoft és a Google, mind jelentős mértékben fektettek be az ágensalapú architektúrákba az elmúlt másfél évben. A Salesforce Agentforce platformja, a Microsoft Copilot ügynökei és a Google Vertex AI ügynökei mind ígéretet tesznek az összetett üzleti munkafolyamatok automatizálására, amelyek korábban minden lépésnél emberi beavatkozást igényeltek.

De itt van az irányítási kihívás: amikor egy ügynök jelentős döntést hoz – mondjuk elutasít egy biztosítási igényt, triázza egy beteg orvosi adatait, vagy megjelöl egy alkalmazottat teljesítményértékelésre –, a rendszert alkalmazó szervezetnek teljes körű auditnaplóra van szüksége. Ki engedélyezte az ügynök cselekvési körét? Milyen adatok alapján született a döntés? Volt-e érdemi emberi felügyelet? Az EU MI-törvényének a magas kockázatú rendszerekre vonatkozó követelményei értelmében ezek a kérdések nem opcionálisak. Jogilag kötelezőek.

Miért teszi ezt sürgetővé az EU mesterséges intelligencia törvénye?

Az EU MI-törvénye kockázati szintekbe sorolja a mesterséges intelligencia alkalmazásait, és a legszigorúbb kötelezettségek a magas kockázatú felhasználási esetekre vonatkoznak – beleértve a foglalkoztatási döntéseket, a hitelminősítést, a bűnüldözést, a migrációkezelést és a kritikus infrastruktúrát. E kategóriák mélyebb megértéséhez tekintse meg az 5 MI-számítási architektúra, amelyet minden mérnöknek ismernie kell 2025-ben című áttekintésünket.

Az alábbi követelményeket kell teljesíteniük az ügynöki rendszereket ezeken a területeken telepítő szervezeteknek:

• Nyomonkövethetőség: Az ügynök műveleteinek, bemeneteinek és kimeneteinek teljes naplózása a teljes működési életciklusa során.
• Emberi felügyelet: Olyan mechanizmusok, amelyek lehetővé teszik a jogosult személyek számára, hogy bármikor beavatkozzanak, felülbírálják vagy leállítsák a rendszert.
• Kockázatkezelés: Folyamatos értékelése annak, hogy az ágens autonóm viselkedése hogyan eredményezhet káros vagy diszkriminatív eredményeket.
• Átláthatóság: Világos dokumentáció, amely lehetővé teszi a szabályozók és az érintett személyek számára, hogy megértsék, hogyan születtek meg a döntések.

A probléma az, hogy sok ügynökalapú MI-bevezetés elmossa az elszámoltathatóság határait. Amikor egy ügynök több rendszeren keresztül irányít műveleteket – adatokat kér le egy adatbázisból, következtetéseket futtat egy másik modellen keresztül, és az eredményt egy harmadik alkalmazásba tölti –, a döntési lánc átláthatatlanná válik. Még a rendszert építő mérnököknek is nehézséget okozhat, hogy pontosan rekonstruálják egy adott eredmény mögött meghúzódó logikát.

Az elszámoltathatósági szakadékot, amelyet a vezetőknek át kell hidalniuk

A vállalati vezetők viselik a végső felelősséget az általuk telepített rendszerekért, függetlenül attól, hogy ezek a rendszerek mennyire válnak autonómmá. Ezt az elvet az EU MI-törvénye kifejezetten megerősíti. A magas kockázatú MI-rendszerek telepítői – nem csak a fejlesztők – jelentős megfelelési kötelezettségekkel rendelkeznek.

Egy 2025 elején végzett McKinsey-felmérés azonban kimutatta, hogy míg a szervezetek 72%-a vezetett be valamilyen mesterséges intelligenciát a működésében, kevesebb mint a felük vezetett be formális irányítási struktúrákat ezekhez a telepítésekhez. Az ágensi rendszerek esetében a különbség valószínűleg nagyobb, mivel sok vállalat még kísérleti fázisban van, és az irányítást később megoldandó problémaként kezeli.

Ez a megközelítés gyorsan tarthatatlanná válik. Az iparági elemzők arra figyelmeztetnek, hogy a szervezeteknek ugyanolyan szigorúan kell kezelniük a mesterséges intelligencia által biztosított ügynökök irányítását, mint ahogyan a pénzügyi ellenőrzéseket vagy az adatvédelmet a GDPR értelmében alkalmazzák. Ha nem tudod ellenőrizni, nem tudod megvédeni – és a szabályozók végül kérdezni fognak.

Mit mondanak a szakértők?

A mesterséges intelligencia politikájának számos kiemelkedő hangja szabályozási vakfoltként jelölte meg az ágensrendszereket. Az Ada Lovelace Intézet kutatói azzal érveltek, hogy a meglévő MI-irányítási keretrendszerek viszonylag statikus kapcsolatot feltételeznek a bemenet és a kimenet között – ez a feltételezés azonban felborul, amikor az ágensek idővel több autonóm döntést láncolnak össze.

A Gartner eközben 2024 végén azt jósolta, hogy 2028-ra a napi üzleti döntések legalább 15%-át mesterséges intelligencia által támogatott ügynökök fogják automatikusan meghozni – szemben a 2023-as lényegében nullával. Ez a tendencia arra utal, hogy az irányítási probléma csak fokozódni fog a telepítés skálázódásával.

Az IT-vezetők számára az üzenet egyértelmű: vesztes stratégia megvárni, amíg a szabályozási iránymutatások előíró jellegűvé válnak, mielőtt cselekednének. Az EU MI-törvénye széles körű kötelezettségeket ír elő, és a szervezeteken múlik, hogy dokumentált, védhető irányítási gyakorlatok révén bizonyítsák, hogy eleget tettek ezeknek. Azoknak, akik érdeklődnek a robusztus MI-felügyeleti programok kiépítése iránt, érdemes megtekinteniük a Microsoft Open-Source Toolkit futásidejű MI-ügynökök védelméről szóló útmutatónkat.

Mi történik ezután?

Számos fejleményt érdemes szorosan figyelemmel kísérni 2025 fennmaradó részében és 2026-ban:

1. Szabályozási útmutató dokumentumok: Az Európai MI Hivatal várhatóan részletes útmutatót fog kiadni a magas kockázatú megfelelésről, amely kifejezetten a többügynökös és ügynökös rendszerekre vonatkozhat.
2. Beszállítói elszámoltathatósági funkciók: A nagyobb felhőszolgáltatók valószínűleg továbbfejlesztett naplózási, magyarázhatósági és vezérlési funkciókat fognak szállítani ügynökplatformjaikhoz, ahogy a megfelelőségi nyomás növekszik.
3. Biztosítási és felelősségbiztosítási változások: Számítson mesterséges intelligencia-specifikus felelősségbiztosítási termékek megjelenésére, mivel a vállalatok megpróbálják áthárítani az autonóm rendszerekkel kapcsolatos szabályozási kockázatok egy részét.
4. Határokon átnyúló végrehajtási feszültségek: Az EU-n kívül székelő, de európai ügyfeleket kiszolgáló vállalatok összetett joghatósági kérdésekkel fognak szembesülni azzal kapcsolatban, hogy az ügynöki irányítás hogyan vonatkozik a működésükre.

A lényeg

Az ágentikus mesterséges intelligencia a vállalati technológia egyik legjelentősebb változását képviseli a felhőalapú számítástechnika megjelenése óta. De ugyanaz az autonómia, amely ezeket a rendszereket hatékonnyá teszi, egyben megnehezíti az irányításukat is – és az EU MI-törvényének végrehajtási ütemterve kevés teret enged az önelégültségnek.

Azok a vezetők, akik az irányítást utólagos dolognak tekintik, nemcsak a szabályozási büntetéseket kockáztatják, hanem az ügyfelekkel, alkalmazottakkal és partnerekkel való bizalom erodálódását is. Azok a szervezetek fognak virágozni ezek az új szabályok alatt, amelyek az elszámoltathatóságot a semmiből építik be az ügynöki rendszereikbe, ahelyett, hogy utólagosan, egy megfelelőségi válság után építenék be.