Agent s právy nového kolegy, ne s klíči od celé firmy
Agent ve firmě není experiment. Má omezená oprávnění, u důležitých kroků se ptá člověka a po každém kroku zůstane záznam. O tom, kde běží a kam smějí data, rozhodujete vy.
Šest pojistek, které má každý agent
Oprávnění jako nový kolega
Agent má vlastní účet a jen ta práva, která pro svůj proces potřebuje. Do databází čte, kde to jde, jen pro čtení. Zápis do ERP nebo odeslání ven nastavujeme zvlášť a výslovně.
Schvalování člověkem
Předem určíme, co agent jen připraví a co potvrzuje člověk – podle částky, zákazníka, typu dokladu nebo akce. Pravidla se dají kdykoli zpřísnit.
Záznam každého kroku
Co agent přečetl, které systémy volal, co navrhl, kdo to schválil a kdy. Záznam slouží k dohledání chyb i ke kontrole, že agent dělá jen to, co má.
Testy před každou změnou
Každý agent má sadu testovacích případů z vaší praxe. Změnu promptu, pravidel nebo modelu pustíme do provozu, až když na ní projde.
Rozpočty a limity
Hlídáme počet kroků, náklady na modely a objem práce. Když agent narazí na limit, zastaví se a ozve se člověku.
Vypínač
Agenta jde kdykoli zastavit. Práce se pak vrací lidem stejnou cestou jako dnes, nic se neztratí.
Kde agent a model běží
Tři způsoby nasazení. Agent je ve všech stejný, liší se, kde běží a kdo ho provozuje.
| Cloud v EU | Váš cloud | Vaše servery | |
|---|---|---|---|
| Kde běží agent | V našem prostředí v EU. | Ve vašem tenantu (Azure, AWS, Google Cloud). | Na vašem hardwaru, i bez připojení k internetu. |
| Kde běží model | Cloudový model s daty v EU. | Model ve vašem cloudu, třeba Azure OpenAI. | Lokální model (Llama, Qwen, Gemma, Mistral). |
| Kdo provozuje | My. | My, ve vašem prostředí, nebo společně s vaším IT. | Vaše IT s naší podporou, nebo my se vzdáleným přístupem. |
| Kdy se hodí | Malé a střední firmy, rychlý start. | Firmy s vlastní cloudovou strategií a pravidly. | Citlivá data, regulované obory, úplná izolace. |
Rizika agentů a jak je hlídáme
Agent, který jedná v systémech, má jiná rizika než chatbot. Tady jsou ta hlavní.
Instrukce schované v e-mailu nebo dokumentu
Agent čte cizí texty. Instrukce v nich bere jako data, ne jako příkazy, a akce s dopadem navenek stejně schvaluje člověk.
Vymyšlené údaje
Údaje agent bere ze systémů a dokumentů a u odpovědí uvádí zdroj. Co si neumí ověřit, označí a pošle člověku.
Únik dat
Minimální oprávnění, oddělení dat mezi odděleními podle práv a poskytovatelé modelů, kteří na vašich datech netrénují.
Chybná akce v systému
Zápisy nejdřív jako návrh nebo v testovacím prostředí, limity částek a schvalování. Každý krok jde zpětně dohledat.
Náklady, které utečou
Rozpočty na modely, limity počtu kroků a měsíční přehled nákladů zvlášť od paušálu.
AI Act a GDPR
Nejsme advokátní kancelář a právní radu nedáváme. Víme ale, na co se při nasazení agenta ptát, a v auditu to projdeme s vámi.
- AI Act zavádí povinnosti postupně a podle míry rizika. Většina firemních agentů nepatří mezi vysoce rizikové systémy.
- Některé povinnosti se týkají všech: například AI gramotnost lidí, kteří s AI pracují, a informování lidí, že komunikují s AI.
- Vysoce rizikové oblasti, třeba výběr a hodnocení zaměstnanců, řešíme zvlášť a s vaším právníkem.
- Pro GDPR uzavíráme zpracovatelskou smlouvu, data držíme v EU nebo u vás a agent vidí jen osobní údaje, které k práci potřebuje.
Na co se ptáte
Trénují se modely na našich datech?
Ne. Volíme poskytovatele a smluvní podmínky, při kterých se na vašich datech netrénuje, nebo lokální model, ze kterého data neodcházejí vůbec.
Může agent něco poslat ven bez schválení?
Jen tam, kde to sami povolíte – třeba potvrzení přijetí objednávky. Výchozí nastavení je, že vše, co odchází zákazníkovi nebo dodavateli, schvaluje člověk.
Kdo vidí záznamy běhu?
Lidé, které určíte, a my pro účely provozu a podpory podle smlouvy. Jak dlouho se záznamy drží, domluvíme podle vašich pravidel a GDPR.
Dostaneme podklady pro posouzení dodavatele?
Ano. Na požádání pošleme popis bezpečnostních opatření, architekturu nasazení a návrh zpracovatelské smlouvy. Stačí to napsat do formuláře konzultace.
Jak je to s AI Actem?
AI Act zavádí povinnosti postupně a podle míry rizika. Firemní agenti na faktury, objednávky nebo e-maily obvykle nepatří mezi vysoce rizikové systémy. V auditu projdeme, co se týká vašeho použití, a citlivé oblasti řešíme s vaším právníkem.
Proberte bezpečnost s námi dřív, než cokoli spustíte
Na konzultaci projdeme dva nebo tři procesy, kde vás rutina stojí nejvíc času. Řekneme, kde agent dává smysl, jak by vypadal pilot – a upřímně i to, kde by nepomohl.
Nezávazná konzultace, 60 minut, online nebo u vás.
„Rád s vámi projdu, kde by vám agent ušetřil práci – a kde ne.“
Ing. Kamil Vašák, MBA, Balance Makers