Opatrné zavádění AI agentů
Nejdřív malý úkol, potom širší zapojení
Co to znamená a jaké je riziko
AI agent může podle svého nastavení kromě odpovědi také pracovat s nástroji a provádět úkony. Širší přístup a vyšší samostatnost zvyšují dopad případné chyby nebo manipulace.
Jak to může vypadat ve firmě
Firma chce, aby agent zpracovával nové poptávky. Místo okamžitého odesílání nabídek může nejprve připravovat návrhy ze schválených podkladů; obchodník jejich obsah i příjemce před odesláním zkontroluje.
Co může firma udělat
- Vyberte jednu činnost s omezeným dopadem a určete jejího odpovědného vlastníka.
- Sepište, k jakým systémům a údajům agent opravdu potřebuje přístup a jaké akce smí provádět.
- Před nasazením vyzkoušejte chyby, nejasná zadání a neobvyklé situace; pro citlivé kroky nastavte schválení.
- Sledujte provoz, pravidelně kontrolujte přístupy a mějte připravený způsob, jak agenta zastavit.
Zdroj a další čtení
Text je vlastní české vysvětlení inspirované následujícím odborným zdrojem. Příklad je ilustrační.
NCSC: Thinking carefully before adopting agentic AI ↗