Form factor: od dotazu v prohlížeči po autonomní agenty

Pět reálných způsobů, jak dnes lidi a systémy používají AI — a co se s bezpečnostním dohledem stane na každém z nich. Konkrétní úkol, konkrétní obrazovka.

Human in the loop No human present

— co se na každém stupni mění z pohledu dohledu a rizika

01 / 05

Procházet jde i klávesnicí: ← →

Web chat

Human in the loop Provedení: vzdálené

Prohlížeč, veřejný účet, žádná integrace na firemní data. Nejnižší bariéra vstupu — a taky nejméně viditelné pro firmu.

chatgpt.com

Support říká, že tenhle PowerShell v příloze e-mailu vypadá podezřele, umíš mi říct, co dělá?

powershell -nop -w hidden -enc JABjAD0AJwBoAHQAdABwADoALwAvADkAMwAuADEANwA4AC4A...

ChatGPT

Po dekódování jde o vzor stáhni-a-spusť: skript si vyžádá payload z externí IP a spustí ho v paměti. Tohle je typické pro droppery infostealerů. Bez dalšího kontextu nemůžu potvrdit záměr, ale doporučuju to nespouštět a nahlásit SOC.

Bezpečnostní úhel: rychlá a užitečná odpověď — ale úryvek z firemní pošty právě opustil perimetr přes osobní účet, bez DLP a bez záznamu, že se to stalo.

Desktop app

Human in the loop Vlastní TLS stack, čte lokální soubory

Claude Desktop / ChatGPT Desktop (Codex). Pořád jedna interaktivní session s člověkem u klávesnice — ale model teď sahá přímo na disk.

Desktop app

📄 firewall-export-1.txt 📄 firewall-export-2.txt 📄 segmentation-policy.pdf

Zkontroluj tyhle 3 exporty pravidel a najdi konflikty s naší segmentační politikou.

Assistant · čte lokální soubory

Pravidlo #212 povoluje provoz VLAN10 → VLAN40 — porušuje oddíl 3.2 politiky
Pravidlo #87 je duplicitní se záznamem v druhém exportu
2 pravidla bez vlastníka — navrhuji revizi při dalším review

Bezpečnostní úhel: soubory se čtou z disku uživatele, ne přes upload do prohlížeče — jiný povrch než web chat, i když je to pořád jedna schválená interakce.

Coding harness

Human in the loop (review PR) Repo kontext opouští endpoint

Claude Code a podobné TUI. Žádné GUI — jen terminál se shellem, gitem a psacím přístupem do repozitáře.

claude — zsh — 100×32

> Zkontroluj Terraform pro naše AWS security groups, najdi pravidla otevřená na 0.0.0.0/0 a otevři PR s opravou.

⏺ Prohledávám repozitář…

⏺ modules/network/sg.tf:44 — ingress 0.0.0.0/0:22 (SSH) RIZIKOVÉ

⏺ modules/network/sg.tf:61 — ingress 0.0.0.0/0:3389 (RDP) RIZIKOVÉ

⏺ Upravuji CIDR na corp rozsah, spouštím `terraform plan`…

⏺ plan: 2 to change, 0 to destroy OK

⏺ Otevřen PR #482 „Restrict SG ingress to corp CIDR“

Bezpečnostní úhel: kontrola se přesouvá ze sledování obrazovky na review pull requestu — dohled existuje, ale je asynchronní a snadno se přeskočí pod tlakem termínu.

Headless agent

No human present Drží API klíče, volá nástroje

Vlastní agent běžící jako služba na serveru v SOC. Nikdo se nedívá v reálném čase — spouští se sám na nové detekce.

soc-triage-agent.service — journalctl -f

02:14:07nová detekce: SIEM#88213 (podezřelý DNS tunneling)

02:14:09agent: obohacuji o threat-intel (VT, OTX)…

02:14:12agent: shoda s known C2 domain, confidence 0.91

02:14:13agent: izoluji endpoint přes EDR API…

02:14:14agent: otevírám ticket SOC-4471, přiřazuji L2

02:14:14hotovo — čeká na L2, žádný člověk zatím nezasahoval

Bezpečnostní úhel: dohled je jen zpětný, přes log a audit trail. Pokud agent udělá chybu ve 2 ráno, zjistíte to až ráno.

No-code / low-code platformy

No human present Provedení: cizí platforma → vaše infrastruktura

Tři různé cesty ke stejnému cíli — a tři různá místa, kde končí vaše odpovědnost za dohled.

n8n — workflow

Vizuální orchestrace

TRIGGERNová zpráva v phishing@

AI NODEKlasifikuj obsah

AKCEKaranténa přílohy

AKCESlack: upozornit SOC

Copilot Studio

Konverzační copilot

Je tenhle e-mail phishing?

SecOps Copilot

Odesílatel neodpovídá doméně dodavatele a odkaz vede mimo firemní rozsah. Doporučuji nahlásit.

📎 Security Policy #12

NahlásitIgnorovat

AWS Bedrock AgentCore

Spravovaný agent runtime

session: agentcore-guardduty-responder

finding: GuardDuty EC2 UnauthorizedAccess

tool_call: isolate-instance

iam_role: agentcore-exec-role

cloudtrail: action logged ✓

human_review: none

Bezpečnostní úhel: n8n běží na platformě mimo vaši síť, Copilot Studio žije ve vašem M365 tenantu, AgentCore jedná přímo ve vašem AWS účtu s reálnou IAM rolí. Stejná automatizace, tři různé hranice odpovědnosti.