Konec pentesterů? AI už dokáže hledat zranitelnosti, bez člověka ale stále riskuje

Cesta Petra Váchala k etickému hackingu začala nečekaně. Jako teenager si při stahování nelegálního softwaru nejprve zaviroval vlastní počítač. Místo pouhého strachu ho ale zaujalo, co škodlivý program dokázal. Později experimentoval s bezpečnostními nástroji a už v patnácti letech chtěl pracovat jako hacker pro centrální banku.

ees se penetračnímu testování věnuje profesionálně, je jesatelem společnosti BEMOP a podílí se také na projektu UnikDat.cz. Firmy si jej objednávají proto, aby se pokusil proniknout do jejich systémů dříve než skuteční útočníci.

Pentest není jen automatický sken

Penetrační testování bývá někdy zaměňováno s automatickým vyhledáním známých zranitelností. Skutečný pentest ale podle Váchala vyžaduje pochopení celého prostředí a schopnost spojit několik zdánlivě méně závažných problémů do jedné útočné cesty.

Útočník může nejprve získat běžný uživatelský účet, následně se přesunout na další zařízení, zvýšit si oprávnění a nakonec ovládnout kritickou část infrastruktury. Samostatně nemusí žádný z těchto kroků znamenat úplnou kompromitaci firmy. Nebezpečný je až jejich řetězec.

„Většinou je to tak, že firma zanedbala několik kroků. Pokud je nezanedbá a bude každý z nich monitorovat, může útoku do velké míry předejít,“ říká Petr Váchal.

Před začátkem testování proto musí být přesně stanoven jeho rozsah a pravidla. Firma se s pentestery domluví, které systémy mohou testovat, jaké metody smějí použít a zda existují provozní omezení.

Výsledkem není pouze seznam technických nálezů, ale také popis jejich skutečného dopadu a doporučení k nápravě.

Právě kontext je podle Váchala zásadní také při hodnocení závažnosti zranitelností. Stejná chyba může v různých prostředích představovat rozdílné riziko podle toho, jaké další ochranné mechanismy firma používá a kam se přes ni může útočník dostat.

Útok často začíná ukradeným heslem

Ačkoliv pravidelně vznikají nové technické zranitelnosti, jedním z nejčastějších vstupních bodů zůstávají uživatelské identity. Lidé stále používají stejná nebo podobná hesla ve více službách a přihlašovací údaje z dřívějších úniků mohou fungovat také ve firemním prostředí.

„Dnes je dostat se někam při penetračním testu vyloženě přes technickou neopatchovanou zranitelnost spíše rarita. Nejčastější jsou problémy ve správě uživatelských účtů a úniky přístupových údajů,“ upozorňuje Váchal.

Pentesteři proto před útokem zjišťují veřejně dostupné informace o organizaci, jejích doménách, adresách a zaměstnancích. Součástí přípravy může být také kontrola uniklých přihlašovacích údajů na veřejném internetu nebo darknetu.

Právě z této potřeby podle Váchala původně vznikl projekt UnikDat.cz. Nejprve sloužil jako interní nástroj pro automatizaci průzkumu před pentesty, později se proměnil ve službu, která upozorňuje firmy na nalezená hesla, tokeny a další uniklé údaje spojené s jejich zaměstnanci.

AI pentester už není sci-fi

Umělá inteligence dnes dokáže ovládat bezpečnostní nástroje, analyzovat jejich výstupy a samostatně provádět některé kroky útoku. Ve veřejně dostupných ukázkách už AI agenti zvládají bez podrobného vedení překonávat cvičné systémy.

Zatím však mají zásadní omezení. Jejich aktivita bývá v síti velmi hlučná, hůře pracují s širším kontextem a nemusí správně posoudit dopad svých kroků na reálný provoz. To, co funguje v bezpečnostním laboratorním prostředí, by ve firmě mohlo způsobit výpadek nebo poškodit data.

Při použití AI agentů proto musí podle Váchala zůstat člověk součástí rozhodovacího procesu.

„Pokud dám agentovi veškerá a neomezená práva, aby si dělal, co chce, je to za mě špatně. A netýká se to jen pentestingu, ale AI agentů obecně.“

Kritické operace by neměl agent schvalovat sám sobě pouze na základě instrukce v systémovém promptu. Oprávnění, dostupné nástroje i schvalování jednotlivých kroků musí být oddělené technicky.

BEMOP si proto pro penetrační testování vytváří vlastní agenty s omezenými pravomocemi. AI v tomto případě funguje jako nástroj, který zrychluje analýzu a rutinní činnosti, zatímco pentester kontroluje postup a schvaluje rizikové operace.

Testování může být levnější a častější

Automatizace podle Váchala neznamená, že firmy přestanou pentestery potřebovat. Může ale výrazně snížit množství ruční práce a tím také cenu bezpečnostního testování.

To by mohlo změnit způsob, jakým firmy pentesty objednávají. Místo jednorázové kontroly jednou za rok nebo za dva roky by mohly testování opakovat každý kvartál. Dalším krokem mohou být průběžné pentesty, při kterých je infrastruktura kontrolována cyklicky po celý rok.

„Myslím si, že firmy nebudou dělat pentesty jednou ročně nebo jednou za dva roky, jako je tomu dnes. Díky AI si je budou moci dovolit třeba jednou za čtvrt roku,“ předpokládá Váchal.

Častější testování by zároveň řešilo jeden z problémů současné praxe. Některé organizace si pentest objednají pouze kvůli splnění regulatorního nebo auditního požadavku, ale nalezené zranitelnosti následně neodstraní.

Při dalším testu se pak mohou objevit stejné kritické chyby jako před několika lety.

Pentesteři nekončí, musí se ale přizpůsobit

Nástup AI podle Váchala neznamená konec etických hackerů ani lidí hledajících chyby v bug bounty programech. Promění ale nástroje, se kterými pracují, a rychlost, jakou dokážou systémy testovat.

Pentester stále potřebuje rozumět sítím, operačním systémům, identitám i principům jednotlivých útoků. Bez těchto znalostí nedokáže spolehlivě rozpoznat, kdy AI postupuje chybně nebo navrhuje nebezpečné řešení.

To platí také pro začínající bezpečnostní specialisty. Umělá inteligence může převzít část rutinních úkolů, ale obor se bez nové generace odborníků neobejde.

„Bez juniorů nejsou senioři,“ připomíná Váchal.

Rozhodující proto nebude jednoduchý souboj člověka s umělou inteligencí. Výhodu získají lidé, kteří spojí vlastní zkušenosti, kreativitu a znalost prostředí s rychlostí automatizovaných agentů.

„Pentesteři, kteří budou pracovat s AI, nahradí ty pentestery, kteří s ní pracovat nebudou.“

Rozhovor vznikl jako placená spolupráce se společností BEMOP.