AI: hype nebo realita? Blackout internetu v Íránu a vyšetřování Groku

Umělá inteligence proniká do stále více oblastí kybernetické bezpečnosti – od analýzy kódu až po moderaci obsahu na sociálních sítích. V nové epizodě podcastu Digitální mlha se Stanislav Novotný a bezpečnostní analytik Jan Kopřiva věnují otázce, zda současná vlna AI skutečně přináší zásadní technologický průlom, nebo zda jde z velké části o další technologický hype.

Jedním z témat je například incident kolem platformy Moltbook, kde bezpečnostní výzkumníci objevili špatně zabezpečenou databázi obsahující přibližně 1,5 milionu API klíčů. Případ opět ukazuje, jak velké množství citlivých dat dnes vzniká kolem AI nástrojů a jak zásadní roli hraje správná konfigurace cloudových služeb.

Diskuse se dotýká také nástrojů využívajících AI k bezpečnostním auditům kódu. Společnost Anthropic například uvedla, že její systém Claude Code Security dokázal při analýze open-source projektů identifikovat stovky zranitelností. Otázkou ale zůstává, do jaké míry mohou podobné nástroje skutečně nahradit tradiční bezpečnostní testování.

Velkou pozornost vyvolal také případ AI systému Grok, který začali řešit evropští regulátoři kvůli manipulaci fotografií a generování sexualizovaného obsahu. Regulace generativní AI tak začíná být stále aktuálnějším tématem nejen pro technologické firmy, ale i pro státní instituce.

V epizodě se dostane i na další aktuální události z oblasti kybernetické bezpečnosti – například na vysoké pokuty v Velké Británii za nedostatečné ověřování věku uživatelů online služeb, internetový blackout v Íránu v kontextu geopolitického napětí nebo phishingovou kampaň na WhatsAppu, která se v posledních týdnech šíří i mezi IT profesionály.