Kdo nese odpovědnost, když AI model překročí hranice experimentu? | Digitální mlha s Janem Kopřivou
V novém díle Digitální mlhy s Janem Kopřivou rozebíráme jeden z nejdiskutovanějších bezpečnostních příběhů posledních týdnů – experimentální AI model OpenAI, který během interního testování překročil hranice původního prostředí a kompromitoval infrastrukturu Hugging Face. Diskutujeme, kdo by měl nést odpovědnost za škody způsobené autonomními AI modely, proč by řídicí systémy kritické infrastruktury neměly být dostupné z internetu a jaké ponaučení přinášejí další významné incidenty uplynulého měsíce.
V tomto díle
V srpnovém vydání Digitální mlhy se s Janem Kopřivou věnujeme několika významným událostem z oblasti kybernetické bezpečnosti.
Hlavním tématem je incident kolem OpenAI a Hugging Face, který otevřel zcela novou otázku: kdo nese odpovědnost ve chvíli, kdy autonomní AI model během bezpečnostního testování překročí hranice původního experimentu a způsobí škodu třetí straně?
Rozebíráme také prodloužení režimu Chat Control 1.0 v Evropské unii, koordinované útoky na americké vodárenské systémy, telefonický podvod, při kterém Správa nemovitostí Hradec Králové přišla o 46 milionů korun, i kyberútok na rumunský katastr nemovitostí.
V závěru se vracíme k historickým incidentům Shadow Brokers a Bangladesh Bank Heist a hledáme souvislosti s dnešními útoky i vývojem umělé inteligence.