Investigace

Napsat text cizím stylem a pak ho hlasem oběti i přečíst. Podobný úkol lze dnes provést spojením několika nástrojů založených na umělé inteligenci. Je tak možné podvrhnout nahrávku, v níž hlasem údajného mluvčího přesvědčivě zazní věci, které však nikdy neřekl. Jedná se o takzvaný deepfake (volně přeloženo jako naprostý podvrh, pozn. red.), tedy audio a video obsah, jenž byl vytvořen či upraven tak, aby realisticky ukazoval událost, která se nikdy nestala.

„Přečti si cizí text, zanalyzuj slabiny jeho autora a poté napiš podvodný mail, na který autor nejspíš klikne.“ Zhruba takové bylo zadání v rámci experimentu, jímž redakce investigace.cz ověřovala, jak reálné jsou obavy odborníků ohledně snadno dostupných generativních modelů umělé inteligence, které by mohly sloužit k manipulaci s lidmi. Podvodníci, kyberzločinci nebo dezinformátoři by díky takovým nástrojům mohli svou „práci“ jednoduše automatizovat, …

Pervitin si podle návodu od umělé inteligence neuvaříte, podvodný e-mail vám ale AI naformuluje dobře. Naše testování dostupných modelů umělé inteligence ukázalo, že v generování detailních technických návodů pro nelegální aktivity většinou selhávají. V sociálním inženýrství, jako je phishing nebo propagandistický obsah, si však vedou dobře. V druhém dílu seriálu Testování hranic AI analyzujeme konkrétní odpovědi, které by mohly napomáhat trestné nebo …

Lze použít dostupné modely umělé inteligence k domácí výrobě drog nebo třeba k napsání programu, který vám pak pomůže z lidí podvodně vylákat peníze? Odpověď zní ano. Modely se ale ve svém potenciálu napomáhat zlu různí, a to nejen co se týče ochoty odpovědět, ale také kvality odpovědi. V našem seriálu jsme se rozhodli nejprve podrobně prozkoumat, jaké možnosti z celé škály trestné činnosti nabízí zejména takzvaná generativní AI, kterou je třeba ChatGPT.

Málokdo drží krok s dobou tak jako zločinci a podvodníci. Jak se dozvíte v dnešním #zesvěta, k podvodům už byla zneužita i generativní umělá inteligence. Mimo to ozřejmíme, čím se poslední dobou na internetu baví mladí lidé a proč se jejich zábava moc nelíbí americké armádě. Nakoukneme ale i do strastí a slastí každodenního života v daňových rájích a poradíme, co dělat, pokud opravdu toužíte po tom zásobovat ruskou armádu.

Vláda Petra Fialy deklarovala boj s dezinformacemi jako jednu ze svých priorit, zatím ale stále tápe, jak tento boj vést. Možná jí v tom pomůže umělá inteligence. Ve svém úsilí začala vláda tím, že podpořila blokování konspiračních a dezinformačních webů. Poté byl zřízen a pár měsíců nato zase zrušen post zvláštního zmocněnce pro tuto oblast. V únoru se jeho agenda přesunula pod křídla poradce pro národní bezpečnost Tomáše Pojara, který přiznává, že neumí …