ROZHOVOR: Pandemie urychlí digitalizaci, ale jak je to s jejím zabezpečením?

Díky dostupnosti technologií mohou útočníci levněji škálovat a tudíž je pro ně motivující dělat i drobné online podvody, pokud se dají neomezeně opakovat, říká jeden ze zakladatelů společnosti Resistant AI Jan Doubek.

Jaké jsou nyní nejčastější případy manipulace s umělou inteligencí?

Podle nás nejde o míru četnosti ale spíše o míru škodlivosti manipulace. Pokud se někdo záměrně rozhodne manipulovat s umělou inteligencí, nemusí ještě nutně škodit. AI používaná vyhledávači nebo algoritmy pro výběr viditelného obsahu bývá manipulována velmi často. Na druhou stranu pokud manipuluji vstupy automatického rozhodovacího procesu, abych dostal výhodu na úkor firmy, co tento proces nasadila, tak tam už je viditelná bolestivá ztráta, i když případů manipulace není tolik. Klíč je v tom je co nejdříve úspěšně odhalit a umět jim předcházet. 

Hrozí, že vzhledem ke koronaviru a přesunu mnoha aktivit do světa internetu tyto útoky mohou nejen růst, ale být i úspěšnější?

Tempo automatizace se i vzhledem ke koronaviru zrychluje. Firmy se snaží nahrazovat automatizovatelné či byrokratické procesy výpočetní silou. A inovace se nevyhnula ani podvodným protistranám. Díky dostupnosti technologií mohou útočníci levněji škálovat a tudíž je pro ně motivující dělat i drobné online podvody, pokud se dají neomezeně opakovat.

Útočí se na banky, e-shopy nebo třeba nemocnice. Lze ale podobným způsobem manipulovat s umělou inteligencí, kterou používají třeba průmyslové firmy?

Tady bych se opět zaměřil na výnosovou stranu podvodu. Pokud bude existovat někdo, kdo bude z podvodu benefitovat, pak se o něj pokusí. A záleží jen na míře zabezpečení dané umělé inteligence, jestli bude úspěšný. Z naší zkušenosti například vidíme interní podvody s manipulací logistických objednávkových systémů na základě falešných dokumentů. Automatický systém zpracuje objednávku náhradních dílů pro servisní středisko a díly objedná a dodá. A pokud firma nemá správně nastavené kontroly procesů a funkční systém řízení rizik, může docházet k tomu, že zaměstnanec může dále s těmito díly obchodovat a nikdo si toho nevšimne.

Čím vším se vlastně ve vašem startupu zabýváte?

Stavíme produkty pro zabezpečení automatických rozhodovacích systémů a tím se podílíme na prevenci a včasné detekci podvodů. Pod tím si můžeme představit například umělou inteligenci, která byla trénovaná pro poskytování úvěrů. Zde dokážeme identifikovat individuální i organizované podvody v jejich začátku, a tím firmě často ušetříme i značné náklady. Zaměřujeme se na ověřování pravosti vstupních dokumentů, popřípadě odhalování jejich manipulace či falzifikace. A dále v následném procesním toku odhalujeme podezřelé akce, které se vymykají standardnímu provozu. Pokud použiji příklad s náhradními díly, pak zaprvé zkontrolujeme žádosti, jestli je zaměstnanec podvodně neupravil, a za druhé pravidelně sledujeme, jestli dané servisní středisko neodebírá díly, které v reálu nemůže chtít.

Pro jaké zákazníky nyní primárně pracujete?

Zatím se zaměřujeme na fintech a finanční zákazníky a daří se nám nacházet potřebu chránit citlivé procesy proti manipulaci. Naším referenčním zákazníkem je Twisto Payments. Twisto vyvinulo velmi pokročilý inteligentní systém Nikita zaměřený na skórování rizika platebních operací. Řešení Resistant.AI je do systému těsně integrováno a odhaluje ty podvodné žádosti o půjčky, kdy má zákazník úmysl nezaplatit a proto se snaží zfalšovat informace, které jsou rozhodující pro schválení obchodu. Dále pracujeme pro české a mezinárodní finanční instituce, které jsou závislé na pdf dokumentech při hodnocení zákazníků.

Jste relativně nový startup, jaké jsou vaše cíle pro letošní rok?

Aktuální zákazníci potvrzují potřebu zabezpečovat své procesy. Černé ovce jsou v každém zákaznickém kmeni. Proto už víme, že naše řešení má na trhu své pevné místo. Rok 2020 chceme proto využít k rozšíření naší zákaznické báze. 

Jaká je vaše prognóza ohledně kyberbezpečnosti? Co bude v následujících 5 letech největší hrozba a jak vlastně tuto oblast ovlivní pandemie typu COVID-19?

Pandemie způsobí urychlení digitalizace, často může jít ale o překotnou implementaci umělé inteligence či automatizace. Při zavádění nových digitálních technologií v minulosti se častokrát bezpečnosti nevěnovala taková pozornost. Proto chceme našim partnerům pomoci při zabezpečování jejich moderních procesů. 



Další články k tématu: Rozhovory