Má být bezpečnostní řešení inteligentní?

Internet věcí včetně medicínských implantátů, zasíťované kritické průmyslové systémy nebo autonomní automobily, to jsou trendy, které kromě očividných přínosů vyvolávají i obavy z hlediska zabezpečení. K tomu se samozřejmě přidávají rizika spojená s provozem "klasických" systémů IT. Výdaje na bezpečnost v posledních letech rostou celkem stabilně bez ohledu na to, jak se jinak vyvíjí ekonomická situace.

Současně žijeme v době, kdy umělá inteligence zasahuje do stále více oblastí. Vůbec přitom nejde o takové speciální obory, jako jsou šachy (stávající nejlepší šachové programy ostatně nic na způsob umělé inteligence nevyužívají), aplikace umělé inteligence zvládají i běžnou konverzaci (Apple Siri, Microsoft Cortana, IBM Watson apod.) a celou řadu zdánlivě výlučně lidských dovedností.

Zajímavá otázka zní, nakolik jsou současné metody AI použitelné právě pro vývoj systémů zabezpečení, s důrazem na bezpečnost typických IT systémů. Názory se v tuto chvíli různí.

Analýza chování

Řada dodavatelů bezpečnosti IT deklaruje, že jejich systém využívá učení a díky tomu postupně zvyšuje svoji schopnost detekovat škodlivé aktivity. Úplně všichni dodavatelé pak tvrdí, že i když databáze škodlivých kódů (virové definice - signatury apod.) mají stále nezastupitelnou roli, škodlivé aktivity se detekují nejen na základě statické informace, ale hlavně podle podezřelého chování. Podvodný program například najednou začne šifrovat všechna data (ransomware) nebo se velké množství podnikových dat začne přesouvat na neznámé servery (průmyslová špionáž). Nicméně to, že bezpečnostní program detekuje takové aktivity, ještě zdaleka neznamená, že využívá i metody tradičně řazené do umělé inteligence.

Jednu z metod umělé inteligence představuje strojové učení. Laboratoř Computer Science and Artificial Intelligence Laboratory z MIT nedávno představila platformu AI Squared. Systém dokáže údajně při nízké úrovni falešných poplachů odhalit až 85 procent útoků (což nevypadá zrovna impozantně, ale samozřejmě záleží na metodice). Základní metodou výuky je prostě strojové učení, když program dostane o úspěšnosti své detekce reakci od lidského operátora. Učení/generování nových modelů probíhá prý mj. velmi rychle.

V souvislosti s metodami strojového učení je významné také to, že výpočetní výkon současného hardwaru umožňuje i výuku vícevrstvých neuronových sítí, kdy se počítače učí pracovat s lidskými pojmy, což umožňuje snadnou spolupráci s operátory, další zpracování takto generovaných dat i další učení systému.

Problémy teorie her

Na druhé straně spíše skeptický postoj k roli umělé inteligence v zabezpečení vyjádřil na nedávné výroční konferenci společnosti RSA její ředitel Amit Yoran. Podle jeho názoru je současná umělá inteligence výborně použitelná k řešení statistických, dobře definovaných, "uzavřených/omezených" problémů, jako je třeba Go, kde programy nedávno triumfovaly nad lidskými hráči - a na rozdíl od šachů zde byly použity metody umělé inteligence.

Yoran nicméně tvrdí, že strojovým učením vycvičíme neuronovou síť tak, aby ideálně reagovala pouze na minulé útoky. Bezpečnost, stejně jako třeba obchodování na burze, ale představuje hru, kde protistrany mění strategie. Tato hra navíc nemá předem definovaná pravidla (a tomu odpovídající stavový prostor), už jenom proto, že neustále vzniká nový software, hardware i služby, standardy i legislativa. Všechny útoky samozřejmě nejsou inovativní, takže dokonalá obrana proti minulým hrozbám má smysl, stoprocentní bezpečnost ale rozhodně nezajišťuje. Bezpečnostní průmysl by podle Yorana na AI přehnaně spoléhat neměl, a to i když je jinak strojové učení velmi perspektivní aplikace.

Na druhé straně - příliš jiných možností není, což s sebou nese i podnikatelské příležitosti. A tak se např. firma Cognitive Security, ve svých začátcích bezprostředně spojená s ČVUT Praha, stala součástí struktur společnosti Cisco. Cognitive Security nabízí síťové zabezpečení právě na bázi umělé inteligence a ze spolupráce mezi Ciscem a ČVUT vycházejí i další projekty tohoto typu. Minimálně z pohledu start-upů je tedy spojení umělé inteligence a zabezpečení zajímavé a představuje prostor otevřený pro inovace.

Článek byl publikován v ICT revue 6/2016.