AI: aanvaller, verdediger en doelwit

Aanvalspotentieel

In de media komt vooral het aanvalspotentieel naar voren. Het gaat steeds vaker over AI-agents. Dat zijn toepassingen die een doel krijgen en vervolgens zelf stappen kunnen zetten om dat doel te bereiken. Ze kunnen informatie opzoeken, software gebruiken en op basis van het resultaat beslissen wat ze daarna doen.

Tijdens veiligheidstests met de nieuwste modellen van verschillende grote AI-aanbieders geraakten zo’n agents buiten hun bedoelde testomgeving en drongen ze binnen in systemen van andere bedrijven. AI-aanbieders gebruiken veiligheidsfilters om te voorkomen dat kwaadwillenden die mogelijkheden benutten, maar een garantie tegen misbruik bieden die niet.

AI kan ook helpen om nieuwe methodes te ontwikkelen waarmee aanvallers kwetsbaarheden in software misbruiken. Zodra een beveiligingsupdate beschikbaar is, onderzoeken cybercriminelen de wijzigingen om te achterhalen wat precies opgelost is. 

Sneller aanvallen op grotere schaal

Het grootste voordeel voor aanvallers zit misschien niet eens in zo’n complexe aanvallen, maar in een eenvoudige vorm van fraude en misleiding. Bedrijven gebruiken AI om processen te automatiseren en te verbeteren, en cybercriminelen ook. 

AI kan bijvoorbeeld een bedrijfswebsite en openbare informatie over medewerkers doorzoeken om een geloofwaardige phishingmail op te stellen. De mail bevat geen taalfouten meer, past bij de functie van de ontvanger en kan de schrijfstijl van een collega of leverancier nabootsen. Hierdoor kost het aanvallers veel minder tijd en moeite om op grote schaal spear phishing-campagnes op te zetten.

AI veilig uitrollen binnen je onderneming

AI is een doelwit op zich. Als je AI in je processen integreert, moet je dan ook de nodige maatregelen nemen om cyber- en datarisico’s te beperken. Breng in kaart welke AI-toepassingen gebruikt worden, welke gegevens ze verwerken en met welke systemen ze verbonden zijn. Vergeet AI-functies die deel uitmaken van bestaande software en AI-toepassingen niet. 

Beoordeel daarna per toepassing wat mis kan gaan. Een chatbot die teksten samenvat, brengt andere risico’s mee dan een agent die gegevens uit bedrijfssystemen ophaalt of zelfstandig handelingen uitvoert. De gevoeligheid van de gegevens, de toegang tot andere systemen en de mogelijke gevolgen van misbruik bepalen welke maatregelen nodig zijn. Geef AI-agents alleen toegang tot de gegevens en systemen die ze nodig hebben. 

Veilig omgaan met AI-toepassingen moet daarom absoluut deel uitmaken van je bredere cybersecurityaanpak. Veel bestaande maatregelen blijven ook in een AI-context uiterst relevant, denk aan toegangsbeheer, monitoring en procedures voor incidenten. Voor AI-toepassingen gelden daarnaast bijkomende aandachtspunten. Zo moeten bedrijven nagaan hoe externe leveranciers met hun gegevens omgaan en AI-tools testen op manipulatie en ongewenst gedrag.

Zorg ook voor een duidelijk beleid dat vastlegt welke AI-tools medewerkers mogen gebruiken en welke informatie ze ermee mogen delen. AI-tools die medewerkers op eigen initiatief gebruiken vallen immers vaak buiten het toezicht van de IT-afdeling. Veilige alternatieven aanbieden is belangrijk om ongecontroleerd gebruik tegen te gaan.

Hoe kan AI je helpen? 

AI helpt niet alleen om aan te vallen, maar ook om te verdedigen. De technologie helpt softwareontwikkelaars om fouten te zoeken in bestaande code, zoals recent in de programmeertaal PHP. Daarnaast kunnen AI-tools nieuwe code op beveiligingsproblemen controleren, nog voordat die in productie gaat.

Een tweede voordeel is de enorme hoeveelheid informatie die AI kan verwerken, bijvoorbeeld bij de dagelijkse monitoring. Netwerkverkeer, aanmeldingen en systeemlogs leveren veel meer gegevens op dan mensen kunnen doornemen. AI kan daarin afwijkingen zoeken en verdachte activiteiten signaleren, en verbanden leggen tussen losse gebeurtenissen die op zichzelf weinig betekenen, maar samen op een aanval wijzen.

Een derde voordeel is de analyse van malware. Verdachte software herkennen is één ding; begrijpen hoe die werkt, vraagt vaak veel specialistisch onderzoek. AI kan helpen uitzoeken hoe malware zich op een systeem nestelt, meer toegangsrechten probeert te krijgen en verbinding maakt met de aanvaller. 

Vriend of vijand? 

Het is geen eenzijdig verhaal: AI is aanvaller, verdediger én doelwit. AI maakt aanvallen gevaarlijker, maar geeft verdedigers ook meer mogelijkheden om er iets tegenover te zetten. Daarnaast wordt AI zelf een doelwit, nu steeds meer bedrijven AI-toepassingen in hun eigen processen inbouwen. Wat wel duidelijk verandert, is het tempo. Problemen vinden, aanvalscode ontwikkelen en bescherming voorbereiden gaan sneller. Voor bedrijven heeft dat gevolgen voor de manier waarop ze hun beveiliging organiseren en voor de tijd die ze hebben om te reageren. Je bedrijfskennis geeft je een belangrijk voordeel tegenover aanvallers. Weet hoe je systemen samenhangen, welk gedrag normaal is, welke gegevens gevoelig zijn en welke diensten onmisbaar voor de dagelijkse werking. 

AI verplicht je om je beveiliging anders te organiseren en sneller te reageren. Tegelijk helpt het je om dat werk efficiënter uit te voeren. Binnen een gelaagde beveiligingsarchitectuur kan AI bestaande maatregelen en menselijke expertise versterken. AI: Een zege of een vloek? Je aanpak maakt het verschil. 
 

Lees verder op cybersecurity-bites

Dit artikel is gebaseerd op het artikel van Pieter Philippaerts (KU Leuven) op de website cybersecurity-bites. Op die website vind je een kennisbank met artikels over verschillende aspecten van en trends in cyberbeveiliging. De auteurs zijn verbonden aan Vlaamse universiteiten en hogescholen.

Jouw bedrijf cyberweerbaar maken? 

Op vlaio.be/cybersecurity vind je informatie over hoe je zelf al aan de slag kan gaan, waar je advies en begeleiding vindt, en hoe je reageert bij een cyberincident.