|
Sophos, wereldwijd leider in innovatieve cyberbeveiliging ‘as a service’, heeft een nieuwe studie uitgebracht waarin gedetailleerd wordt beschreven hoe de cyberbeveiligingsindustrie GPT-3, het taalmodel dat ten grondslag ligt aan ChatGPT kunstmatige intelligentie, kan inzetten als copiloot om cyberaanvallen te helpen verijdelen. De studie, getiteld Applying AI Language Processing to Cyber Defenses, beschrijft projecten die door Sophos X-Ops zijn ontwikkeld met behulp van GPT-3’s uitgebreide taalmodellen om het zoeken naar kwaadaardige activiteiten in datasets van beveiligingssoftware te vereenvoudigen, spam efficiënter te filteren en de analyse van LotL(Living off the Land) binaire aanvallen te versnellen. |
|
« Sinds OpenAI afgelopen november ChatGPT onthulde, heeft de beveiligingsgemeenschap zich grotendeels gericht op de risico’s die deze nieuwe technologie met zich mee zou kunnen brengen. Kan AI would-be cyberaanvallers helpen malware te creëren of cyberoplichters helpen veel geloofwaardiger phishing e-mails te schrijven? Misschien, maar bij Sophos zien we AI al lang als een bondgenoot in plaats van een vijand van cyberverdedigingsteams. De beveiligingsgemeenschap moet zich niet alleen bewust zijn van de potentiële risico’s, maar ook van de potentiële kansen die GPT-3 biedt », aldus Sean Gallagher, senior bedreigingsonderzoeker bij Sophos. Sophos X-Ops-onderzoekers, waaronder Principal Data Scientist Younghoo Lee van SophosAI, werken momenteel aan drie prototypes om het potentieel van GPT-3 als hulpmiddel voor cyberverdedigingsteams aan te tonen. Alle drie vertrouwen ze op een techniek genaamd few-shot learning (FSL) om het AI-model te trainen met een klein aantal samples, waardoor er minder grote hoeveelheden vooraf geclassificeerde gegevens hoeven te worden verzameld. De eerste toepassing die Sophos heeft getest met FSL is een interface voor zoekopdrachten in natuurlijke taal om schadelijke activiteiten te filteren uit telemetrie van beveiligingssoftware, specifiek tegen zijn Endpoint Detection & Response(EDR)-product. Met deze interface kunnen cyberdefensieteams telemetriegegevens verkennen met behulp van basiscommando’s in gewoon Engels, zodat ze geen SQL of de onderliggende structuur van een database hoeven te beheersen. Ten tweede testte Sophos een nieuw spamfilter met behulp van ChatGPT en stelde vast dat het filter met GPT-3 in vergelijking met andere hiervoor gebruikte machine learning-modellen aanzienlijk betrouwbaarder was. Ten slotte konden Sophos-onderzoekers een programma maken dat het proces van reverse engineering van de commandoregels van LotL-binaire bestanden vereenvoudigt. Hoewel reverse engineering niet berucht is, is het van cruciaal belang om het gedrag van deze binaire bestanden te begrijpen en dit soort aanvallen in de toekomst te stoppen. « Een van de groeiende zorgen binnen operationele beveiligingscentra is de enorme hoeveelheid ‘ruis’ die binnenkomt. Er zijn simpelweg te veel meldingen en detecties om te sorteren, terwijl veel bedrijven beperkte middelen hebben. We hebben bewezen dat we met een tool als GPT-3 een aantal arbeidsintensieve processen kunnen stroomlijnen en waardevolle tijd kunnen vrijmaken voor cyberdefensieteams. We werken al aan de integratie van enkele van de bovenstaande prototypes in onze producten en hebben de resultaten van ons werk op onze GitHubrepository voor degenen die GPT-3 willen testen in hun eigen analyseomgeving. Wij denken dat GPT-3 zich in de toekomst wel eens zou kunnen ontwikkelen tot een gemeenschappelijke co-piloot voor beveiligingsdeskundigen, » besluit Gallagher. # # # Meer over…
|
