Bedrijven hebben AI hard nodig om AI-risico’s te beperken

Voorzitter van de Europese Commissie Ursula von der Leyen wil graag een mondiaal adviesorgaan oprichten dat gaat nadenken over de kansen en risico’s van kunstmatige intelligentie (AI). Als je kijkt naar cyberbeveiliging en AI, hangen deze nauw met elkaar samen. “Ironisch genoeg moeten bedrijven vertrouwen op AI om de risico’s die door AI ontstaan te kunnen inperken”, zegt Pieter Jansen van Darktrace.

Mensen gaan er niet op verantwoorde manier mee om

Jansen Senior Vice President of Cyber Innovation bij Darktrace, hierover: “Mensen zijn in 2023 wereldwijd massaal gaan experimenteren met generatieve AI-tools zoals ChatGPT. Uit onze eigen data blijkt dat 74 procent van onze actieve klantimplementaties werknemers hebben die generatieve AI-tools gebruiken. Generatieve AI is zeer toegankelijk en intuïtief. En daarin schuilt ook het gevaar dat mensen er niet op een verantwoorde manier mee omgaan.”

Informatie van gebruikers gebruikt in output

Jansen waarschuwt voor het gebruik van de data van gebruikers zelf: “Alle informatie die ze invoeren in hun “prompts” (de opdrachten; vragen en instructies die mensen invoeren in ChatGPT) wordt opgeslagen in de datasets van het bedrijf van de tool. Met die gegevens traint het onderliggende Large Language Model (LLM) van de AI zichzelf, waardoor het steeds ‘slimmer’ wordt. En als gevolg daarvan kan het die informatie ook gebruiken in output voor andere mensen.”

Verlies van intellectueel eigendom

“We zagen iemand bij een van onze klanten proberen meer dan 1 GB aan data te uploaden naar generatieve AI. Dat wisten we op tijd te verhinderen. Wanneer iemand bijvoorbeeld privacygevoelige informatie van zijn of haar werkgever invoert zonder dat diegene zich daarvan bewust is, ontstaat het risico op verlies van intellectueel eigendom, en datalekken”, zegt Jansen.

Door AI gestuurde beveiligingsoplossing

Bedrijven moeten volgens Jansen daarom beschikken over een door AI gestuurde beveiligingsoplossing om het interne gebruik van generatieve AI-tools door medewerkers te monitoren en, indien nodig, erop te reageren. Zo kunnen medewerkers de kansen die AI hen biedt benutten, zonder dat bedrijven zich zorgen hoeven te maken over de potentiële beveiligingsrisico’s.