'Bedrijven hebben AI hard nodig om AI-risico’s te beperken'

Dit is een expertquote van Pieter Jansen, Senior Vice President of Cyber Innovation, Darktrace

U kunt dit bericht, of delen hiervan gebruiken op uw kanalen, met vermelding van de naam van de expert en organisatie. Aanleiding: Von der Leyen stelt adviesorgaan over AI voor op G20-top

Ursula von der Leyen, de voorzitter van de Europese Commissie, wil graag een mondiaal adviesorgaan oprichten dat gaat nadenken over de kansen en risico’s van kunstmatige intelligentie (AI). Als je kijkt naar cyberbeveiliging, hangen deze nauw met elkaar samen. Ironisch genoeg moeten bedrijven vertrouwen op AI om de risico’s die door AI ontstaan te kunnen inperken.

Mensen zijn in 2023 wereldwijd massaal gaan experimenteren met generatieve AI-tools zoals ChatGPT. Uit onze eigen data blijkt dat 74 procent van onze actieve klantimplementaties werknemers hebben die generatieve AI-tools gebruiken. Generatieve AI is zeer toegankelijk en intuïtief. En daarin schuilt ook het gevaar dat mensen er niet op een verantwoorde manier mee omgaan.

Alle informatie die ze invoeren in hun "prompts" (de vragen en instructies die mensen invoeren in ChatGPT) wordt opgeslagen in de datasets van het bedrijf van de tool. Met die gegevens traint het onderliggende Large Language Model (LLM) van de AI zichzelf, waardoor het steeds ‘slimmer’ wordt. En als gevolg daarvan kan het die informatie ook gebruiken in output voor andere mensen.

We zagen iemand bij een van onze klanten proberen meer dan 1 GB aan data te uploaden naar generatieve AI. Dat wisten we op tijd te verhinderen. Want wanneer die persoon bijvoorbeeld privacygevoelige informatie van zijn of haar werkgever invoert zonder dat diegene zich daarvan bewust is, ontstaat het risico op verlies van intellectueel eigendom en datalekken.

Bedrijven moeten daarom beschikken over een door AI gestuurde beveiligingsoplossing om het interne gebruik van generatieve AI-tools door medewerkers te monitoren en, indien nodig, erop te reageren. Zo kunnen medewerkers de kansen die AI hen biedt benutten, zonder dat bedrijven zich zorgen hoeven te maken over de potentiële beveiligingsrisico's.