AI er kommet buldrende ind i de danske virksomheder gennem det seneste år, men ifølge to cybereksperter kan den nye teknologi også være et våben i hænderne på cyberkriminelle.
Den fagre nye AI-verden giver mange fordele og gode ting fra sig, men den kommer også med en indbygget problemstilling, hvis den kommer i hænderne på de forkerte.
Det kunne eksempelvis være hackere og andre cyberkriminelle, der gennem de senere år har angrebet Danmark og danske virksomheder i stor stil. Spørger man Helge Djernes, informationssikkerhedsekspert i sikkerhedsfirmaet Djernes & Diernaes, vil de kriminelle også tage AI til sig i deres arbejde.
“Da teknologien er godt på vej til at blive en hygiejnefaktor for alle, og en konkurrencefordel for udvalgte, kan vi være sikre på, at vores cyberkriminelle modstandere ihærdigt undersøger, hvordan teknologien bedst kan bruges imod os,” skrev han tidligere i Marketconnect.
Også Leif Jensen, it-sikkerhedsekspert i ESET Nordics, mener, at AI vil blive en hovedpine for alle dem, der prøver at holde hackerne ude af systemet. Ikke mindst den stigende deregulering af kunstig intelligens vil ifølge ham betyde en stigning af mængden af AI-genereret spam og scam.
”Vi forventer, at de cyberkriminelle vil gøre mere brug af små generative AI-modeller for at udgive sig for at være virkelige personer. Samtidig skal vi også forvente en kraftig stigning i deepfake-baserede falske online konti,” siger han.
Skal man holde de kriminelle ude af sine systemer, så er solid sikkerhed et godt sted at starte, men Helge Djernes slår også fast, at den enkelte medarbejder spiller en vigtig rolle i virksomhedens cyberforsvar.
“Medarbejdere indgå i processen for at godkende resultater og beslutninger, så det bliver vigtigt, at de ansatte er trænet i resultatvurdering og er opmærksomme på risiko for AI-hallucinering og fejlkonklusioner. Så træn medarbejdere, menige som ledende, i AI-teknologiernes væsen.”