Både virksomheder og softwareudviklere ser et enormt potentiale i GenAI som en vej til at understøtte udvikling, design og test af software. En ny rapport fra konsulentvirksomheden Capgemini viser, at 85 pct. af alle softwareprofessionelle vil arbejde med GenAI inden for de kommende to år. Men begejstringen for GenAI medfører allerede i dag oversete risici, påpeger Capgemini. Således anvender softwareudviklere i stor stil GenAI-redskaber, der ikke er autoriserede eller understøttet officielt af virksomhederne. Det udsætter virksomheder for både sikkerhedsmæssig og juridiske risici, fastslår rapporten.
63 pct. af softwareudviklere svarer i en ny, international undersøgelse fra Capgemini, at de anvender eller har benyttet uautoriserede GenAI-redskaber i deres arbejde. Dermed sætter undersøgelsen fokus på en overset risiko, der følger i kølvandet på den hastige fremmarch for GenAI inden for softwareudvikling.
En risiko, der ifølge Thomas Brun, direktør for management consulting i Capgemini Danmark, blandt andet hænger sammen med, at virksomheder er bagefter udviklingen i forhold til at etablere de nødvendige governance-rammer og uddannelsesprogrammer for GenAI.
-Vi kan se i rapporten, at flertallet af virksomhederne (61 pct.) i dag mangler at få etableret de nødvendige rammer, politikker og standarder for implementeringen af GenAI. Man kan sige, at de softwareprofessionelle naturligt inddrager de nye teknologier i deres arbejde, fordi mulighederne er der, men at virksomhederne halter bagefter. Men det kommer med en pris i form af en øget risiko i forhold til cybersikkerhed, datasikkerhed, etik, mv., forklarer han og tilføjer:
-Det vi ser i markedet herhjemme er, at kunderne i forvejen har en store udfordringer med AI i forhold til governance og sikkerhed. Herunder den nye EU-lovgivning, der stiller virksomheder og myndigheder overfor krav om dokumentation for, at man har styr på, hvilke typer af AI-redskaber man bruger, hvor mange der bruger de forskellige tools, og hvad de bliver brugt til. Her står mange over for et komplekst inventory check. Så det er altså i tillæg til de udfordringer, der allerede er ved den mere autoriserede brug af AI, at risikoen ved uautoriseret GenAI skal ses.
Funktionelle, sikkerhedsmæssige og juridiske risici
Den hurtige inddragelse GenAI-redskaber uden den nødvendige goverance og kontrol stiller virksomhederne over for funktionelle, sikkerhedsmæssige og juridiske risici, fastslår rapporten.
Ifølge Thomas Brun er funktionelle risici bl.a. relateret til troværdighed og korrekthed, videreførsel af potentiel bias i datagrundlag. Hertil kommer, at umodne sprogmodeller kan danne grundlag for, at endnu ukendte risici føres videre til de underliggende systemer i virksomheden.
De juridiske og sikkerhedsmæssige risici omfatter bl.a. uretmæssig brug af personlige data, brud på rettigheder, utilsigtet deling af data eller kode samt overtrædelse af virksomhedens etiske og kulturelle retningslinjer.
-GenAI er på rekordtid blevet en udbredt teknologi, der bistår softwareudviklere i deres arbejde. Det ser vi også herhjemme. Men selv om teknologien både øger effektiviteten i kodearbejdet og faktisk kan levere kvalitetskode, er det afgørende at huske på, at virksomheders reelle værdi ved GenAI ligger i en holistisk tilgang – ikke i en individuel og fragmenteret brug af nye, smarte løsninger. Det gælder også, når vi taler softwareudvikling, siger Thomas Brun.
-Så det er forretningens behov, der skal i centrum. Og det skal ske i en valideret og kontrolleret proces, der omfatter grundig governance, løbende træning og opkvalificering, sikkerheds- og rettighedskontrol, mv. Lige nu ser vi ifølge både i vores nye rapport og i markedet, at det er grundlæggende indsatser, der halter mange steder, siger han videre.
Kun to ud af fem har etableret uddannelse og træning
Kun to ud af fem af virksomhederne i Capgeminis undersøgelse har i dag etableret uddannelse og træning inden for GenAI. Det betyder bl.a., at medarbejderne ofte står alene med de nye teknologier. Og her ser man, at de softwareprofessionelle i høj grad tager hånd om deres egen læring og udvikling. I undersøgelsen svarer hele 69 pct. af softwareudviklere med lang erfaring, at de anvender eller har anvendt uautoriserede GenAI-redskaber. Blandt mere de mindre erfarne udviklere er tallet 55 pct.
Undersøgelsen viser dog også, at brugen af uautoriseret GenAI sker med bevidstheden om, at det kan have utilsigtede konsekvenser. To tredjedele af de adspurgte softwareprofessionelle svarer, at de er bevidste om risikoen ved at anvende uprøvet teknologi, og at kode skabt med uautoriserede GenAI-redskaber kan medføre kompliceret debugging, edge cases og bugs, der kan påvirke og potentielt true udviklingsprojekter.
Læs mere i rapporten her.
