Digitale netværk risikerer i fremtiden at miste troværdighed, når AI-systemer opfatter og reagerer på tid forskelligt. AAU-professor Petar Popovski advarer mod ”falske sanseindtryk i realtid”.
Når intelligente systemer som AI begynder at interagere med hinanden i realtid, opstår en ny og kompleks udfordring: Hvordan sikrer vi, at de digitale netværk, som samfundet hviler på, leverer troværdig og tidsmæssigt korrekt information?
Det spørgsmål stiller professor Petar Popovski fra Aalborg Universitet i en artikel, der er publiceret i IEEE Spectrum – verdens største ingeniørmagasin med over 500.000 læsere. Artiklen er samtidig blevet anbefalet som en ”must read” af MIT Technology Review Newsletter.
-Når AI-systemer begynder at opfatte verden gennem egne sensorer og algoritmer, opstår der en risiko for, at de registrerer begivenheder i forskellig rækkefølge – og dermed skaber parallelle virkeligheder, fortæller Petar Popovski.
Popovski peger på, at fremtidens kommunikationsnetværk skal kunne håndtere situationer, hvor intelligente enheder er uenige om, hvad der skete hvornår. Ellers undermineres den tidsmæssige retssikkerhed, som er afgørende for alt fra trafikstyring til juridiske beviser og cybersikkerhed.
Et tænkt eksempel: Når AI skaber forvirring i virkeligheden
Forestil dig, at to selvkørende biler nærmer sig et vejkryds. Den ene bils AI-system registrerer en fodgænger og bremser – men den anden bil modtager forsinket eller manipuleret data og tror, at vejen er fri. Resultatet: en kollision, fordi de to systemer ikke er enige om, hvad der sker hvornår. Det er netop den slags tidsmæssige uenigheder, der kan opstå, når AI-systemer opfatter virkeligheden forskelligt.
Samtidig advarer Petar Popovski om, at AI i stigende grad vil kunne generere falske sanseindtryk i realtid – eksempelvis lyd, video og sensoriske data – som kan manipulere beslutningssystemer og skabe falske narrativer om virkeligheden.
-Vi bevæger os ind i et territorium, hvor digitale systemer ikke længere blot registrerer virkeligheden – de skaber den. Derfor skal vi designe netværk, der kan levere verificerbar og troværdig data, selv når AI er en del af kredsløbet, siger Popovski videre.
Ingen garantier
Popovski og hans forskergruppe arbejder på at udvikle modeller, der kan karakterisere og håndtere disse udfordringer. Målet er at sikre, at fremtidens kommunikationssystemer – herunder 6G – kan levere pålidelig information, selv i en verden hvor maskiner tænker hurtigere og anderledes end mennesker. I oktober annoncerede Nvidia, at selskabet investerer 1 mia. dollars i Nokia med det formål at integrere AI direkte i 6G-netværk, der skal kunne analysere og validere data i realtid.
-Vi kan ikke give fulde garantier med AI, kun statistiske. Men vi kan – og skal – designe netværk, der gør mest muligt for at understøtte troværdighed og tidsmæssig retssikkerhed, afslutter han.
Blå bog: Petar Popovski
Uddannet fra Ss. Cyril and Methodius University of Skopje i elektronik (1997) og telekommunikation (2000).
ph.d i trådløs kommunikation fra Aalborg Universitet (2004).
professor i kommunikationssystemer fra AAU siden 2015.
Forsker bl.a. i 6G-netværk, kvantekommunikation samt samspillet mellem AI og kommunikation.
Modtager af en række hædersbevisninger og udmærkelser, heriblandt EliteForsk-prisen (2016) samt modtager af flere internationale best paper awards (bl.a. IEEE Globecom og IEEE Communication Theory Workshop).
Kilde: Aalborg Universitet.
