Muligheder og risici

Det er efterhånden de færreste, der ikke har hørt om kunstig intelligens (AI). For mange – også for nogle af os, der arbejder med it – er AI et emne, man har respekt for. For det er ikke bare en smartere og hurtigere Office-pakke, og det er svært at overskue konsekvenserne af AI på længere sigt.

Nogle af os husker Terminator-filmene med Arnold Schwarzenegger i hovedrollen. Helt tilbage i 1984 blev et fremtidsscenarie præsenteret med nogle etiske overvejelser, der faktisk ikke er helt ved siden af virkeligheden. Skynet, som i filmene var supercomputeren, der forsøgte at tage magten fra menneskene, var så intelligent og altomfattende i sin kontrol, at menneskene var i fare. Ikke fordi computeren som sådan var ond, men fordi computeren vurderede, at menneskene var bedst beskyttet fra dem selv ved at slå dem ihjel.

Hele scenariet var i princippet ret godt set af forfatter-teamet, for AI fungerer på den måde, at computeren selvlærer. Den lærer ud fra kendt materiale, fx alt hvad der står på internettet, samtlige bøger, alt hvad der står på Facebook osv. Den lægger masser af variabler ind i output, og disse er baseret på fx demografi, historiske afgørelser i forsikringssager, juridiske afgørelser eller blot Facebook-kommentarer, hvor profilen analyseres mht. geografisk oprindelse, alder, køn, sygdomshistorie og meget mere. AI benytter enormt mange informationer til at tage beslutninger, og disse baseres ikke kun på ”kolde variabler”, blot fordi computeren kan læse mange informationer hurtigt, men AI lærer undervejs, afvejer og effektuerer beslutninger.

Og det er det sidste, altså beslutninger, der var omdrejningspunktet i Terminator-universet. Skynet-computeren passede bedst på mennesker ved at tage den overordnede kontrol, for det var angiveligt i vores interesse, når vi nu ikke kunne passe på os selv. AI har heldigvis indlagt bias, hvis funktion er at fungere som etiske pejlemærker. EU arbejder på direktiver og forordninger, som skal regulere, hvordan vi må bruge AI, og det er godt – og trygt!

Stort potentiale

AI's indvirkning på samfundet er allerede tydelig. Personlige assistenter som Siri og Google Assistant giver os information og hjælper os med opgaver. Sociale medier bruger AI til at tilpasse vores feeds og anbefale indhold. I erhvervslivet benyttes AI til at analysere store datamængder og træffe beslutninger. Inden for medicin og sundhedspleje hjælper AI med avancerede diagnosemetoder og behandlingsmuligheder.

Selvom AI i dag primært ses i form af afgrænsede værktøjer som fakturagodkendelse, bilagshåndtering osv., udvikler teknologien sig hastigt. Maskinlæring og såkaldt dyb læring gør det muligt for AI at lære og forbedre sig over tid, hvilket åbner for et væld af nye muligheder.

AI's potentiale er enormt. Vi kan forvente, at AI vil spille en større rolle i mange aspekter af vores liv. Inden for sundhedssektoren kan AI revolutionere diagnosticering og behandling ved at analysere genetiske data og medicinsk historik. Inden for transportområdet kan selvkørende biler og droner forbedre effektiviteten og sikkerheden. I uddannelsesøjemed kan AI tilpasse undervisningen individuelt til elever og gøre læringen mere engagerende. Inden for forretningsverdenen forventes det, at AI vil skabe nye forretningsmodeller og optimere arbejdsprocesser, og der kan opstå nye jobmuligheder inden for AI-udvikling og -vedligeholdelse. Samtidig kan nogle jobfunktioner blive automatiseret, hvilket alt andet lige vil kræve en omstilling af arbejdsstyrken.

AI’s anvendelsesmuligheder spænder bredt. Mange, særligt studerende, benytter AI som hjælp til at løse opgaver, og nogle bruger endda AI til at forfatte et afslag på kæresteanmodninger på Tinder. AI kan bruges til at skrive nye Thomas Helmig sange, og i den lidt mere måske kedelige og produktive ende kan AI helt afløse funktioner på arbejdsmarkedet; AI kan bidrage i logistik-afdelinger i forhold til at finde den optimale rute for en transportvirksomhed, løse opgaven med at placere gods på skibe, skrive markedsføringsmateriale baseret på læring fra lydoptagelser fra de seneste henvendelser fra kunder i virksomhedens kundeservice osv.

Udfordringer og bias i AI

Selvom AI har potentiale til at skabe positive ændringer, er der også udfordringer, der skal håndteres. Bias i AI-algoritmer er en bekymring. Hvis træningsdata er præget af fordomme eller diskrimination, kan AI-systemer generere uhensigtsmæssig gentagelse af sådanne data. For eksempel kan rekrutteringsalgoritmer favorisere visse persongrupper og undertrykke mangfoldighed.

Der er også risiko for at miste kontrol over AI-systemer. Når AI bliver mere kompleks og autonomt, kan det blive svært at forudsige, hvordan det vil reagere i forskellige situationer. Dette rejser spørgsmål om både ansvar og ansvarlighed.

AI og lovgivning: GDPR, NIS2 og fremtiden

EU har erkendt behovet for at regulere AI og beskytte borgernes rettigheder. GDPR er allerede et skridt i denne retning, idet det styrer, hvordan personlige data behandles. GDPR's principper om databeskyttelse, gennemsigtighed og samtykke er også relevante for AI-applikationer.

Network and Information Systems Direc­tive (NIS2) fokuserer på cybersikkerhed og beskyttelse af kritiske infrastrukturer. Idet AI bliver en integreret del af disse systemer, er det vigtigt at sikre, at AI-implementeringer er beskyttet mod angreb og sårbarheder.

Fremtidig lovgivning kan fokusere på specifikke områder som ansvarlighed, bias og autonomi. Der kan indføres krav om gennemsigtighed i AI-beslutninger og mekanismer til at håndtere bias. Regler for ansvar for skader forårsaget af AI-systemer kan også blive udviklet. På EU-plan arbejdes der med ’AI Act’, som netop skal regulere, hvordan virksomheder og myndigheder må implementere AI. Forordningen herom forventes endeligt vedtaget inden for 6-12 måneder til implementering i 2025 eller 2026.

Konklusion

AI's påvirkning på vores samfund er allerede mærkbar, og dens potentiale er stort. Mens AI kan bringe positive forandringer, er det vigtigt at tackle udfordringer som bias og manglende kontrol. EU-lovgivning som GDPR, NIS2 og den kommende ’AI Act’ skaber en ramme for regulering af AI, men fremtidig lovgivning vil blive nødvendig for at adressere de specifikke udfordringer og muligheder, som AI bringer med sig.

Med den rette balance mellem teknologisk innovation og etiske overvejelser kan AI blive en kraftfuld ressource for samfundet. Og så må vi bare sætte vores lid til, at Skynet ikke bliver en realitet.