Den virkelige debat om AI: menneskelig overvågning er uundværlig

Den offentlige debat om kunstig intelligens (AI) går ofte tabt i ekstremer: eufori med total automatisering eller frygt for at erstatte fagfolk. Den virkelige hastende karakter ligger imidlertid i menneskelig overvågning. AI-modeller, baseret på sandsynligheder, har iboende fejlmargener, men bruges i stigende grad i kritiske sammenhænge, fra økonomi til sundhed, uden ordentlig kuration. Denne praksis er ikke kun risikabel, den er teknisk fejlagtig. Uden streng validering kan blind tillid til AI føre til alvorlige fejl, med etiske, juridiske og operationelle virkninger. Menneskelig overvågning er ikke et tilbehør: det er grundlaget for en ansvarlig og bæredygtig brug af teknologi.

Grænserne for AI er tydelige i praktiske applikationer.En undersøgelse fra Stanford University og GitHub Copilot (2023) afslørede, at 45% AI-genereret kode præsenterer sårbarheder eller overtræder god udviklingspraksis. Selv når AI ser ud til at virke, fortsætter spørgsmålene: løsningen er muligvis ikke sikker, opfylder muligvis ikke regulatoriske standarder og stemmer muligvis ikke overens med forretningsmål. Uden strenge tests og kontinuerlige valideringer vil ethvert svar blot være gætværk.

Troen på AI-ufejlbarhed er drevet af kommerciel diskurs og urealistiske forventninger, men ignorerer en grundlæggende sandhed: Teknologi afhænger af mennesker til at fortolke, justere og korrigere sine output. I regulerede sektorer, såsom den juridiske, kan fraværet af tilsyn overtræde love som den generelle databeskyttelseslov (LGPD), som kræver gennemsigtighed i automatiserede beslutninger. Ifølge McKinsey (2023) synes få virksomheder at være fuldt forberedt på den udbredte brug af GenAI, eller mere præcist på de risici, som disse værktøjer kan bringe til erhvervslivet. Kun 21% af respondenter, der rapporterede vedtagelsen af kunstig intelligens til at formidle retningslinjerne for brugen af sundhedspleje, der har misinformation, vejleder deres organisationer.

Troen på, at kunstig intelligens er ufejlbarlig, afspejler en forvrængning, der er drevet af både forretningsdiskurs og urealistiske forventninger, og manglen på fagfolk er også kritisk, i en nylig undersøgelse foretaget af konsulentfirmaet Bain & Company i Brasilien, 39% af ledere citerede fraværet af intern ekspertise som den vigtigste barriere for at fremskynde implementeringen af generativ AI, overvinde selv bekymringer om datasikkerhed. 

Det er ikke et spørgsmål om at benægte de fremskridt inden for teknologi, som er væsentlige, men om at erkende, at det stadig afhænger af, og vil fortsætte med at afhænge af, fagfolk, der er i stand til at fortolke, justere og, når det er nødvendigt, korrigere deres output. Især i regulerede eller høj-impact sektorer, såsom finansielle, juridiske eller sundhed, fraværet af teknisk og etisk tilsyn kan generere alvorlige, juridiske og operationelle konsekvenser. Brass-undersøgelsen beviser denne mangel, Brasilien danner kun 53 tusind it-fagfolk om året, mens efterspørgslen mellem 2021 og 2025 vil have brug for i alt 797 tusind talenter.

Globale initiativer peger på måder til forbedringer FN-metoden til etisk brug af AI anbefaler menneskelig tilsyn på tværs af hele systemets livscyklus, fra design til drift. Virksomheder som Salesforce illustrerer dette i praksis: deres Einstein-platform bruger etiske udvalg til at revidere algoritmer.Denne tilgang viser, at tilsyn ikke kun er teknisk, men også strategisk, hvilket kræver gennemsigtighed, ansvarlighed og investering i kapacitetsopbygning.

AI har magten til at omdanne industrier, men uden menneskelig tilsyn overskygges dets potentiale af etiske, juridiske og operationelle risici. Sager som økonomisk bedrageri og mulige medicinske fejl viser, at blind tillid til teknologi er uholdbar, mens eksempel som Salesforce beviser, at robust styring kan maksimere fordele og minimere fejl. Inden 2025 bør AI-debatten prioritere tilsyn som en søjle for ansvarlig innovation, der står over for udfordringer som omkostninger, talentmangel og kulturel modstand. Ledere, virksomheder og regulatorer har et ansvar for at bygge systemer, der kombinerer AI's magt med menneskelig følsomhed, hvilket sikrer, at teknologien forstærker fremskridt, ikke problemer.