AI-konsulent Lars Peter Jerichau deltager på mødet i Økonomi- og Erhvervsudvalget.

Formål med den supplerende sagsfremstilling:

Center for Job, Borgerservice og Teknologi har på baggrund af Byrådets beslutning på mødet den 26. januar 2026 udarbejdet denne supplerende sagsfremstilling.

Formålet er at belyse, hvad det i praksis vil kræve og betyde at indføre deklaration af AI-anvendelse i notater og oplæg til den politiske behandling, samt hvilke andre foranstaltninger administrationen vurderer i højere grad kan sikre lovlighed, kvalitet og tydelig ansvarsplacering i sagsbehandlingen.

Problemstilling:

Administrationen er enig i den problemstilling, der rejses i sagen. AI gør det muligt at generere tekster, der fremstår overbevisende, uden nødvendigvis at have den nødvendige faglige kvalitet. Det indebærer en reel risiko i sagsbehandlingen.

På den baggrund gennemgår administrationen, hvad en deklarationsordning i praksis vil kræve og betyde, og fremlægger samtidig de initiativer, der allerede er igangsat for at håndtere problemstillingen.

Deklarationer i praksis:

Administrationen fremlægger her en analyse af, hvad det vil kræve og betyde at implementere en deklarationsordning om AI genereret indhold i politiske sager.

3.1. Behov for begrebsafklaring

En deklarationsordning vil forudsætte, at der fastlægges en entydig definition af, hvornår AI anses for at være anvendt i en sag, notat eller oplæg.

Det vil blandt andet kræve stillingtagen hvilke typer anvendelse der er omfattet, fx:

·          sproglig støtte,

·          oversættelser,

·          strukturering,

·          formatering,

og om anvendelse af AI inden selve sagen skrives, også skal omfattes:

·          opsummering af andre tekster,

·          forslag til analyse,

·          idéudvikling/brainstorming,

·          udarbejdelse af udkast.

Skulle man lande på en solid afgræsning, vil det stadig efterlade tilfælde hvor det ikke kan fastslås, om AI har været anvendt i tidligere led eller i eksternt kildemateriale.

Administrationen vurderer at afgrænsningen vil i praksis bero på sagsbehandlerens skøn om hvordan, hvorvidt og hvornår AI er benyttet, og vil være vanskelig at gøre fuldt entydig.

3.2. Teknisk Implementering og kontrol

En deklarationsordning vil kræve etablering af nye tekniske løsninger i forbindelse med udarbejdelse af notater og oplæg. For at deklarationen skal kunne håndhæves, bør den implementeres via:

·          tekst i sagsfremstillingen

·          metadata i dokumentet

·          digital markering/“vandmærkning” af filen

Derudover bør man lave organisatoriske foranstaltninger om og hvordan en deklarationsordning håndhæves. Administrationen vurder at ordningen vil medføre øget teknisk og administrativt arbejde.

3.3. Begrænset effekt i forhold til kvalitetssikring

En deklaration, i sin bedste form, kan alene kun sige at AI har været anvendt, og kan ikke i sig selv være en garanti for kvaliteten af et notat eller oplæg. Den fortæller ikke noget sikkert om hvorvidt indholdet er korrekt, om det er tilstrækkeligt kvalitetssikret, eller om alle relevante forhold er belyst. Det betyder derfor at kvaliteten fortsat afhænger af embedsværkets faglige vurdering og kvalitetssikring. Administrationen vurderer på denne baggrund, at ordningen vil have begrænset, hvis nogen, effekt på sagernes kvalitet.

3.4. Risiko for ansvarsfraskrivelse og påvirkning af tillid

Kernen i den norske sag var, at et fejlbehæftet output blev sendt videre uden tilstrækkelig faglig kontrol. En deklaration ville ikke i sig selv have forhindret dette. En deklarationsordning ville kun have haft betydning, hvis den havde ført til ekstra kontrol i byrådet eller til, at sagen blev sendt tilbage til embedsværket på baggrund af deklarationen.

Det vil i praksis betyde, at materiale der er lavet med støtte fra AI vil blive behandlet med en reduceret grad af tillid end øvrigt materiale, selv om ansvaret for indhold og kvalitet er det samme.

En deklaration i sig selv gør heller ikke medarbejderen bedre i stand til at foretage den nødvendige faglige vurdering og kvalitetssikring. Den kan derfor flytte fokus fra kvaliteten af indholdet til spørgsmålet om, hvorvidt AI er anvendt, og kan i værste fald blive anset som ansvarsfraskrivelse i embedsværket.

3.5. Samlet vurdering af deklarationsordning i praksis

En deklarationsordning vil i praksis indebære:

·          behov for klare definitioner af, hvornår AI anses for anvendt

·          etablering af ny teknisk understøttelse og ny organisatorisk forankring

·          en portion af skøn om hvorvidt AI er anvendt eller ej

Samtidig vil en deklarationsordning:

·          ikke i sig selv styrke kvaliteten af sagen

·          ikke ændre på ansvaret for indhold og kvalitet

·          ikke reducere risikoen for fejl

Endelig vurderer administrationen, at en deklarationsordning:

·          kan påvirke tilliden til sagsbehandlingen

·          kan flytte fokus fra indhold og kvalitet til anvendelse af værktøj

På den baggrund vurderer administrationen, at en deklarationsordning har begrænset effekt i forhold til at sikre kvalitet i sagsbehandlingen. I følgende afsnit forelægger administrationen alternativer for at komme problemstillingen i møde.

4. Alternativer for at løse problemstillingen

Administrationen har i forvejen igangsat en række konkrete foranstaltninger, der skal sikre, at brugen af AI sker inden for lovgivningens rammer og med den nødvendige faglige kvalitet i sagsbehandlingen. Foranstaltningerne er beskrevet samlet i en konsekvensanalyse og omfatter i alt 27 tekniske, organisatoriske og faglige tiltag. Udarbejdelsen af konsekvensanalysen pågår stadig, hvorfor den p.t. kun foreligger som et udkast. Udkastet er vedlagt som bilag.

Samlet er det administrationens vurdering, at disse foranstaltninger understøtter en anvendelse af AI, hvor kvalitet, lovlighed og tydelig ansvarsplacering fastholdes.

Nedenfor fremhæves 5 af de 27 foranstaltninger, som vurderes at være særligt relevante for udarbejdelsen af politiske sager:

4.1 Kommunen stiller en centralt styret AI-platform til rådighed.

Kommunen stiller en fælles, centralt styret AI-platform til rådighed, som etableres i et kontrolleret teknisk miljø på kommunens egne servere. Platformen sikrer fælles rammer for datasikkerhed, adgangsstyring, godkendte modeller og fælles opsætninger, som understøtter ensartet og fagligt forsvarlig brug af AI og reducerer risikoen for fejl.

4.2 Obligatorisk kursus før adgang til AI-platformen

Medarbejdere får først adgang til AI-platformen, når de har gennemført og bestået et obligatorisk kursus i brugen af AI og kommunens gældende retningslinjer. Kurset er et e-læringsforløb, som er udarbejdet i samarbejde mellem administrationen og en ekstern leverandør.

4.3 Faglig vurdering lokalt før anvendelse

Inden AI tages i brug, skal hvert center gennemføre en lokal faglig vurdering af anvendelsen

inden for deres fagområde. Vurderingen godkendes af centerchefen og omfatter blandt andet, om der i praksis kan opretholdes kvalitet og overholde lovgivningen ved brug af AI.

4.4 Tydelig ansvarsplacering i både værktøj og praksis

Det tydeliggøres over for medarbejderen, at:

·          AI alene er et støtteværktøj

·          medarbejderen er ansvarlig for viderebringelsen og anvendelsen af output, således at det faglige ansvar fortsat påhviler medarbejderen

·          alle afgørelser fortsat træffes af en medarbejder

Dette fremgår både af retningslinjer, undervisning og direkte i AI-platformen ved brug.

4.5 Fælles AI-platform med logning og løbende opfølgning

AI anvendes via en fælles platform, hvor:

·          brugen samles i en kontrolleret ramme

·          aktivitet logges med henblik på kontrol og audit

·          anvendelsen kan følges og danne grundlag for målrettet kompetenceudvikling

Der gennemføres desuden løbende stikprøvekontrol og testcase-baseret opfølgning på anvendelsen.

Administrationen vurderer, at disse foranstaltninger samlet set er bedre egnede end en deklarationsordning til at understøtte kvalitet, lovlighed og ansvarlig brug af AI i sagsbehandlingen.

Indstilling:

Center for Job, Borgerservice og Teknologi indstiller,

at der ikke iværksættes et krav om at deklaration af AI-genererede tekster.