Hvad domstolen i München faktisk afgjorde
I årevis var antagelsen, at en AI-assistent blot fremhævede det, der allerede lå på nettet, og at ansvaret forblev hos den oprindelige kilde. Landgericht München afviste det. Domstolen fastslog, at Googles AI Overviews genererer selvstændige, nye, substantielle udsagn ved at vurdere og kombinere tredjeparts indhold, og at kun Google kan kontrollere disse udsagn, før de vises. Domstolen udstedte et foreløbigt forbud, der forbyder Google at gentage falske påstande om to forlag, under trussel om en bøde på op til 250.000 euro.
Sondringen betyder mere end de involverede parter. En liste over links med citater peger et andet sted hen. Et AI-svar taler med sin egen stemme. I det øjeblik et system formulerer en ny påstand, behandlede domstolen operatøren som forfatter til den påstand. Det er den grænse, de fleste virksomheder, der udruller AI, som udgangspunkt nu står på den forkerte side af.
Hvorfor dette rækker langt ud over Google
Afgørelsen er en af de første i Europa, der holder en AI-operatør direkte ansvarlig for AI-genereret indhold, og logikken afhænger ikke af Google. En supportchatbot, der kalder en konkurrent svigagtig, en salgsassistent, der opfinder en produktpåstand, et internt værktøj, der fremsætter noget falsk om en leverandør: hver enkelt frembringer et nyt udsagn, som kun operatøren kan styre. Efter Münchens begrundelse er det operatøren, der svarer for det.
Google argumenterede for, at enhver kunne modbevise udsagnet med yderligere research. Domstolen fandt, at muligheden for at gendrive en påstand normalt ikke fjerner ansvaret for at fremsætte den. For enhver virksomhed, der har lanceret en AI-assistent ud fra en antagelse om, at det er modellen og ikke virksomheden, der bærer risikoen, er den antagelse nu en dokumenteret eksponering.
Hvad en seriøs virksomhed bør gøre nu
Behandl ethvert kundevendt AI-output som offentliggjort indhold, for det gør en europæisk domstol nu. Det betyder at vide præcis, hvor din AI genererer fritformulerede påstande om personer, virksomheder eller fakta, hvilke værn der står foran disse output, og hvem der er ansvarlig, når et af dem er forkert. De fleste organisationer kan ikke besvare de tre spørgsmål i dag, og det er det reelle hul, som afgørelsen blotlægger.
Løsningen er ikke at slukke for assistenten. Den er at kortlægge eksponeringen: registrer de systemer, der taler i dit navn, begræns dem, hvor omkostningen ved et forkert svar er høj, og dokumentér kontrollerne, så ansvaret bliver håndteret i stedet for opdaget i retten. Gjort tidligt er dette en governanceopgave. Gjort sent er det en lektie til 250.000 euro.
Læs videre: Din AI-agent kan nu bruge dine penge. Det svære er alt det, der sker bagefter. | Domstol i München: din AI's output er dine egne ord
