The case of 36,000 offensive AI images of children is on its way to the Supreme Court
https://www.dr.dk/nyheder/indland/sag-om-36-000-kraenkende-ai-billeder-af-boern-er-paa-vej-i-hoejesteret
Posted by WolfeTones456
The case of 36,000 offensive AI images of children is on its way to the Supreme Court
https://www.dr.dk/nyheder/indland/sag-om-36-000-kraenkende-ai-billeder-af-boern-er-paa-vej-i-hoejesteret
Posted by WolfeTones456
10 Comments
“- Sagen er meget principiel. Navnlig på grund af den teknologi, der er anvendt. Kunstig intelligens har ikke tidligere været anvendt til at fremstille den her slags billeder af ikke-ægte personer. Sagen er den første af sin art, og man har ikke vurderet det her spørgsmål tidligere, siger mandens forsvarsadvokat, Frederik Blicher Jepsen.”
Hvordan er det reelt set anderledes end hvis nogen har tegnet det eller manipuleret billeder med photoshop? Det er jo ulovligt.
De siger at materialet er lavet på baggrund af træning af ægte materiale – nu har jeg selvfølgelig ikke set det, men umiddelbart så ville jeg ikke sådan se det store problem for en AI i at tage en kropstype den kender fra en medicinbog og putte den i en position den har fra et pornoblad. Men jeg ved selvfølgelig ikke om det er det de pædofile vil have.
Jeg synes sgu det er en svær sag. Skal man straffes med 1.5 års fængsel, for at tegne en tegning vi ikke kan lide? Eller for at animere noget? Eller for at lave en prompt?
>Omvendt har det været anklagemyndighedens opfattelse, at det kunstige materiale er skabt ved hjælp af ægte overgrebsmateriale.
Hvordan har de vurderet det? Har han selv smidt ægte overgrebsmateriale ind i den? Ren teoretisk, behøver man ikke ægte overgrebsmateriale, for at kunne fremstille det her.
>Ifølge den dømte selv var det først, da politiet i november 2023 sparkede døren ind til hans hjem, at det gik op for ham, at hans produktion af billeder var ulovlig.
Derfor er det også forsvarets ønske, at manden bliver frifundet for straf, når sagen bliver afgjort i Højesteret.
Det er godt nok et tyndt forsvar til gengæld. “
Sagen handler vel også i høj grad om ikke at lade kunstig intelligens blive et dække for overgrebsmateriale? Hvis man ikke straffer billeder skabt med kunstig intelligens kan vi hurtigt ende i en situation, hvor de der deler, eller besidder, overgrebsmateriale, skjuler sig under en påstand om at deres billeder også er skabt med kunstig intelligens.
Red Barnets argument lyder til at være at selvom ingen børn er blevet direkte krænket af hans produktion, så tæller det stadig da den AI model han har benyttet må være trænet på ægte overgrebsmateriake.
Hvis den holder i retten, vil det så ikke også betyde at alle dem der laver andre billeder via AI så også er skyldige i brud på ophavsrettighederne for de kunstnere den AI er trænet på?
Jeg tænker at han taber sagen, da billederne nok bliver sidestillet med tegnet/photoshoppet porno, som også er ulovligt ud fra hvad jeg kan læse.
Når jeg tænker over det, så er det dog et totalitært samfund vi lever i, når tankekriminalitet straffes på den måde. Der er ikke noget offer. Derfor bliver “forbryderen” til et offer, fordi vedkommende udsættes for seksuel undertrykkelse og krænkelse af sin kreative frihed. Og angrebet stikker dybere end ytringsfriheden, for den sigtede ville også kunne blive sigtet for besiddelse eller produktion, selv hvis billederne aldrig var distribueret. Det er dermed ikke forkert at betegne det som tankekriminalitet. Det synes jeg er ret ulækkert at observere i vores såkaldte *frie* samfund.
Hvis jeg tager et stykke papir og en blyant, og så begynder at tegne Nikolaj med punktum, komma, og streg, så er det fint nok. Hvis jeg tilføjer en lille tissemand til Nikolaj, så er det potentielt børneporno, afhængig af hvor realistisk min tegning ser ud – altså hvor god jeg er til at tegne.
At lovgive omkring AI bliver enormt svært.
Det er lidt som den sag hvor en mand blev dømt for pædofili fordi han havde købt en realistisk sexdukke der lignede en mindreårig.
Selvom det ikke er “virkeligt” så synes domstolene at lægge vægt på at noget fiktivt der imiterer virkeligheden, og fremstår realistisk nok, sidestilles med det virkelige.
Mon ikke også de gør det i den her sag.
Den slags materiale er ikke min kop te, og jeg vil tro at de fleste andre tænker det samme. Men gør det, at det skal være strafbart?
Altså.. der er jo intet offer i det. Det svarer til, at du har tegnet det eller skrevet en detaljeret novelle om det. Jeg kan ikke helt se, hvorfor at det skal være strafbart, når det er helt og aldeles fiktivt?
Hvis det er trænet på ægte materiale, er det en anden sag.
Jeg synes godt nok også det her er en svær sag. Anklagemyndigheden er helt sikkert overbevist om at det er baseret på ægte materiale og dermed at sammenligne med ægte overgreb af samme børn. Men givet kvaliteten på 3d-modeller til f.eks. computerspil kunne man vel sagtens forestille sig en unreal-engine med rette input laver modeller som ligner mindreårige. Det er vel kun et spørgsmål om nogle parametre. Man kan allerede nemt lave alt fra trolde til feer.
Og når dommen så er faldet.. så er der præcedens for at det er forbudt at fremstille mindreårige i illustration. Hvordan med tegninger af “Nikolaj” som en anden skriver ? Hvad med lægefaglig litteratur ? Og hvor trækkes grænsen overhovedet mellem “mindreårige” og f.eks. feer, drager, smølfer ? Er det lovligt at tegne f.eks. Simpsons eller Anders And universerne i erotiske miljøer, hvis man er til det
Og anden kriminalitet: må man illustrere mord på diverse bestialske måder til film, tegneserier mv, må man se/ købe / læse japansk manga ?
Der er så mange spørgsmål på denne glidebane mod tankekontrol.
En kæp i hjulet på AI ville være at dem der laver den pågældende AI har ansvaret for hvad det bliver brugt til. Det kan godt være man tænker at det er urealistisk, men det er en situation vi ikke har set før og derfor skal der tænkes anderledes.
AI er et generelt værktøj der i princippet kan alt i forhold til billeder og video. Skal man så også kunne kræve at værktøjet på en eller anden måde selv kan censurere? Det ville helt sikkert sætte nogle rammer for hvad AI selskaberne slipper ud i offentligheden. Det er et sindsygt kapløb uden grænser i øjeblikket og verden er testmiljøet. Det ville nok ikke skade at træde lidt på bremsen og tænke sig om, om det så skal gøres med lovgivning.
Jeg synes i alle tilfælde ikke det er en god idé at slippe AI løs på den måde man gør nu.
Altså. Hvis manden ikke har fodret en AI med reel overgrebsmateriale må hans materiale jo anses for ikke at have krænket nogle.
Så siger Red Barnet at materialet må være med udgangspunkt i empiriske data, og jeg antager de mener at andre må have uploadet krænkende data og beriget en AI-model der ligger til grund for vedkommendes materiale.
Men det tænker jeg egentlig ikke nødvendigvis behøver at være korrekt. Jeg ved det ikke men jeg tænker at en AI netop selv er i stand til at skabe den her type billeder uden nødvendigvis at have set et specifikt billede der kunne være målet. Har en AI et forholdsvist stort abstraktionslag? det er vel derfor at den netop ikke altid er istand til at tegne korrekt antal fingre, hænder osv. Mit gæt er at en AI’s abstraktionslag er rigeligt til at AI’en godt selv kan tegne billederne uden at der specifikt er brug for meget præcise rigtige billeder.