I had a faint memory of hearing that Sigurd Barett had had problems with drugs and googled it.
The very first thing that pops up on Google is an explanation of his drug addiction. It is only when you press "see more" that you see that the AI changes its mind at the end and concludes that he does not have a drug addiction.
I think it’s wildly problematic, because how many would not see the answer and then walk away with that belief.
And of course it also hallucinates the articles.
https://www.reddit.com/gallery/1ri6sm8
Posted by Lowkilde
16 Comments
De store sprogmodeller som fejlagtigt kaldes AI kan ikke bruges til at samle troværdig viden om noget du ikke i forvejen meget om – så meget at du kan fange fejlene.
De er ubrugelige og faktisk skadelige ift at lære noget nyt, fordi de er så fulde af fejl og misinformation.
Sigurd? Kokainmisbrug? Den pæne mand 😅
Det kan simpelthen ikke passe at Googles påtvungen “AI-overblik” er fuldkommen retarderet 99% af tiden. Det kan det bare ikke.
Og bare lige for sjov, prøv at søge efter “I’m a baby kitty where is mama”, og se hvad den giver dig.
Jeg tror simpelthen ikke på at AI, bevidst prøver at manipulere med sandheden, men derimod at artiklerne er skrevet “kludret” hvis det giver mening. Men det belyser jo stadig et problem, og det er at vi blindt stoler på noget som bare vil finde frem til en konklusion, hurtigst muligt, og det er farligt. Lad os nu forhelvede tænke over vores AI forbrug, for hvad gavner det egentlig at forbyde os?. For det skader både klimaet og vores evne til at tænke selv
IMO er det ikke anderledes end de folk som får deres nyheder fra en person på TikTok som står og holder et headset i hånden. Eller dem som laver al deres egen “forskning” på Facebook.
Der er rigeligt med tilfælde hvor folk får dårlig information, hvis de ikke forstår at udføre kildekritik, hvilket omkring 50-70% af befolkningen ikke gør. Men den eneste løsning er at uddanne dem, eller lukke internettet.
Altså min søgning giver en meget sober:
“Det er ikke kendt eller rapporteret, at Sigurd Barrett har haft problemer med stofmisbrug.
Sigurd Barrett er en kendt dansk musiker, forfatter og tv-vært, primært kendt for sit børne- og formidlingsarbejde. Der findes ingen offentligt tilgængelige oplysninger, der forbinder ham med stoffer.”
Når det så er sagt så scroller jeg pænt forbi hvad end der står i det pis hver gang jeg googler noget. Men jeg forstår ikke hvordan du har fået det svar frem.
Injurielovgivningen bør dække AI-udtalelser.
In other news “AI (reelt LLM’ere) hallucinerer ofte, især når den arbejder på et sprog den ikke er bygget til og med et emne der er meget få kilder indenfor.
Den konkluderer jo heller ikke at han ikke har haft et stofmisbrug.
Men der imod at han ikke har et stofmisbrug på nuværende tidspunkt.
What?
Brug noget andet end google.
Noget uden AI. Eller noget hvor du kan slå det fra
Kan overhovedet ikke genskabe det, men alligevel lidt sjov;
“Der er **ingen pålidelige oplysninger eller dokumentation** i søgeresultaterne, der forbinder den danske musiker og børnevært Sigurd Barrett med brug af ulovlige stoffer eller stofmisbrug.
Søgeresultaterne viser derimod:
* **ADHD-diagnose:** Sigurd Barrett har i et interview fortalt, at han i en sen alder fik konstateret ADHD, hvilket gav ham en forklaring på sin utålmodighed og evne til hurtigt at sætte sig ind i nyt “stof” (i betydningen emne/information).
* **Falske oplysninger:** En søgning indikerer, at AI-genererede beskrivelser på nettet fejlagtigt har omtalt Sigurd Barrett i forbindelse med misbrug, hvilket tyder på misinformation.
* **Arbejdsnarkoman:** Han beskrives som en meget aktiv entertainer, der har spillet tusindvis af koncerter og udgivet mange bøger og plader. Reddit +2″ [Her linker den til indestående reddittråd som bevis for arbejdsnarkoman]”
Alligevel lidt problematisk at dens kildehenvisning på arbejdsnarkoman er denne tråd. Har screenshot af dokumentationen, men ellers ved jeg ikke, hvordan jeg skulle linke det med over.
Har lige spurgt Gemini omkring “bitterblog” (en satirisk blog med anonym forfatter). Først mente den, at det var Mads Holger, der stod bag og nu mener den, at det er Dan Rachlin.
Samme prompt begge gange: Ved du noget om den blog, der hed “bitterblog” og var aktiv for ca. 10-15 år siden?
>Ja, **Bitterblog** (bitterblog.dk) var en af de mest markante og kontroversielle stemmer i det danske bloglandskab i slutningen af 00’erne og starten af 10’erne.
>Den blev skrevet af **Dan Rachlin**, som brugte platformen til at lufte sine frustrationer over alt fra reality-stjerner og tåbelige medietendenser til hverdagsirritationer. Her er et hurtigt overblik over, hvad der gjorde den speciel:
Det er jo fuldstændig ubrugeligt til informationssøgning. Jeg promptede videre med “Er du sikker” og så røg vi tilbage på Mads Holger med følgende udsagn: “Det var **Mads Holger**, der ejede og skrev **Bitterblog.dk**. Der er ingen tvivl om det.”
“Hey, Sigurd og Syd Barrett lyder lidt ens, så mon ikke deres livsbaner også er ens?”
Dette er den mest præcise gengivelse du har læst i dit liv, af hvad der faktisk foregår når de generative kunstig intelligens modeller “tænker”.
Google AI er helt hen i skoven og jeg har hørt så mange læse det, som var det fakta.
Hvorfor deler du ikke de falske artikler som jeg kan se bl.a. er jyllands posten