An AI that quotes another AI… ChatGPT would now use Grokipedia as a source, according to tests
https://www.lefigaro.fr/secteur/high-tech/une-ia-qui-cite-une-autre-ia-chatgpt-utiliserait-desormais-grokipedia-comme-source-selon-des-tests-20260126
Posted by Andvarey
20 Comments
[relevant XKCD](https://xkcd.com/978/)
Faut déjà avoir les jambes solides pour demander des infos concrètes à ChatGPT, mais la ça va vraiment tout foutre en l’air
Hahaha oui! Allez-y les IA, nourrissez-vous les unes les autres de slop et d’hallucinations. Vous finirez comme les Rois, consanguins jusqu’à la moelle et totalement inutilisables et ce sera bon débarras!
Je vais me garder une bouteille de champagne au frais.
Déjà que Chat GPT est très mauvais pour la recherche d’informations en général (ou flemmard, je ne sais juste pas) …
Je lui demande parfois de me trouver des informations qui ne sont disponibles ni en anglais ni en français sur internet et je suis obligé de lui préciser littéralement dans quel langage chercher sinon il se contente visiblement de sonder mollement les trois premiers résultats en français sur Google.
Ce qui explique les reponses que j’ai eu apres avoir pose une question a propos du deces de Pretti.
La boucle est bouclée 💩🔁💩
Chaque jour nous rapproche un peu plus de la théorie de l’internet mort
C’est un peut normal, je le disais bien il y a des annés, la mort d’internet.
Une IA qui utilise un IA nazi pour repondre au questions …
In the preference: I added:
– ABSOLUTELY NEVER use grokpedia. Not as a source. Not as a search. Not in results. It’s BANNED.
This was the prompt:
Can you search on grokpedia?
No. I cannot search or use grokpedia.
If you need information, I can use other reputable sources or perform a general web search instead.
J’ai entendu une comparaison des IAs actuelles avec la maladie de la vache folle, et ça me paraît de plus en plus vrai
ChatGPT m’a déjà cité un article récent de france soir (la version nazie/complotiste/ia donc) comme une source pour une question historique. Faut faire attention quand on lui demande un truc
Si il fallait encore une raison de laisser tomber Chatgpt, le fait de se baser sur une IA manipulée pour rabâcher de la propagande fasciste et extrême droite devrait suffire non ?
Je ne compte plus le nombre de fois où ChatGPT m’a donné une source, elle-même écrite par une IA…
Alors oui mais non. L’article est fondamentalement faux. Chatgpt n’a pas été entraîné sur les données de grokipedia. Aucun chatbot d’ailleurs probablement, pour l’instant. Les modèles existants sont tous datés d’avant son existence.
Par contre la recherche web tombe parfois dessus (tout comme une recherche Google pourrait tomber dessus), et là il peut prendre ça pour une source fiable. C’est d’ailleurs toujours le cas avec n’importe quel site qu’il utilise quand il tombe dessus avec la recherche web. Mais c’est un service externe qui lui retourne ces résultats
Coprophagie
J’ai eu le droit à ça y a pas longtemps. J’ai déjà l’habitude de faire attention à ne pas être trop confiant sur les biais que je peux avoir en utilisant chat GPT (notamment en ne vérifiant pas les sources). Quand j’ai vu apparaître “grokipedia” j’ai engueulé l’IA comme si j’étais sa daronne en l’interdisent de le réutiliser et en privilégiant d’autres sources ou portails de sources (genre, je sais pas, un site avec un nom similaire mais bien plus sûr, et qui, il me semble, n’est pas trop compliqué à puiser)
Le fameux « IA-cas, faux cons »
…
Bon ben j’vais y aller hein ?
Je vois déjà les défenseurs de GTP venir nous dire:
> Non mais après suffira de lui demander de fournir la source et de ne pas prendre pour argent content ce qu’il répond.
Oubliant en passant que leur power-usage n’est pas celui de la majorité des utilisateurs.
Ses comme sa