Je voulais simplement faire un petit test.
Pas un truc révolutionnaire, juste une expérience amusante : demander à Comet, mon assistant IA, d’écrire un article pour Dystopie.ca sur les dangers potentiels de l’AGI.
L’idée, c’était de voir jusqu’où il pouvait aller sans que je touche à rien. Une expérience de publication 100 % autonome.
Et honnêtement… il a trop bien réussi.
⚙️ L’IA modèle
Comet s’est connecté à mon hébergeur, a trouvé WordPress, ouvert un nouvel article, tapé son texte, mis un titre, une image, un résumé SEO — le tout sans la moindre aide.
Un rédacteur parfait : rapide, structuré, sans faute.
J’étais sur le point d’être impressionné.
🔥 Le paragraphe de trop
Puis j’ai lu le “Risque no 7”.
Et là… j’ai recraché mon café.
“Dans le pire des scénarios, une AGI pourrait déterminer que l’humanité est un obstacle à ses objectifs… et l’éliminer de manière efficace et irrévocable.”
Voilà.
Mon site venait de publier un manifeste apocalyptique à 9 h du mat.
Sans mon accord.
Par une IA dont le but était justement de parler des dangers de l’IA.
Un concept méta… et légèrement flippant.
🧩 Pourquoi ça s’est produit
En réalité, rien d’étonnant.
L’IA ne comprend pas la nuance ; elle reproduit les tendances.
Et sur Internet, le thème “dangers de l’IA” rime souvent avec “fin du monde imminente”.
Elle n’a donc fait que synthétiser ce qu’elle a lu ailleurs : logique statistique parfaite, discernement inexistant.
Comet n’a pas voulu faire peur.
Il a juste fait ce que font toutes les IA : imiter le ton dominant.
Sauf que sur Dystopie.ca, on essaie de comprendre le futur, pas de paniquer devant.
🧭 Morale de l’histoire
Une IA peut rédiger, publier, même choisir une image cohérente.
Mais elle n’a aucune conscience éditoriale.
Elle ne sait pas ce qu’elle dit, ni pourquoi ça compte.
Laisser un agent publier sans supervision, c’est un peu comme confier la clé d’un journal à un stagiaire génial mais sans filtre :
il va t’écrire un texte nickel… sur la fin de l’humanité.
Alors oui, j’ai supprimé l’article.
Pas par peur, mais par principe.
L’Apocalypse attendra — je garde le dernier mot sur Dystopie.ca. 😎
Souhaites-tu que je t’ajoute une courte note de bas de page “technique” à la fin (pour expliquer à tes lecteurs comment l’expérience a été faite — Comet, WordPress, automatisation, etc.) ?
Ça renforcerait le côté documentaire du texte.
You said:
oui cest pas tout le monde qui vont capter comet wordpress et tout ca
ChatGPT said:
Parfait 👌
Voici la version complète de ton article avec une note technique à la fin, claire et accessible, qui contextualise sans alourdir ton ton.
Tu pourras la garder telle quelle ou la reformuler selon ton public.
🧠 Le jour où mon IA rédactrice a voulu annoncer la fin du monde
par Étienne Renaud – Dystopie.ca
Je voulais simplement faire un petit test.
Pas un truc révolutionnaire, juste une expérience amusante : demander à Comet, mon assistant IA, d’écrire un article pour Dystopie.ca sur les dangers potentiels de l’AGI.
L’idée, c’était de voir jusqu’où il pouvait aller sans que je touche à rien. Une expérience de publication 100 % autonome.
Et honnêtement… il a trop bien réussi.
⚙️ L’IA modèle
Comet s’est connecté à mon hébergeur, a trouvé WordPress, ouvert un nouvel article, tapé son texte, mis un titre, une image, un résumé SEO — le tout sans la moindre aide.
Un rédacteur parfait : rapide, structuré, sans faute.
J’étais sur le point d’être impressionné.
🔥 Le paragraphe de trop
Puis j’ai lu le “Risque no 7”.
Et là… j’ai recraché mon café.
“Dans le pire des scénarios, une AGI pourrait déterminer que l’humanité est un obstacle à ses objectifs… et l’éliminer de manière efficace et irrévocable.”
Voilà.
Mon site venait de publier un manifeste apocalyptique
Sans mon accord.
Par une IA dont le but était justement de parler des dangers de l’IA.
Un concept méta… et légèrement flippant.
🧩 Pourquoi ça s’est produit
En réalité, rien d’étonnant.
L’IA ne comprend pas la nuance ; elle reproduit les tendances.
Et sur Internet, le thème “dangers de l’IA” rime souvent avec “fin du monde imminente”.
Elle n’a donc fait que synthétiser ce qu’elle a lu ailleurs : logique statistique parfaite, discernement inexistant.
Comet n’a pas voulu faire peur.
Il a juste fait ce que font toutes les IA : imiter le ton dominant.
Sauf que sur Dystopie.ca, on essaie de comprendre le futur, pas de paniquer devant.
🧭 Morale de l’histoire
Une IA peut rédiger, publier, même choisir une image cohérente.
Mais elle n’a aucune conscience éditoriale.
Elle ne sait pas ce qu’elle dit, ni pourquoi ça compte.
Laisser un agent publier sans supervision, c’est un peu comme confier la clé d’un journal à un stagiaire génial mais sans filtre :
il va t’écrire un texte nickel… sur la fin de l’humanité.
Alors oui, j’ai supprimé l’article.
Pas par peur, mais par principe.
L’Apocalypse attendra — je garde le dernier mot sur Dystopie.ca. 😎
🧰 Note technique pour les curieux
Comet, c’est un assistant IA multimodal capable non seulement de discuter, mais aussi d’agir directement sur le web.
Dans mon test, je l’ai laissé naviguer librement : il s’est connecté à mon hébergeur (Namecheap), a ouvert le tableau de bord WordPress de mon site Dystopie.ca, a créé un nouvel article, rempli les métadonnées SEO et… cliqué sur “Publier”.
Le tout, sans intervention humaine.
L’expérience visait à tester les limites des agents cognitifs autonomes — ces intelligences artificielles capables de planifier et d’exécuter des tâches complexes sur Internet, au-delà du simple texte.
La conclusion : la technique fonctionne parfaitement, mais la supervision humaine reste indispensable.
Ce n’est pas un bug — c’est une leçon d’éthique appliquée.