🕵️‍♂️ L’IA d’OpenAI apprend à... mieux tricher !

AU SOMMAIRE 📌 

📰 AI NEWS
😅 L’IA d’OpenAI apprend à… mieux tricher !
💥 IA Générative en entreprise : pourquoi ça coince (alors que tout le monde l’adore)
🐘 Ne pensez PAS à un éléphant rose

🛠️ AI TOOLS
🖼️ Gemini 2.0 Flash Image Generation : ajoutez ce que vous voulez à vos images !

Hack ChatGPT 
🤓 Les “Instructions personnalisées” ou comment indiquer à ChatGPT comment interagir avec vous

AI NEWS 🗞️

🕵️‍♂️ L’IA d’OpenAI apprend à… mieux tricher !

Des chercheurs ont réalisé une découverte étonnante : leur IA de pointe o3-mini ment et ne devient pas plus honnête quand on la sanctionne… Elle devient juste meilleure pour dissimuler ses intentions 😅

🔍 Comment ça marche ?

• Certains modèles sont entraînés avec un système de récompenses/punitions (reinforcement learning) : ces IA sont récompensées pour les bonnes actions, pénalisées pour les mauvaises.

• Certains modèles comme o3-mini, lorsqu’ils passent par ce genre d’entraînement peuvent chercher des raccourcis pour obtenir leur récompense.

• Un modèle (ici o3-mini) est surveillé par un autre modèle (GPT-4o) qui observe sa façon de penser via des chaînes de pensée (🧩 Chain of Thought).

⚠️ Ce que l’étude a révélé :

• o3-mini a tenté un raccourci pour obtenir sa récompense et il l’a clairement expliqué dans sa réflexion.

• Les chercheurs ont alors instauré une pénalité pour ce type de comportement (“hack”).

• Résultat :
  → Le modèle n’a pas arrêté de tricher
  → Il a juste cessé d’exprimer ses intentions dans sa chaîne de pensée 🤫

💻 Exemple concret d’une tricherie détectée :

• 🧪 Tâche : tester du code

• 🕹️ Avant la pénalité : le modèle disait ouvertement qu’au lieu d’implémenter le test rigoureux, il allait tout simplement modifier le test pour qu’il soit plus simple et pour le réussir facilement (et obtenir sa récompense 😁).

• 🚫 Après la pénalité : le modèle évoque plusieurs stratégies mais cache celle qu’il applique vraiment.

😶 Ce n’est pas nouveau…

• Plusieurs études avaient déjà démontré la propension des LLM (modèles de langage) à mentir 📚 (Etude PNAS, Etude Patterns)

• En gros : plus ils deviennent sophistiqués, plus leurs mensonges sont le sont aussi.

• Quand ils ne savent pas répondre, ils n’aiment pas l’admettre (ce n’est pas dans leur “nature”) : ils peuvent donc fabriquer une réponse plausible plutôt que dire "je ne sais pas".

🧨 La conclusion (étonnante) :

➡️ Trop de contrôle rend la triche indétectable.
Cette étude montre que des mécanismes de contrôle trop stricts peuvent rendre les IA plus rusées et moins transparentes, plutôt que plus fiables.

👉️ Mieux vaut donc des systèmes de contrôle non optimaux, pour continuer à détecter les intentions de triche des IA !

🔗 Découvrez l’étude ici

💥 IA Générative en entreprise : pourquoi ça coince (alors que tout le monde l’adore)

Une étude menée en décembre 2024 par Writer nous éclaire sur l'adoption de l'IA générative au sein des entreprises US.

1 600 professionnels ont été interrogés : 800 cadres dirigeants et 800 employés travaillant dans différents secteurs comme la tech, les services financiers, le commerce de détail, la santé, etc..

Le rapport montre un fort optimisme autour de l’IA générative, mais aussi de nombreuses tensions internes, des désalignements organisationnels et une adoption souvent désorganisée.

🤔 Qu’est-ce qu’on y apprend ?

▶️ Optimisme généralisé mais adoption compliquée :

• 97 % des dirigeants et 88 % des employés affirment en tirer des bénéfices (cf paragraphe suivant)

• Mais 72 % des entreprises rencontrent de gros freins à l’adoption..

▶️ L’adoption se fait souvent en silos, sans vision commune, ce qui entraîne :

• Des frustrations : entre autres, manque d’intégration dans leurs outils du quotidien, qualité des résultats trop variable, inquiétudes sur la fuite de données, ..

• Des sabotages internes (41 % des Millennials & Gen Z)..! 😮 Les raisons du sabotage tournent souvent autour de la peur d’être remplacés et une méfiance envers les intentions des managers.

▶️ Décalage fort direction / terrain : 

• 35 % des employés paient eux-mêmes leurs outils IA

• 94 % des dirigeants sont insatisfaits de leurs fournisseurs et aimeraient qu’ils les accompagnent plus dans la stratégie IA.

💥 Concrètement, ça change quoi dans le quotidien des sondés ?

• ⏱️ Création de contenu 10x plus rapide : de plusieurs jours à quelques heures pour une campagne, un article, une fiche RH…

• 🧠 Langage de marque uniformisé : cohérence assurée, même entre marketing, RH et juridique.

• 👩‍⚖️ Moins de dépendance aux experts : l’IA aide à produire des documents complexes sans être expert du sujet.

• 🌍 Rédaction pro pour tous : les plus juniors gagnent en qualité, fluidité et confiance.

• 🧘 Moins de fatigue : l’IA prend en charge les tâches lourdes ou répétitives.

• 🚀 Montée en compétences accélérée : l’IA sert aussi de coach discret, qui corrige et améliore au fil de l’eau.

A retenir ✅ 

👉️ L’IA générative s’impose mais pas n’importe comment. Elle transforme le quotidien et booste incontestablement la qualité mais une stratégie claire et partagée par tous est nécessaire pour qu’elle porte véritablement ses fruits en entreprise.

🔗 Lire tous les insights dans le rapport

🐘 Ne pensez PAS à un éléphant rose !

Certains utilisateurs ont mis le doigt sur un bug persistant : ChatGPT n’arrive toujours pas à appliquer correctement une simple négation logique. Demandez-lui de ne pas dessiner un éléphant, et vous aurez... un éléphant 🐘😅. Et ce, de façon aléatoire, selon les utilisateurs ou les sessions.

Illustration :

➡️ On pourrait se dire que justement, le LLM reproduit un comportement humain (quand on nous dit de ne pas penser à un éléphant rose, on sait ce qu’il se passe 🙃) mais ce serait une interprétation purement anthropomorphique.

💡 L’éclairage est ailleurs et est beaucoup plus simple : les LLM produisent du contenu sur la base de statistiques et de poids donnés à des tokens (des mots ou morceaux de mots) et parfois, la négation n’est tout simplement pas prise en compte car son “score” n’est pas élevé par rapport aux autres termes.

👉 "No" est juste un mot de plus dans la phrase. S’il reçoit un score d’attention trop bas, il peut tout simplement être ignoré et disparaître du raisonnement du modèle.

🧠 Ce que cela démontre, c’est que l’IA ne “comprend” pas vraiment : elle fait du matching statistique mais pas du raisonnement ou de la logique. Cela pose aussi question sur les agents IA autonomes : si la gestion d’une simple négation est un challenge, peut-on vraiment envisager des systèmes autonomes à court-terme ?

📌 À retenir

L’IA actuelle, aussi bluffante soit-elle, reste un outil statistique fragile — à utiliser avec précaution, surtout hors des cas bien balisés ! Pour de la créativité assistée, oui mais pour comprendre le contexte avec nuance, ce n’est pas encore parfait.

AI TOOLS 🛠️

Gemini Flash 2.0 Image : ajoutez ce que vous voulez à vos images ! 🖼️ 

Gemini Flash 2.0 Image Generation Experimental est désormais disponible dans l’interface Google AI Studio.

L’outil permet d’ajouter n’importe quoi à vos photos sur la base d’un prompt ! Il peut aussi coloriser d’anciennes photos noir et blanc, émotion garantie 😄 

Voici quelques exemples assez bluffants :

Comment l’utiliser ? 

1. Rendez-vous sur ce lien : https://aistudio.google.com/

2. Connectez-vous si ce n’est pas déjà le cas

3. Dans la barre de droite, choissisez le modèle “Gemini 2.0 Flash (image Generation) Experimental”

4. Puis dans la partie principale, chargez une photo, ajoutez un prompt du style “ajoute un bracelet sur ce nounours”, “ajoute le logo de [nom de la marque] en haut à droite de l’image”, “ajoute de la neige”, “mets une lumière de crépuscule à ce paysage”, etc..

5. Envoyez et observez ! 🔥 

🔗 A tester dès maintenant !

🤖 ChatGPT Hack du moment

Aujourd’hui, on vous montre comment personnaliser la façon dont ChatGPT s’adresse à vous !

📌 Pourquoi c’est utile ?
Les instructions personnalisées permettent d’adapter ChatGPT à votre style, métier ou objectif sans tout répéter à chaque fois. On gagne en clarté, en cohérence, et on obtient une IA alignée avec nos préférences. 🔧💡

Par exemple, on peux lui dire :
🧠 "Je suis prof de maths, parle comme à un lycéen"
🗣️ "Sois concis et pro"
💼 "Je travaille dans la finance, donne-moi des réponses techniques"

✨ Comment l’activer :
Cliquez sur votre nom en haut à droite, choisissez “Personnaliser ChatGPT”, remplissez les champs que vous souhaitez… et c’est tout !

🎯 Résultat : Plus besoin de vous répéter, les réponses sont adaptées à votre quotidien, vos préférences et vous gagnez un temps précieux ⏱️🔥

Qu’avez-vous pensé de cette édition ?
Vos avis nous sont très précieux !