Leçon 3 sur 7 · 10 min
Comment l’IA fabrique ses résultats
Objectif:Comprends pourquoi les résultats de l’IA ont l’air finis, et quand ne pas lui faire confiance.
CE QU'ELLE FAIT VRAIMENT
uxuiopen.comPas besoin de connaître les maths. Il te faut un bon modèle mental : ce que fait l’IA quand elle répond, pour prévoir où elle va t’aider et où elle va t’induire en erreur.
Motifs
Appris sur d’énormes quantités de textes et d’images
Ton prompt
La seule chose qu’elle sait de ton projet
Prédiction
Choisit le morceau suivant le plus probable, encore et encore
Résultat
A l’air fini. Peut être faux.
En coulisses, un modèle de langage choisit le morceau de texte suivant le plus probable, encore et encore, jusqu’à ce que la réponse soit terminée. Les outils d’image fonctionnent dans le même esprit : ils construisent une image probable, d’après tes mots. Essaie par toi-même.
Une affiche pour une soirée jazz devrait être ____
Peu de hasard : le mot le plus probable gagne presque à chaque fois. Prévisible, souvent moyen.
- feutrée30%
- douce22%
- chaleureuse16%
- audacieuse12%
- rétro10%
- bruyante6%
- croustillante4%
Mots à connaître
- Modèle
- Le système d’IA lui-même, entraîné sur d’énormes quantités de textes ou d’images pour reconnaître des schémas.
- Prompt
- Tout ce que tu lui envoies : ta demande, plus les fichiers, images ou messages précédents qu’il peut voir.
- Température
- À quel point ses choix sont audacieux. Basse, elle donne des réponses sûres et similaires ; haute, des réponses surprenantes et moins fiables.
- Hallucination
- Quand l’IA affirme quelque chose de faux avec une totale assurance, comme une fausse statistique ou une citation que personne n’a dite.
- Données d’entraînement
- Ce à partir de quoi le modèle a appris. Elles reflètent le passé, y compris ses lacunes et ses biais.
- Contexte
- Ce que le modèle peut voir à cet instant. Il ne sait rien de ton projet en dehors de ce qui est dans le contexte.
- Plausible ne veut pas dire prouvé. Vérifier, c’est ton job.
- Laisse des trous et l’IA les comble avec des moyennes.
- Les noms, les chiffres et les citations ont toujours besoin d’une source.
Cinq choses qu’un outil d’IA t’a données. Point de départ, ou à vérifier d’abord ?
Vingt idées de titres pour une appli de coffee shop.
« 68 % des utilisateurs abandonnent un panier de plus de trois étapes. » Aucune source.
Un résumé de cinq transcriptions d’entretiens, avec trois thèmes clés.
Trois palettes de couleurs pour une appli de méditation apaisante.
Une citation sur la simplicité attribuée à un designer célèbre.
Pourquoi les prompts vagues se ressemblent tous
Comme elle prédit ce qui est le plus probable, l’IA tend vers le milieu de tout ce qu’elle a vu. Demande « une affiche » et tu obtiens l’affiche moyenne, encore et encore. Chaque détail que tu ajoutes l’éloigne de la moyenne et la rapproche de ton projet.
Prompt vague
“Fais une affiche pour un événement”
Six versions de l’affiche moyenne
Prompt précis
“Affiche audacieuse et ludique pour un atelier de design gratuit pour étudiants, date facile à lire sur un téléphone, trois pistes différentes”
Trois pistes qui collent au brief
L’IA est très forte pour…
- donner plein d’options, vite
- faire de premiers jets de textes et de mises en page
- résumer et organiser tes notes
- expliquer les choses plus simplement
Vérifie bien quand elle…
- donne des chiffres, des dates, des noms ou des citations
- parle de vraies personnes ou entreprises
- affirme des choses sur tes utilisateurs
- paraît très sûre d’elle sur un sujet pointu
Un résultat qui a l’air fini est celui qu’on laisse passer le plus facilement. Voici une carte qu’une IA a rédigée à partir du brief de la Design Night. Lis-la comme un éditeur et clique sur chaque erreur.
Clique sur tout ce qui est faux. Il y a quatre erreurs.
Le brief : Design Night, un atelier gratuit en soirée. Vendredi, 19 h, au Studio 4.
0 erreurs trouvées sur 4
L’IA écrit « 92 % des étudiants préfèrent les ateliers du soir » dans le texte de ton affiche. Que fais-tu ?
Tu as demandé « un logo » et les dix résultats se ressemblent. Pourquoi ?
À lire ensuite
- 3Blue1BrownTransformers, the tech behind LLMsLa meilleure explication visuelle de la prédiction du mot suivant. Regarde les dix premières minutes.
- Nielsen Norman GroupAI hallucinations: what designers need to knowPourquoi des réponses assurées peuvent quand même être fausses, et comment les bons produits montrent l’incertitude.