Copilote, pas pilote

Imagine que

Dans un véhicule, le copilote peut lire la carte, signaler un détour et rappeler la destination. Le pilote observe la route, tient compte des passagers et décide. Avec une IA, cette séparation doit être réelle. Écrire « validation humaine » dans une procédure ne suffit pas si la personne n’a ni le temps, ni les informations, ni le pouvoir de refuser.

Décompose l’usage en étapes : collecte autorisée, proposition de l’IA, vérification, décision, communication et recours. Indique qui est responsable à chaque étape. Pour une tâche réversible et peu risquée, comme proposer des titres fictifs, le contrôle peut être léger. Pour une décision touchant une personne, sa sécurité, ses droits ou ses opportunités, l’intervention humaine doit être renforcée et parfois l’IA ne doit pas être utilisée.

Exemple

Une IA peut proposer un plan de message. Une personne vérifie les faits, le ton, les destinataires et décide de l’envoyer. Elle ne valide pas mécaniquement : elle peut modifier, refuser ou recommencer sans l’outil. Si quelqu’un conteste le résultat, il doit pouvoir comprendre qui contacter ; « l’algorithme a décidé » n’est pas une réponse responsable.

À toi de jouer

Choisis un scénario fictif : organiser une fête, préparer une affiche ou classer des idées. Trace deux colonnes « copilote IA » et « pilote humain ». Place chaque action et ajoute un bouton imaginaire « arrêter et demander de l’aide ». L’activité ne nécessite aucun outil. Les enfants la réalisent avec un adulte, qui garde toutes les décisions et choisit des sujets sans risque.

Piège à éviter

La fatigue et l’effet d’autorité poussent à accepter une proposition parce qu’elle paraît calculée. Ne fais pas de la personne un simple tampon. Évite aussi de confier à l’IA une décision que personne ne sait expliquer ou corriger.

À retenir

Une supervision utile donne à l’humain le contexte, le temps et l’autorité de dire non. L’IA propose, l’humain vérifie et décide.