Les IA génératives de textes et d’images sont devenues un outil incontournable - pour les adultes comme pour les jeunes - qui en font de plus en plus régulièrement usage dans la recherche d’informations pour les études ou le travail, ou pour des recommandations personnalisées... et il n’est pas toujours simple de déterminer à quel point le contenu est fiable. 

Tout ce que dit l’IA n’est pas forcément vrai ! 

L’IA peut inventer des faits et les présenter comme avérés et réalistes, on appelle cela des « hallucinations ». Depuis un an, les IA génératives (Chat GPT, Gemini, Mistral IA…) alimentent leurs réponses à partir de tout ce qui est présent sur le net : du plus sérieux… au plus mensonger. Et tout comme il est important de vérifier l’origine de l’information que l’on cherche sur un site internet ou les réseaux sociaux (voir notre article « Comment vérifier une information en ligne ? » ), il est primordial de vérifier les sources qu’utilisent les IA génératives pour répondre à nos questions, surtout pour des sujets sensibles tels que la sécurité, la santé et les faits d’actualité. 

Nos conseils : 

• Favoriser les IA génératives qui citent leurs sources : Mistral AI, GPT-5, Copilot de Microsoft. 

• Cliquer sur les liens proposés par l’IA pour inspecter le contenu des sites cités et leur fiabilité (notamment dans les mentions légales et rubriques « À propos », « Qui sommes-nous ? »). 

Ce processus de vérification des sources avec votre enfant l’inscrit par ailleurs dans une démarche active et non plus passive de récupération de l’information et l’aide à développer des compétences essentielles pour affiner son esprit critique.
 

L’IA, un nouveau confident ? 

Certaines IA génératives sont aussi spécifiquement entraînées pour des interactions empathiques et d’analyse d’émotions exprimées par les utilisateurs et peuvent faire office d’agents conversationnels appelés chatbots. Des applications comme Replika, Character.AI, ou des IA intégrées aux réseaux sociaux comme My AI de Snapchat, proposent des amis virtuels, populaires chez les jeunes usagers, et promettent une écoute sans jugement garantie 24h/24, 7j/7. Une pratique qui n’est pas sans risques : elle peut contribuer à développer une dépendance affective vis-à-vis de la machine, et donc favoriser l’isolement social ; mais aussi recevoir de mauvais conseils de ces chatbots, notamment dans le cas de problèmes liés à la santé, la dépression, au harcèlement, etc.

Pour vous assurer que votre enfant utilise ces chatbots de manière raisonnée, il est important d’aborder certaines questions avec lui : 

• Informez-vous auprès de votre enfant, sans jugement, sur ses usages de l’IA : qu’est-ce qu’elle lui apporte, comment se sent-il en l’utilisant, si cela affecte ses relations sociales…

• Expliquez à votre enfant le fonctionnement de ces chatbots : il n’y a ni empathie, ni émotion, mais simplement un système d’apprentissage de la machine qui s’alimente des interactions des autres utilisateurs de la plateforme

• Expliquez l’utilité de ces chatbots pour les entreprises qui les exploitent : maintenir toujours plus l’attention et l’engagement des utilisateurs sur la plateforme, récolter des données personnelles afin de les revendre à des entreprises pour de la publicité ciblée.

• Rappelez-lui le rôle primordial des relations humaines et sociales dans la « vraie vie » et dans le développement des compétences sociales et affectives des individus. Encouragez-le à exprimer ses sentiments et émotions avec ses amis, sa famille. De même, rappelez à votre enfant qu’en cas de problèmes, ou de détresse émotionnelle, vous êtes là pour lui, et que l’IA ne remplace en aucun cas les consultations avec un spécialiste de la santé mentale. 

• Déterminez ensemble des règles d’utilisations de ces outils : une durée limitée et des moments appropriés pour cela. Rappelez aussi que certaines données personnelles ne doivent jamais être communiquées (envoi de photos, de vidéos, de données personnelles susceptibles d’être revendues à des entreprises pour cibler leurs publicités). 
Vous pouvez aussi planifier des moments sans écran en famille : apprendre à avoir une utilisation raisonnée des écrans, c’est plus simple quand on le fait tous ensemble ! 
 

Quand l’IA devient un outil de cyberviolences

Tout comme l’IA peut contribuer à propager de fausses informations à cause de ses « hallucinations », elle peut tout aussi bien fabriquer des photomontages, et vidéos truquées toujours plus réalistes, appelés deepfakes, sur simple demande d’utilisateurs. Ces détournements de photo, plus ou moins malveillants, peuvent toucher des personnalités connues et publiques, tout comme des personnes anonymes, à qui on a subtilisé des photos publiées en ligne.

L’exemple récent de Grok (IA du réseau social X) qui s’est mis à dénuder des photos de personnes célèbres ou non sur demande des internautes, nous a montré que personne n’était à l’abri de ces utilisations abusives. 
Il est nécessaire d’expliquer à votre enfant que la création de ce genre de contenu, même dans un but humoristique, est une atteinte à la vie privée et au droit à l’image, un délit puni par la justice. En effet, si le détournement est numérique, les conséquences sur la vie et la réputation de la victime sont, elles, bien réelles.
 

L’IA : un outil pour la production créative… 

Création de musique, de contenu vidéo, de visuels graphiques : tout est désormais possible et à portée d’un clic ! Mais il existe d’autres alternatives ne nécessitant pas d’IA pour créer. Des applications aussi simples à utiliser tels que Groovepad, Capcut ou Canva, permettent de développer la créativité et assurent une valeur authentique et originale d’une création.

Il est nécessaire d’encourager votre enfant à continuer de faire travailler son imagination en utilisant ces logiciels créatifs en premier lieu, puis faire appel à l’IA dans un second temps pour résoudre des blocages, pour la correction orthographique, la création de sous-titres, synthétiser une idée, etc.
 

…. À utiliser avec parcimonie ! 

Comme nous l’avions déjà expliqué dans un autre article du blog, l’IA est une technologie extrêmement énergivore : Alors qu’un prompt sur Chat GPT4 équivaut à plus de 6 recherches Google, la création d’une image en haute définition par une IA consomme autant d’énergie que la recharge complète d’un téléphone portable. 

D’où la nécessité de faire prendre conscience aux enfants le coût environnemental et énergétique de cette technologie, et les questions à se poser avant de l’utiliser : 
• Est-ce que je peux trouver cette information ailleurs ? (livres, magazines, sur un moteur de recherche…)
• La réponse au prompt sera-t-elle utile dans mes recherches, dans mon projet ? 
• Comment puis-je limiter les réponses de l’IA à mon prompt ? (être clair et précis dans sa demande, définir clairement la tâche à réaliser, donner un exemple concret si besoin )  
 

En Bref 

Comme toute nouvelle technologie aux possibilités illimitées, il est important d’accompagner votre enfant dans une utilisation raisonnée de l’IA, et de le prévenir des mésusages de celle-ci : 

• L’aider à vérifier les sources avancées par l’IA lors d’une recherche d’informations.
• L’accompagner dans le développement de l’esprit critique sur les informations, les images et vidéos diffusées sur internet pouvant être générées par IA. Le prévenir des mauvais usages liés à l’IA, notamment des deepfakes.
• Avoir une discussion bienveillante et sans jugement sur ses usages de l’IA, l’orienter vers des relations sociales réelles s’il utilise souvent un chatbot.
• Lui conseiller des applications de création artistique sans faire usage de l’IA, afin qu’il garde le contrôle sur le processus créatif et réflexif : cela rendra son travail plus authentique, original et personnel.