Les dangers de l’ IA

« Nous ne sommes pas des humains dépendants de l’ IA, mais de humains améliorés par l’IA »

Konmin

Voici quelques règles à respecter pour utiliser une IA dans un contexte administratif ou de service public. Ces règles garantissent la conformité juridique, la qualité et la sécurité des échanges :

Protéger les données et la confidentialité

Ne jamais entrer d’informations personnelles dans une IA grand public
Pas de noms, d’adresses, de numéros de dossier ou d’informations sensibles.
Utiliser des outils sécurisés
Préférer des IA professionnelles et conformes au RGPD, ou des solutions européennes, plutôt que des versions gratuites accessibles à tous.
Éviter les IA gratuites pour les documents sensibles
Elles ne garantissent pas toujours la protection des données.
Anonymiser les informations avant usage
Remplacer les données personnelles par des mentions neutres comme « [Nom] », « [Date] », etc.
Ne pas conserver les échanges sensibles
Éviter de sauvegarder ou d’archiver des conversations contenant des informations confidentielles dans l’IA.

Toujours vérifier le résultat de l’IA

Relire attentivement le texte
L’IA peut se tromper (faits, droit, ton). Il faut toujours relire et corriger avant utilisation.
Vérifier que le texte est conforme aux règles
S’assurer que le courrier respecte bien les obligations légales et les modèles officiels (délais, mentions obligatoires, droits des usagers).
Adapter le style du message
Les textes générés sont souvent trop généraux. Il faut les ajuster pour qu’ils correspondent au ton habituel de la collectivité et au public concerné.

Transparence et traçabilité de l’IA

L’humain garde le contrôle
L’IA ne doit pas prendre seule des décisions importantes qui touchent aux droits des gens (refus, sanctions, décisions individuelles). C’est toujours une personne qui décide à la fin.
Garder une trace de l’IA
Si l’IA est utilisée pour aider à écrire des documents, il faut le noter dans le dossier ou le système utilisé. Cela permet de savoir quand et comment l’IA a été utilisée.
Prévenir les usagers
Si l’IA est utilisée pour répondre à quelqu’un (comme via un chatbot), il faut le dire clairement :

« Ce message a été généré avec l’aide d’un outil d’intelligence artificielle, puis relu par nos services. »

4. Respecter les règles de rédaction administrative

Vérifier la structure du courrier
L’IA peut oublier des éléments importants. Il faut s’assurer que le document contient bien :
un objet clair
les coordonnées complètes du service
les mentions légales obligatoires (délais, voies de recours)
la date et la signature
Faire attention au ton utilisé
Le message doit rester neutre, respectueux et professionnel.
Éviter les formulations trop familières, floues ou maladroites proposées par l’IA.
Utiliser des mots qui respectent tout le monde
Vérifier que le vocabulaire ne soit ni discriminant, ni excluant, et qu’il s’adresse à tous de façon équitable.

Sécurité et protection des données

Utiliser des outils sûrs
Pour les mairies, régions ou autres services publics, il vaut mieux utiliser des IA développées et hébergées en Europe (ex : Mistral AI en France, solutions allemandes), ou des versions “pro” d’outils américains à condition que les données restent en Europe et soient protégées par un accord de confidentialité.
Éviter les fuites
Ne pas copier-coller des informations sensibles dans des outils non sécurisés.
Préférer des environnements sûrs et contrôlés, comme les outils métiers déjà intégrés.

Ce que l’IA peut ou ne peut pas faire

À éviter avec l’IA
Courriers contenant des secrets médicaux, sociaux ou judiciaires.
Décisions individuelles (refus, sanctions) sans qu’une personne valide.
Échanges qui demandent de l’empathie ou une nuance humaine (ex : condoléances, situations sociales délicates).
À utiliser avec l’IA
Reformuler des phrases ou des paragraphes (sans données sensibles).
Créer des brouillons ou des structures de courriers types.
Aider à rédiger des réponses standards (FAQ, accusés de réception).

Bonnes Pratiques :

Étape	Action
Préparation	Anonymiser le texte avant soumission à l’IA.
Génération	Utiliser une IA sécurisée et souveraine.
Relecture	Vérifier les mentions légales, le ton, et la précision des informations.
Validation	Faire relire par un agent ou un service compétent (juridique, métier).
Archivage	Conserver une trace du courrier final (sans les versions intermédiaires générées par l’IA).

Ne pas utiliser l’IA pour :

Les courriers impliquant des secrets médicaux, sociaux ou judiciaires.

Les décisions individuelles (refus, sanctions) sans validation humaine.

Les échanges nécessitant une empathie ou une nuance humaine (ex : courriers de condoléances, situations sociales complexes).

Préférer l’IA pour :

La reformulation de phrases ou de paragraphes (sans données sensibles).

La génération de brouillons ou de structures de courriers types.

L’aide à la rédaction de réponses standardisées (FAQ, accusés de réception).

À retenir

L’IA est un outil d’aide, pas un décideur : Toujours garder un humain dans la boucle pour valider le résultat.
La sécurité prime : Ne jamais compromettre la confidentialité des données pour gagner du temps.
La conformité est obligatoire : Un courrier mal rédigé ou non conforme peut engager la responsabilité de la collectivité.