Charte d’utilisation de l’intelligence artificielle générative par les étudiants et étudiantes au sein de l’UFR SHS

L’UFR SHS d’UPCité propose des formations au sein de trois départements que sont les Sciences du langage, les Sciences de l’éducation et de la formation et les Sciences sociales.

La présente charte a pour vocation d’encadrer les utilisations des systèmes d’intelligences artificielles (IA) et d’intelligences artificielles génératives (IAg) par les étudiants et étudiantes de l’UFR SHS d’UPCité. Elle vise également à clarifier certaines notions.

Cette charte s’inscrit dans un ensemble de lois régissant l’action de la France et de l’Union européenne.

Photo de Nahrizul Kadrisur Unsplash

1 – Principe général

L’encadrement des utilisations des systèmes d’intelligence artificielles (IA) et d’intelligence artificielle générative (IAg) par les étudiants et étudiantes de l’UFR SHS d’UPCité cible particulièrement les devoirs et travaux à rendre, qu’ils soient notés ou pas : épreuves écrites terminales, épreuves écrites de rattrapage ou de deuxième session, devoirs en temps limités en salle de classe, devoir réalisé en dehors de l’établissement, activités d’une séance, activités à distance, etc.

Cet encadrement postule que tout enseignant et toute enseignante de l’UFR SHS d’UPCité a la responsabilité pédagogique du devoir et des travaux qu’il ou elle donne. C’est donc chaque enseignant et chaque enseignante qui précise sur le texte des devoirs et des travaux à rendre, les documents ou matériels autorisés (dictionnaire, calculatrice, codes, internet, logiciels, IA, IAg…) ainsi que toutes les modalités concernant ces devoirs et ces travaux à rendre. Sans indication, aucun matériel ou document n’est autorisé. C’est donc également valable pour toute utilisation des systèmes faisant intervenir des Intelligences Artificielles (IA) ou Intelligences Artificielles génératives (IAg).

2 – Recommandations de l’équipe enseignante

2.1 Une attention au plagiat

Le plagiat consiste à laisser penser que la production d’un auteur est sa propre production (texte, graphique, image, idée, etc.). Le plagiat constitue un délit[1] ; une faute très grave, elle est lourdement sanctionnée.

Pour éviter le plagiat, il faut toujours citer ses sources, rechercher les sources originelles. Lorsque c’est le texte d’un auteur, on cite le texte entre guillemets. Lorsque c’est une idée qui est reprise, reformulée ou résumée, on cite l’auteur en indiquant où l’idée a été exprimée (article, ouvrage, conférence, etc.).

Des normes existent pour organiser et présenter les sources[2].

[1] Le plagiat, un délit https://www.enseignementsup-recherche.gouv.fr/fr/periode-d-examen-attention-plagiat-48655

[2] Ordre des éléments Normes ISO 690 https://fr.wikipedia.org/wiki/ISO_690

2.2 Une attention à l’utilisation des IA et IAg

L’utilisation de systèmes faisant intervenir des Intelligences Artificielles (IA) ou Intelligences Artificielles génératives (IAg) rend très difficile, voire impossible, le contrôle de l’information récupérée et l’identification des auteurs à l’origine des idées développées générées.

Sans contrôle rigoureux et systématique, l’utilisation des Intelligences Artificielles (IA) ou des Intelligences Artificielles génératives (IAg) peut conduire à commettre des erreurs : écrire des contresens, inclure des travaux d’auteurs qui n’existent pas, des informations obsolètes ou erronées.

Dans la construction des devoirs et travaux, si des systèmes faisant intervenir des Intelligences Artificielles (IA) ou Intelligences Artificielles génératives (IAg) sont utilisés, il devient très difficile, voire impossible, d’éviter le plagiat.

L’équipe enseignante recommande donc aux étudiants et étudiantes de structurer et d’écrire eux-mêmes les devoirs et travaux à rendre aux enseignant·es, ce, quels que soient ces devoirs et travaux (activités courtes, fiches de lectures, travaux de groupes, mémoires, travaux encadrés, etc.) en s’appuyant essentiellement sur des lectures ou visionnages dont les auteurs sont clairement identifiés et que chaque étudiant et chaque étudiante peut facilement citer afin d’éviter tout plagiat, toute ambiguïté et toute sanction associée.

En cas de difficulté, chaque étudiant et chaque étudiante peut contacter l’enseignant référent ou l’enseignante référente du devoir ou du travail à rendre.

2.3 Une attention à la transparence

Toute utilisation de systèmes d’IA et d’IAg doit conduire à exposer la méthodologie de travail dans son devoir ou dans le travail à rendre.

Des précisions pourront être demandées par les enseignants et enseignantes dans un but réflexif, conduisant l’étudiant ou l’étudiante à comprendre le fonctionnement de systèmes d’IA et d’IAg et leurs limites ainsi que les règles à respecter pour une utilisation respectueuse de cette charte.

2.4 Une attention à la responsabilité individuelle

Chaque étudiant et chaque étudiante reste pleinement responsable des contenus des devoirs et travaux remis aux enseignants et enseignantes. Il en garantit leur fondement et leur légitimité.

 

3 – Autres recommandations

3.1 Développer ses connaissances et compétences

Faire appel à son esprit critique est indispensable pour l’utilisation de tout système d’IA et d’IAg afin qu’elle soit raisonnée, réfléchie et extrêmement rigoureuse en termes de procédures de vérifications des sources et des contenus ainsi qu’en termes de formulations des requêtes et utilisations et reformulations de tout type de textes provenant des réponses des systèmes machines.

L’objectif est que chaque étudiant et chaque étudiante soit un apprenant actif ou une apprenante active sans compromettre ni l’intégrité académique ni son autonomie intellectuelle.

3.2 Développer sa conscience des risques de manipulation des systèmes d’IA et d’IAg sur la pensée humaine

Chaque étudiant et chaque étudiante doit veiller à développer sa propre pensée, son propre raisonnement. Chacun et chacune doit prendre conscience des risques de manipulation des systèmes d’IA et d’IAg sur la pensée humaine.

Chacun et chacune doit comprendre en quoi et pourquoi les systèmes d’IA et d’IAg ne sont ni neutres, ni équitables, ni loyaux. Les biais peuvent engendrer des réponses à caractère raciste, sexiste, culturel, générationnel, social ou autres. Les biais peuvent être produits de façon consciente par des humains et aussi de façon inconsciente et non maîtrisée par les machines et les humains.

  • Les générations des textes, images, etc. sont issues de processus multiples et successifs dans lesquels des humains interviennent à plusieurs étapes intermédiaires pour orienter les réponses que ces machines produisent.
  • Les systèmes machines produisent des biais. Les biais peuvent être catégorisés, le tableau ci-contre présente un exemple de typologie.
Téléchargez la charte

⚠️ Les IA et IAg que chaque étudiant et étudiante utilise ne sont pas neutres

Chaque réponse reçue est le résultat de dizaines de biais accumulés.

Voici ce que chaque étudiant et étudiante doit savoir — et faire — pour travailler sérieusement.

D’où viennent les biais ? Concrètement, ça donne quoi ?

Les données d’entraînement

 

sont incomplètes ou déséquilibrées

Des réponses qui surreprésentent

 

certaines cultures ou perspectives

Les humains qui ont annoté les données

 

ont introduit leurs propres jugements

Des affirmations présentées

 

comme des faits établis

L’algorithme amplifie les tendances

 

les plus fréquentes — pas les plus vraies

Des oublis ou silences sur des sujets

 

minoritaires ou controversés

Les filtres et l’interface décident

 

ce qui est visible — ou pas

Un ton « raisonnable » qui peut masquer

 

des choix idéologiques implicites

 

Ce que chaque étudiant et étudiante peut faire dans ses devoirs pour développer une approche critique de ses utilisations

1. Croiser

Utiliser plusieurs IA et IAg pour comparer leurs orientations respectives

2. Remonter

Aller chercher les sources premières et évaluer leur valeur scientifique

3. Interroger

Exercer son esprit critique : qui parle ? depuis quelle perspective ?

Règle d’or pour un devoir universitaire

L’utilisation d’IA et d’IAg peut être une première étape d’orientation  —  pas une source.

Explorer un sujet, structurer une pensée, construire une argumentation,

évaluer la qualité et la pertinence des sources  

—

 ce sont des compétences fondamentales

que chaque étudiant et étudiante

doit construire par lui-même, par elle-même

=> et non à déléguer à une machine.

3.3 Développer sa conscience des enjeux écologiques liés aux développements des systèmes d’IA et d’IAg

Chaque étudiant et chaque étudiante doit veiller à développer sa conscience écologique du numérique. Les systèmes d’IA et d’IAg reposent sur des infrastructures énergivores et sont liés aux enjeux et logiques industrielles géopolitiques mondiales.

Chaque étudiant et chaque étudiante pourra interroger ses pratiques avant toute utilisation des systèmes d’IA et d’IAg :

  • L’utilisation est-elle pertinente pour cette tâche ?
  • La requête est-elle suffisamment précise et claire pour éviter de multiplier les générations de réponses ?
  • La réponse attendue n’est-elle pas plus fiable et plus rapide à identifier à partir d’une autre méthode ?
  • Quel travail va engendrer la génération d’un texte long en termes de procédures de vérifications ?

Chaque étudiant et chaque étudiante pourra mentionner les impacts environnementaux dans une discussion critique de son travail permettant de développer une culture écologique du numérique ainsi que ses capacités à contextualiser ses utilisations dans une perspective de sobriété et de responsabilité.

3.4 Développer ses pratiques de protection des données

Construire une posture à visée professionnelle de protection des données avec les systèmes d’IA et d’IAg conduit à ne pas transmettre de documents sensibles ou des données personnelles. L’utilisation des systèmes d’IA et d’IAg s’inscrit nécessairement en lien avec la connaissance des règlements tels que le Règlement Général sur la Protection des Données (RGPD) et les règlements internes.

3.5 Gestion des incidents

Tout incident lié à l’utilisation de tout système d’IA et d’IAg à UPCité (à partir d’appareils appartenant à l’Université) doit être signalé auprès du responsable de la formation suivie qui en fera part à la responsable de la mission IA, qu’il s’agisse d’erreurs, de pannes, de fuites de données, d’usages inappropriés, de réponses déstabilisantes.

4 – Vers une culture d’usage responsable et équitable du numérique et de tout système d’IA et d’IAg

L’UFR SHS encourage une appropriation lucide et créative des systèmes d’IA et d’IAg, dans une perspective d’éducation numérique critique, équitable, inclusive et responsable, respectueuse de la charte qui place chaque enseignant et chaque enseignante en tant que garant du cadrage spécifique lié à son enseignement.

Cela suppose que chaque étudiant et chaque étudiante apprenne à lire et à interpréter les réponses d’une IA comme des productions notamment probabilistes, et non comme des vérités établies ; qu’il et elle réfléchisse aux impacts sociaux, environnementaux, éthiques, politiques et épistémiques de ces technologies ; qu’il et elle adopte une posture de co-construction avec les systèmes d’IA et d’IAg, et non de dépendance.

5 – Glossaire

Le paradoxe de Jevons suggère qu’une amélioration de l’efficacité d’une technologie ne conduit pas nécessairement à une réduction de la consommation de ressources. En effet, lorsqu’une technologie devient plus performante, plus accessible ou moins coûteuse, son usage tend à se développer, ce qui peut conduire à une augmentation de son impact global. Cette observation invite à interroger la pertinence du recours aux systèmes d’IA et d’IAg, notamment au regard des éléments présentés au § 3.3.

Vers un glossaire critique des IA et IAg

Déconstruire les terminologies trompeuses pour comprendre ce que ces systèmes font vraiment

Terme anthropomorphisant Formulation critique proposée

Intelligence Artificielle (IA)



Suggère une pensée, un jugement, une conscience comparables à l’humain

Système de calcul statistique automatisé



Produit des résultats par calcul probabiliste sur des données, sans compréhension

Intelligences Artificielles génératives (IAg)



Suggère une capacité de création, d’imagination et d’originalité comparables à celles d’un auteur ou d’un artiste

Systèmes automatisés de production de contenu



Assemblent et recomposent des contenus existants par calcul statistique, sans intention ni originalité propres

Grand modèle de langage (LLM)



Évoque une maîtrise du langage, une compréhension du sens des mots

Moteur de prédiction textuelle



Calcule le mot statistiquement le plus probable selon le contexte donné

Prompt



Terme opaque issu du jargon technique, sans signification claire pour l’usager

Consigne de paramétrage



Instruction fournie au système pour orienter la production du résultat

Conversation



Suggère un échange humain, une relation, une réciprocité, une présence

Séquence de requêtes et de sorties



Succession de consignes et de réponses générées sans mémoire ni intention

Agent



Évoque une autonomie, une capacité d’initiative et de jugement propres

Instrument automatisé de collecte



Composant logiciel programmé pour enchaîner des tâches selon des règles prédéfinies, sans décision réelle

Hallucination



Emprunte à la psychologie humaine, banalise et excuse une défaillance grave

Erreur de génération non détectée



Production d’une information fausse présentée sans signal d’alerte

 

Terme anthropomorphisant Formulation critique proposée

Boîte noire



Métaphore qui naturalise l’opacité comme une fatalité technique

Système à explicabilité insuffisante



Traitement dont les critères de décision en entrée et en sortie ne sont pas lisibles

Apprendre / apprentissage



Renvoie à une acquisition cognitive, une progression, une compréhension

Ajustement paramétrique par itération



Modification automatique des pondérations selon les écarts mesurés sur les données

Comprendre / savoir



Attribue une intention et une conscience au système (« l’IA comprend que… »)

Traiter / produire en sortie



Le système traite une entrée et produit une sortie sans saisir le sens

IA de confiance / IA éthique



Formule marketing qui transpose des vertus humaines à un produit

Système conforme à un cadre réglementaire



Produit soumis à des obligations légales définies et vérifiables (ex. IA Act)

Pourquoi ce glossaire ?

Chaque terme anthropomorphisant est aussi une décision marketing. Nommer précisément ce que fait un système, c’est résister au transfert de confiance qu’il cherche à provoquer.

L’anthropomorphisation : un risque politique — pas seulement linguistique

Pourquoi les mots choisis par l’industrie ne sont pas innocents ?

1. Le terme anthropomorphisant crée une illusion de relation

« L’IA comprend », « l’agent décide », « la conversation »

$$\rightarrow \text{l’usager croit interagir avec une entité}$$

▼

2. L’illusion de relation favorise le transfert de confiance

On confie à un système ce qu’on ne confierait pas à un formulaire ou à une base de données

▼

3. Le transfert de confiance facilite l’intrusion dans la vie privée

Données personnelles, comportements, émotions, contexte domestique : tout devient collectable

▼

4. Ce que l’IA Act tente d’encadrer comme risque inacceptable

Manipulation comportementale, exploitation de vulnérabilités, opacité des systèmes à haut risque

▼

Ce que chaque étudiant et étudiante peut faire

Nommer juste Questionner Résister
Utiliser les termes du glossaire critique Qui bénéficie de ce vocabulaire et pourquoi ? Refuser le transfert de confiance non fondé

À lire aussi