Les lois et directives du canton de Fribourg sont formulées de manière technologiquement neutre et comprennent des dispositions spécifiques qui garantissent que la protection des données et le respect des exigences légales sont assurés.
L'IA et la loi
RSF 411.0.1 - Loi sur la scolarité obligatoire (loi scolaire, LS)
Art. 43 Banques de données ou fichiers d'élèves
- La création de banques de données ou de fichiers concernant les élèves n'est autorisée que pour assurer le suivi de leur parcours scolaire, faciliter le pilotage du système scolaire et sa gestion administrative, établir des statistiques ou servir à des fins de recherches scientifiques.
- Le Conseil d'Etat détermine le contenu des banques de données ou des fichiers, les modalités d'accès et de transmission des données ainsi que les conditions de leur archivage ou destruction.
Implications pour les écoles
Les prompts que nous saisissons dans une IA sont stockées par le fournisseur de l'IA. Nous n'avons aucun contrôle sur le lieu, la manière et la durée de stockage de ces données, ni sur les personnes qui y ont accès. Lorsqu'une IA est utilisée, aucune donnée personnelle ne peut être utilisée et le prompt ne doit pas permettre d'identifier la personne concernée.
RSF 17.1 - Loi sur la protection des données (LPrD)
Art. 7 Finalité
- Les données personnelles ne peuvent être collectées que pour un usage déterminé et reconnaissable. Elles ne peuvent être traitées ultérieurement que dans ce but ou dans un but qui, selon les règles de la bonne foi, est compatible avec lui.
Art. 8 Proportionnalité
- Les données et les modes de traitement doivent être nécessaires, appropriés et non excessifs par rapport au but du traitement.
Implications pour les écoles
Les écoles ne peuvent utiliser les données personnelles que si cela est nécessaire à l'accomplissement de leur mission. De plus, l'utilisation doit être nécessaire et adaptée à l’objectif visé. L’IA n'est pas un moyen approprié pour traiter les données personnelles. Si une IA est utilisée pour générer un retour, une lettre aux parents, une fiche de travail, etc., aucune donnée personnelle ne doit être employée, et le prompt ne doit pas permettre d'identifier la personne concernée.
RSF 17.1 - Loi sur la protection des données (LPrD)
Art. 18 Externalisation – Principes
- Les lieux de traitement doivent être situés en tout temps sur le territoire suisse ou sur le territoire d'un Etat garantissant un niveau de protection des données adéquat.
Implications pour les écoles
Lorsque nous saisissons des informations dans ChatGPT ou dans un autre site d'IA, ces données sont enregistrées sur des serveurs. Ces serveurs se trouvent souvent dans des pays dont le niveau de protection ne correspond pas à celui exigé par la loi sur la protection des données. Avant qu'une IA puisse être utilisée dans l'enseignement, elle doit donc être contrôlée à cet égard.
Directives relatives à l'utilisation d'internet et des plateformes numériques dans les écoles des Directions de la formation et des affaires culturelles, de l'économie, de I'emploi et de la formation professionnelle et des institutions, de l'agriculture et des forêts
Art. 6 Politique d'usage
- Seules les plateformes fournies par l'État peuvent être utilisées pour traiter les données des élèves et du personnel des écoles.
Implications pour les écoles
Si une IA autre que celle fournie par l'État est utilisée, aucune donnée personnelle telle que l'adresse, le nom, la date de naissance, ... ne doit être utilisée. Avant d'utiliser des photos, des vidéos ou des fichiers audio comme prompteur, il convient de les débarrasser des métadonnées (données relatives aux appareils, données de localisation, ...).
Directives relatives à l'utilisation d'internet et des plateformes numériques dans les écoles des Directions de la formation et des affaires culturelles, de l'économie, de I'emploi et de la formation professionnelle et des institutions, de l'agriculture et des forêts
Art. 8 Comptes - utilisation
- Pour les plateformes tierces reconnues par la DFAC (art. 16), il est possible d'utiliser I'adresse du compte pour s'identifier et se loguer dans le respect des restrictions d'utilisation. Dans le cas où I'identification ne nécessite pas d'adresse de courriel, I'anonymisation du profil est exigée.
Implications pour les écoles
Seules les plateformes figurant sur la liste des plateformes tierces peuvent être utilisées avec le compte d'utilisateur de l'État (...@studentfr.ch / ...@edufr.ch).
Directives relatives à l’utilisation des solutions de gestion administrative et pédagogique des écoles du canton de Fribourg
Art. 9 Secret de fonction et respect de la confidentialité
- L’utilisateur-trice a, dans l’exercice de ses fonctions et activités, accès à des données et des informations personnelles, sensibles ou confidentielles, au sens de l’art. 4 LPrD, qui ne sont pas accessibles au public. Il lui est interdit d’utiliser ou de révéler ces données à des tiers non autorisés. Ces obligations demeurent après la cessation des rapports de service.
Implications pour les écoles
La transmission d'informations non publiques à des tiers indéterminés est interdite.
Droits d'auteur
Dans le cadre des droits d'auteur des contenus générés avec l'aide de l'IA, il convient de faire une distinction entre :
Les œuvres entièrement générés par un système d'intelligence artificielle et sans intervention humaine.
Dans le premier cas, les œuvres ne bénéficient pas de la protection du droit d'auteur. Ces œuvres peuvent donc être librement copiées et utilisées, sans que le créateur – ici l'IA ou son exploitant – ne puisse revendiquer de droits sur elles. Cependant, une œuvre générée par une IA peut être protégée par le droit d'auteur si elle incorpore de manière reconnaissable des éléments protégés issus d'autres œuvres. Il est également essentiel de prendre en compte les conditions d'utilisation ou les termes du service de l'IA utilisée, car ceux-ci peuvent restreindre l'exploitation commerciale du contenu produit.
Les œuvres créées par des humains qui ont recours à des outils d'intelligence artificielle pendant le processus créatif.
Dans ce cas, les créateurs interviennent dans le processus de fabrication et confèrent ainsi un caractère individuel au résultat. Il s'agit donc d'œuvres créées par des humains à l'aide de systèmes, d'outils ou de techniques d'IA. Dans ce cas, l'IA est considérée comme un outil, à l'instar d'un pinceau dans les mains d'un artiste, et l'œuvre est protégée par le droit d'auteur.
Recommandations d'utilisation
Lors de l'utilisation de l'IA générative, il est important de respecter quelques recommandations avant, pendant et après son utilisation.
Avant l’utilisation, penser à :
- respecter les directives d’utilisations fribourgeoises Directives relatives à l'utilisation d'internet et des plateformes numériques
- garantir la protection des données personnelles de mes collègues, étudiants, du personnel des écoles, ...
- choisir des outils reconnus et mise en avant par l’état de Fribourg (Liste des plateformes tierces DFAC et Critères d'analyse des plateformes)
- vérifier si l’outil IA respecte les lois suisses ou RGPD
- définir les objectifs d’utilisation
- définir le degré de délégation souhaité pour l’outil
- se questionner sur la plus-value de l’IA (amélioration, transformation)
- évaluer si l’IA facilite la compréhension et l’engagement dans l’enseignement
Pendant l’utilisation, penser à :
- remettre en question de manière critique le contenu généré par l’IA
- se méfier des hallucinations possibles de l’IA
- comparer les résultats avec d’autres sources d’informations
- faire prendre conscience que les outils d'IA générative ont été entraînés avec des données qui contiennent et peuvent refléter des préjugés (âge, sexe, origine,...)
Après l’utilisation, penser à :
- vérifier la notion de plagiat et de droits d’auteurs
- créditer correctement les résultats obtenus
- pouvoir justifier l’utilisation de l’IA (quels critères ?)
- être responsable du contenu de l’IA
Cas concrets d'utilisation
La numérisation croissante et l'utilisation de technologies modernes influencent de plus en plus le domaine de l'éducation. Dans ce contexte, l'intelligence artificielle prend de plus en plus d'importance.
Depuis que les outils d'IA générative, initialement principalement connus sous le nom de ChatGPT, ont fait leur apparition sur Internet fin 2022, des questions cruciales se posent pour l'éducation. L'utilisation de l'IA en tant qu'outil va probablement modifier l'enseignement, comme cela a été le cas pour d'autres outils. De ce fait, le rôle de l'enseignant va également évoluer.
Voici quelques scénarios illustrant l'utilisation de l'IA dans l'enseignement et les changements qui en découlent.