Aux \u00c9tats-Unis, Microsoft a conclu avec deux organisations d\u2019enseignants un accord sur l\u2019usage de l\u2019intelligence artificielle dans les \u00e9coles. Pour les services et les districts scolaires concern\u00e9s, le texte pr\u00e9voit notamment de ne pas utiliser les donn\u00e9es des \u00e9l\u00e8ves et des professeurs pour entra\u00eener des mod\u00e8les, sous r\u00e9serve d\u2019une exception limit\u00e9e li\u00e9e \u00e0 leur s\u00e9curit\u00e9. Il encadre aussi certains \u00ab compagnons \u00bb IA con\u00e7us pour cr\u00e9er une d\u00e9pendance affective et maintient les d\u00e9cisions importantes sous contr\u00f4le humain. Tr\u00e8s relay\u00e9 dans la presse am\u00e9ricaine, cet accord pose une question qui concerne aussi les familles fran\u00e7aises : qui prot\u00e8ge les conversations des enfants avec l\u2019IA scolaire ?<\/p>\n
Dans une salle de classe, un assistant num\u00e9rique peut expliquer une notion, proposer des exercices ou aider un enseignant \u00e0 pr\u00e9parer un cours. Mais il peut aussi recevoir les erreurs d\u2019un \u00e9l\u00e8ve, ses questions personnelles, des documents scolaires et parfois des informations sensibles sur sa situation.<\/p>\n
Ces donn\u00e9es ne ressemblent pas \u00e0 une simple recherche m\u00e9t\u00e9o. Elles concernent des mineurs, dans un contexte o\u00f9 l\u2019\u00e9cole peut rendre l\u2019usage d\u2019un outil pratiquement incontournable. Parents et enseignants veulent donc savoir qui lit les \u00e9changes, combien de temps ils sont conserv\u00e9s et s\u2019ils am\u00e9liorent les mod\u00e8les de l\u2019entreprise.<\/p>\n
Le d\u00e9bat s\u2019est renforc\u00e9 aux \u00c9tats-Unis avec l\u2019arriv\u00e9e de fonctions d\u2019IA dans les logiciels scolaires. Les grands districts de New York et de Los Angeles ont d\u00e9cid\u00e9 de ralentir certains usages destin\u00e9s aux \u00e9l\u00e8ves le temps d\u2019\u00e9valuer les risques, rapporte Associated Press. Dans ce contexte, l\u2019AFT et l\u2019UFT ont n\u00e9goci\u00e9 avec Microsoft des protections contractuelles plut\u00f4t que de s\u2019en remettre \u00e0 de simples principes affich\u00e9s sur un site web.<\/p>\n
La premi\u00e8re protection concerne l\u2019entra\u00eenement des mod\u00e8les<\/strong>. Un syst\u00e8me d\u2019IA peut \u00eatre am\u00e9lior\u00e9 gr\u00e2ce \u00e0 des exemples d\u2019interactions. L\u2019accord annonc\u00e9 pr\u00e9voit que les donn\u00e9es des \u00e9l\u00e8ves et des enseignants ne soient pas utilis\u00e9es \u00e0 cette fin, sous r\u00e9serve d\u2019une exception limit\u00e9e li\u00e9e \u00e0 la s\u00e9curit\u00e9 des \u00e9l\u00e8ves d\u00e9crite par Associated Press.<\/p>\n La deuxi\u00e8me concerne la finalit\u00e9 des donn\u00e9es. Selon Microsoft et les syndicats, elles ne doivent pas \u00eatre vendues, r\u00e9utilis\u00e9es pour la publicit\u00e9 ou d\u00e9tourn\u00e9es de l\u2019usage scolaire pr\u00e9vu. Les \u00e9tablissements doivent pouvoir contr\u00f4ler leur conservation et leur suppression.<\/p>\n La troisi\u00e8me porte sur la s\u00e9curit\u00e9 de l\u2019exp\u00e9rience. Les outils ne doivent pas manipuler les \u00e9l\u00e8ves ni les inciter \u00e0 rester engag\u00e9s plus longtemps que n\u00e9cessaire \u00e0 l\u2019apprentissage. Les fonctions de type \u00ab compagnon \u00bb cherchant \u00e0 cr\u00e9er un attachement \u00e9motionnel sont vis\u00e9es par les restrictions rapport\u00e9es par Associated Press.<\/p>\n Enfin, l\u2019IA ne doit pas prendre seule des d\u00e9cisions importantes. Un logiciel peut sugg\u00e9rer une piste p\u00e9dagogique, mais un enseignant ou un responsable humain doit rester capable de comprendre, contester et corriger une recommandation.<\/p>\n Une promesse g\u00e9n\u00e9rale n\u2019a que peu de valeur si une \u00e9cole ne peut pas v\u00e9rifier ce qu\u2019il advient des donn\u00e9es. Les organisations pr\u00e9sentent donc l\u2019accord comme juridiquement applicable dans les contrats avec les districts scolaires am\u00e9ricains. Ceux-ci doivent pouvoir obtenir des informations en langage clair sur les produits, leurs changements et leurs risques.<\/p>\n Des audits par des tiers sont \u00e9galement pr\u00e9vus, selon Associated Press. Leur r\u00f4le serait de v\u00e9rifier que les pratiques de l\u2019entreprise correspondent aux engagements pris : collecte limit\u00e9e, pas d\u2019utilisation interdite pour l\u2019entra\u00eenement, s\u00e9curit\u00e9 suffisante et possibilit\u00e9 de demander des comptes. Le texte int\u00e9gral pr\u00e9cise que les protections doivent \u00eatre int\u00e9gr\u00e9es \u00e0 l\u2019accord du district demandeur : il ne faut pas supposer que chaque \u00e9cole am\u00e9ricaine est automatiquement couverte de mani\u00e8re identique.<\/p>\n Il faudra cependant lire les modalit\u00e9s produit par produit. Un engagement appliqu\u00e9 aux services scolaires de Microsoft ne signifie pas automatiquement que tous les chatbots utilis\u00e9s personnellement par un \u00e9l\u00e8ve, sur son t\u00e9l\u00e9phone ou avec un compte priv\u00e9, b\u00e9n\u00e9ficient des m\u00eames r\u00e8gles.<\/p>\n Pour les familles am\u00e9ricaines concern\u00e9es, l\u2019accord pourrait rendre plus lisible l\u2019usage de l\u2019IA par l\u2019\u00e9tablissement : quels outils sont utilis\u00e9s, quelles donn\u00e9es sont trait\u00e9es et \u00e0 qui s\u2019adresser en cas de probl\u00e8me. Pour les enseignants, il affirme que l\u2019IA reste un appui et non un d\u00e9cideur \u00e0 leur place.<\/p>\n Un exemple simple : un outil peut proposer des exercices adapt\u00e9s \u00e0 un \u00e9l\u00e8ve qui bute sur les fractions. Mais il ne devrait pas conclure seul que cet enfant doit \u00eatre orient\u00e9 vers une fili\u00e8re, ni utiliser ses difficult\u00e9s pour entra\u00eener un mod\u00e8le commercial.<\/p>\n Pour la France, il n\u2019y a aucun effet juridique direct<\/strong> de cet accord am\u00e9ricain. En revanche, le principe est transposable dans le d\u00e9bat public : un \u00e9tablissement devrait demander \u00e0 ses fournisseurs d\u2019IA des r\u00e9ponses pr\u00e9cises sur l\u2019entra\u00eenement, la dur\u00e9e de conservation, l\u2019acc\u00e8s aux donn\u00e9es, les audits et la supervision humaine. Les r\u00e8gles europ\u00e9ennes sur les donn\u00e9es personnelles s\u2019ajoutent naturellement \u00e0 ces questions, sans rendre l\u2019accord am\u00e9ricain applicable en France.<\/p>\n L\u2019accord ne r\u00e9sout pas tous les probl\u00e8mes de l\u2019IA \u00e0 l\u2019\u00e9cole. Il ne d\u00e9montre pas qu\u2019un assistant am\u00e9liore les r\u00e9sultats des \u00e9l\u00e8ves, ni qu\u2019il est adapt\u00e9 \u00e0 tous les \u00e2ges. Il ne traite pas non plus de tous les concurrents de Microsoft.<\/p>\n Associated Press rapporte qu\u2019OpenAI et Anthropic discutaient eux aussi de protections avec le syndicat, tandis qu\u2019aucun engagement \u00e9quivalent de Google n\u2019\u00e9tait annonc\u00e9 au moment du reportage. Il faut donc \u00e9viter de pr\u00e9senter le texte comme une norme d\u00e9j\u00e0 adopt\u00e9e par toute l\u2019industrie.<\/p>\n Reste enfin la question de la d\u00e9pendance p\u00e9dagogique : m\u00eame si les donn\u00e9es sont prot\u00e9g\u00e9es, une \u00e9cole peut d\u00e9cider que certains apprentissages doivent se faire sans \u00e9cran ni assistant. Confidentialit\u00e9 et qualit\u00e9 de l\u2019enseignement sont deux crit\u00e8res diff\u00e9rents.<\/p>\n Le pr\u00e9c\u00e9dent le plus int\u00e9ressant n\u2019est pas technologique, mais contractuel. Les \u00e9coles am\u00e9ricaines essaient de transformer de grandes d\u00e9clarations sur \u00ab l\u2019IA responsable \u00bb en obligations v\u00e9rifiables et opposables \u00e0 un fournisseur.<\/p>\n Pour le grand public, c\u2019est un rappel utile : demander si une IA est performante ne suffit pas. Il faut demander ce qu\u2019elle fait des donn\u00e9es, quelles d\u00e9cisions elle influence et qui peut la contr\u00f4ler. Cette grille de lecture vaut aussi pour les outils de sant\u00e9, de recrutement ou de banque.<\/p>\n L\u2019annonce porte sur les donn\u00e9es des \u00e9l\u00e8ves et des enseignants dans le cadre des services scolaires concern\u00e9s. Elle ne permet pas de d\u00e9duire les r\u00e8gles applicables \u00e0 tous les produits Microsoft ou aux comptes personnels.<\/p>\n Non. Il a \u00e9t\u00e9 n\u00e9goci\u00e9 pour les districts scolaires am\u00e9ricains. Les \u00e9tablissements fran\u00e7ais doivent se r\u00e9f\u00e9rer aux contrats qui les lient \u00e0 leurs fournisseurs et au droit applicable en France et dans l\u2019Union europ\u00e9enne.<\/p>\n L\u2019accord n\u2019est pas une interdiction g\u00e9n\u00e9rale. Il encadre certains usages et laisse aux \u00e9coles le choix de d\u00e9ployer ou non les outils concern\u00e9s.<\/p>\n Microsoft and two American unions have reached an agreement to regulate AI in schools: no training on student data, human oversight, and transparency. What does it actually entail?<\/p>","protected":false},"author":5,"featured_media":6959,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"om_disable_all_campaigns":false,"_monsterinsights_skip_tracking":false,"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":true,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_memberships_contains_paid_content":false,"footnotes":""},"categories":[3,15,16,4],"tags":[],"class_list":["post-6958","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-actus","category-edtech","category-education","category-intelligence-artificielle"],"acf":[],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\tComment cette protection peut-elle fonctionner en pratique ?<\/h2>\n
Qu\u2019est-ce que cela change pour les parents et les enseignants ?<\/h2>\n
Les limites d\u2019un accord volontaire<\/h2>\n
Our reading<\/h2>\n
Frequently Asked Questions<\/h2>\n
Microsoft va-t-il cesser d\u2019utiliser toutes les conversations pour entra\u00eener son IA ?<\/h3>\n
L\u2019accord s\u2019applique-t-il aux \u00e9coles fran\u00e7aises ?<\/h3>\n
Les \u00e9l\u00e8ves ne pourront-ils plus utiliser l\u2019IA ?<\/h3>\n
Sources<\/h2>\n
\n