Le programme AI Buddy d’UCOP met l’apprentissage entre pairs à l’épreuve des risques pour la confidentialité

L’University of California Office of the President a lancé un programme AI Buddy volontaire, malgré des questions non résolues concernant la confidentialité, l’exactitude et le temps des employés.

Le programme associe des utilisateurs expérimentés de l’IA à des collègues souhaitant bénéficier de conseils pratiques. Les participants peuvent explorer des outils tels que ChatGPT, Claude, Google Gemini et Microsoft Copilot grâce à un accompagnement direct entre pairs.

Cette conception donne à l’initiative une portée plus importante qu’un simple webinaire professionnel. UCOP teste si des collègues de confiance peuvent transformer une sensibilisation générale à l’IA en pratiques quotidiennes responsables, sans banaliser des expérimentations dangereuses.

La tension repose sur deux besoins légitimes. Les employés doivent pouvoir comprendre des systèmes qui transforment déjà le travail administratif. Mais ils traitent aussi des informations institutionnelles qui ne peuvent pas être saisies sans risque dans n’importe quel chatbot.

UCOP fait donc face à un défi partagé par les universités et d’autres grands employeurs. L’accès et l’enthousiasme peuvent se diffuser rapidement, mais le jugement fiable se développe plus lentement.

UCOP transforme la formation à l’IA en relation entre pairs

Le programme AI Buddy fait évoluer l’éducation à l’IA au travail, d’une instruction programmée vers un apprentissage volontaire de personne à personne.

Selon le rapport original sur son déploiement, le porte-parole d’UCOP Stett Holbrook a décrit le programme comme une initiative interne et volontaire destinée à la formation des employés. Les participants les plus expérimentés servent de buddies auprès de collègues ayant moins d’expérience avec les outils d’IA.

Le modèle d’appariement reconnaît une faiblesse fréquente des formations technologiques formelles. Une présentation peut expliquer des fonctionnalités, des politiques et des exemples de prompts, mais elle accompagne rarement un employé dans un flux de travail complexe.

Un pair peut répondre à la question qui survient lorsqu’une personne commence réellement à travailler. Cette question peut concerner une réponse déroutante, un document contenant des informations sensibles, ou la pertinence même d’utiliser l’IA pour cette tâche.

Les participants indiqueraient lors de leur inscription les outils et sujets qu’ils souhaitent explorer. Parmi les domaines possibles figurent l’IA pour l’enseignement et l’apprentissage, l’évaluation des résultats et la vérification des faits.

Ces choix sont importants, car la « culture de l’IA » recouvre plusieurs compétences distinctes. Rédiger un prompt efficace diffère de l’évaluation d’une citation, de la protection des informations personnelles ou de la décision d’automatiser une tâche.

Le programme semble également conçu pour prendre en charge plusieurs grandes plateformes. Cette approche reflète la réalité selon laquelle les employés rencontrent différents systèmes via leurs comptes universitaires et personnels.

Cependant, la diversité des plateformes complique la formation. Chaque service présente des contrats, contrôles de données, pratiques de conservation, intégrations et usages autorisés différents.

Le propre catalogue logiciel d’UCOP illustre cette distinction. Ses conseils sur ChatGPT indiquent que les activités de l’université doivent utiliser ChatGPT EDU, approuvé pour les informations relevant de la classification P3 d’UC.

Cette approbation ne rend pas tous les prompts appropriés. Les employés doivent toujours comprendre les données concernées, la finalité de leur traitement et les règles universitaires régissant la tâche.

Les produits de Microsoft ajoutent un niveau de complexité supplémentaire. Copilot Chat, Microsoft 365 Copilot et Copilot Studio offrent des connexions et capacités différentes, même si les employés peuvent désigner les trois simplement comme « Copilot ».

UCOP précise que Microsoft 365 Copilot nécessite l’approbation d’un responsable. Copilot Studio peut créer des agents conversationnels spécialisés, connectés aux systèmes et documents de l’organisation.

Un buddy doit donc faire plus que montrer un prompt astucieux. Un accompagnement efficace doit relier chaque flux de travail au bon compte, à la plateforme approuvée et à la classification appropriée de l’information.

L’initiative demande également aux employés intéressés de consulter leur supérieur avant de participer. Ce détail évite qu’une activité d’apprentissage théoriquement volontaire ne devienne du travail invisible.

Si l’apprentissage de l’IA a lieu en dehors des responsabilités habituelles, la participation favorisera les employés aux horaires flexibles. Cela peut aussi imposer une charge de soutien non reconnue aux buddies expérimentés.

L’implication des responsables peut protéger du temps pour l’apprentissage. Elle peut également aider les équipes à sélectionner des cas d’usage liés à un travail réel, plutôt que d’expérimenter sans résultat défini.

Le premier changement important est donc organisationnel, et non technique. UCOP crée une couche de soutien humain entre l’accès à l’IA en entreprise et son adoption au quotidien.

Pourquoi UCOP a besoin de plus qu’un accès aux outils

Le défi d’UCOP n’est plus d’acquérir des outils d’IA ; il consiste à aider les employés à les utiliser de manière cohérente, sûre et à des fins justifiables.

UC a déjà construit une grande partie des fondations qui sous-tendent l’initiative Buddy. Un accord OpenAI à l’échelle du système est entré en vigueur en juin 2024 et couvre ChatGPT Enterprise et EDU.

L’accord UC comprend des clauses de confidentialité des données, une évaluation des risques fournisseur et des protections de confidentialité pour les prompts et réponses des clients. Il établit également un cadre d’approvisionnement partagé pour les campus participants.

UCOP a ensuite élargi l’accès des employés à ChatGPT et Microsoft Copilot. Son rapport technologique de 2025 indique que plus de 1 000 licences avaient été déployées, dont 700 licences ChatGPT et 300 licences Copilot.

Le rapport recense également 230 000 prompts soumis depuis mai 2025. Il indique que 800 employés ont utilisé des outils d’IA entre juin et octobre 2025.

Ces chiffres montrent une activité, mais l’activité n’est pas synonyme de valeur. Le nombre de prompts ne peut pas révéler si une réponse était correcte, si une tâche s’est améliorée ou si les employés ont évité des données inappropriées.

Le rapport d’UCOP indique que l’organisation passe des fondations à l’adoption et à l’impact. Le programme AI Buddy se situe au cœur difficile de cette progression.

L’achat de comptes d’entreprise répond à plusieurs risques importants. Il peut fournir des contrôles contractuels, un accès géré et un support plus clair que les comptes personnels grand public.

Pourtant, l’approvisionnement ne peut pas déterminer si un employé reconnaît un élément sensible dans un brouillon. Il ne peut pas non plus garantir qu’une personne vérifie une citation inventée ou repère un biais subtil.

Le Conseil de l’IA d’UC a traité l’éducation comme une exigence de gouvernance, et non comme un complément facultatif. Son sous-comité Knowledge, Skills, and Awareness est chargé de maintenir la formation, l’engagement et les bonnes pratiques.

En 2026, le conseil a également lancé une série de webinaires sur la culture de l’IA à destination des enseignants et du personnel. Les sessions couvrent les concepts fondamentaux, les usages pratiques, les responsabilités éthiques et les ressources organisationnelles.

Les webinaires offrent cohérence et échelle. Un programme de buddies apporte du contexte, de la répétition et un espace moins intimidant pour reconnaître l’incertitude.

Cette combinaison s’apparente à une formation de sécurité en plusieurs couches. Les directives centrales établissent les règles, tandis qu’un soutien local aide les personnes à les appliquer à des situations que les supports formels ne peuvent pas anticiper.

L’apprentissage entre pairs peut également révéler les écarts entre les politiques écrites et le travail réel. Si de nombreux employés posent la même question, le problème peut nécessiter des directives plus claires ou un meilleur outil approuvé.

Ce retour d’information est particulièrement précieux au sein d’une institution complexe. UCOP assure notamment des fonctions d’approvisionnement, d’affaires juridiques, de politique académique, de finance, de communication et d’administration à l’échelle du système.

Un guide universel de prompts ne peut pas couvrir ces environnements avec la même efficacité. Les risques liés à un communiqué de presse public diffèrent de ceux associés aux informations sur le personnel, aux données juridiques, médicales ou étudiantes.

Le programme peut réussir s’il transforme les questions récurrentes en connaissances institutionnelles. Des exemples utiles pourraient devenir des modèles approuvés, des cas de formation ou des mises à jour du centre de ressources sur l’IA.

Sans cette boucle de retour d’information, l’initiative risque de devenir un réseau d’entraide informel. Les employés recevraient des réponses incohérentes, tandis que les équipes centrales apprendraient peu sur les obstacles à l’adoption.

Les organisations qui explorent des programmes similaires devraient considérer les conseils partagés comme faisant partie d’un flux de travail IA plus large. Les personnes ont besoin de processus réutilisables, et non d’astuces de prompts isolées.

La pression sur UCOP découle de ses propres progrès. Une fois que les outils d’entreprise atteignent des centaines d’employés, l’expérimentation informelle devient une réalité opérationnelle que la politique seule ne peut pas gérer.

L’apprentissage entre pairs rend l’IA accessible, mais propage aussi les erreurs

La plus grande force du programme et sa faiblesse centrale proviennent de la même source : les employés apprennent auprès de personnes auxquelles ils font déjà confiance.

Un collègue comprend souvent mieux qu’un formateur externe le langage local, les contraintes et les tâches récurrentes. Cette familiarité peut rendre les conseils immédiatement utiles.

Un membre expérimenté du personnel peut montrer comment résumer un document public, restructurer un brouillon, générer des questions de réunion ou comparer des alternatives non confidentielles. L’apprenant peut ensuite tester la méthode sur un travail pertinent.

Cette approche réduit également la gêne associée aux questions élémentaires. Les employés peuvent hésiter à demander à un grand groupe de formation pourquoi un chatbot a produit des réponses incohérentes ou comment les prompts sont stockés.

Une relation de buddy crée un espace pour ces questions. Elle peut aider les participants à comprendre que l’incertitude est normale et que la vérification fait partie d’un usage responsable.

Le modèle reconnaît également que l’adoption de l’IA est sociale. Les personnes observent comment des collègues respectés utilisent un outil avant de décider s’il a sa place dans leur propre travail.

Ce mécanisme peut encourager des habitudes prudentes lorsque les buddies donnent l’exemple de la retenue. Ils peuvent expliquer pourquoi ils ont supprimé des détails sensibles, choisi un compte approuvé ou rejeté une réponse.

Le même mécanisme peut propager de mauvaises pratiques avec tout autant d’efficacité. Un employé sûr de lui peut mal comprendre les règles relatives aux données, répéter une technique peu fiable ou présenter une réussite anecdotique comme une preuve établie.

L’expérience d’un produit d’IA ne rend pas automatiquement quelqu’un qualifié pour conseiller les autres. Les utilisateurs fréquents peuvent savoir générer des résultats tout en restant faibles en vérification des sources ou en analyse de la confidentialité.

UCOP a donc besoin d’une définition claire du rôle de buddy. Les buddies devraient aider leurs collègues à apprendre, mais ne devraient pas devenir des responsables non officiels de la confidentialité, des juristes ou des examinateurs de sécurité.

Ils ont également besoin d’une voie d’escalade. Les questions impliquant des données protégées, l’approvisionnement, l’accessibilité, l’interprétation juridique ou les décisions automatisées devraient être transmises au service responsable.

Un modèle utile distinguerait trois catégories d’activité.

Premièrement, l’exploration à faible risque peut inclure des informations publiques, des exemples inventés et des brouillons sans détails confidentiels. Les buddies peuvent guider directement ces activités.

Deuxièmement, le travail contrôlé peut impliquer des outils d’entreprise approuvés et des informations autorisées par des conditions universitaires spécifiques. Les participants ont toujours besoin de règles documentées et d’une révision humaine.

Troisièmement, le travail à haut risque devrait nécessiter l’approbation d’un spécialiste ou rester en dehors du programme. Cette catégorie comprend les décisions à conséquences importantes et les informations dont l’exposition causerait un préjudice significatif.

Les documents de gouvernance existants d’UC soutiennent cette structure. L’université met en garde contre la divulgation accidentelle, la discrimination, le respect des procédures, la propriété intellectuelle et les violations de politiques.

Le cadre de gouvernance d’UC indique que les applications d’IA devraient faire l’objet de la même prudence et de la même analyse de conformité que les autres usages des données institutionnelles.

Ce principe évite une erreur fréquente. Une interface conversationnelle peut sembler moins formelle qu’une base de données d’entreprise, même lorsque les deux traitent des informations sensibles.

Le cadre social introduit un autre risque : la divulgation accidentelle entre collègues. Un apprenant peut partager une invite, un document source ou un résultat auquel son binôme n’était pas autorisé à accéder.

Les consignes du programme doivent donc couvrir les divulgations entre pairs, et pas seulement les données envoyées à un fournisseur. Les participants ont besoin d’exemples assainis dès lors que les droits d’accès diffèrent.

Dans la pratique, la relation entre binômes doit également rester volontaire. Un employé ne devrait pas se sentir contraint de révéler ses incertitudes, ses préoccupations liées à ses performances ou son utilisation d’outils à un collègue.

L’appariement peut créer des dynamiques de pouvoir subtiles lorsque les participants ont des niveaux d’ancienneté, des statuts d’emploi ou des liens hiérarchiques différents. Un programme sûr doit offrir un moyen confidentiel de demander une réaffectation.

L’accessibilité exige une attention comparable. Certains employés peuvent tirer parti de la rédaction, de la synthèse ou des outils vocaux assistés par l’IA, tandis que d’autres peuvent se heurter à des interfaces inaccessibles ou à des résultats peu fiables.

Un binôme peut aider une personne à explorer différentes options, mais les décisions d’accessibilité ne doivent pas dépendre d’une bonne volonté informelle. Les aménagements approuvés et le soutien de spécialistes doivent rester disponibles.

Ces contrôles ne nuisent pas à l’apprentissage entre pairs. Ils définissent les situations dans lesquelles cet apprentissage est utile et celles où la responsabilité institutionnelle doit prendre le relais.

La confidentialité dépend de l’invite, du compte et des données

Une licence d’entreprise réduit les risques liés au fournisseur, mais la confidentialité dépend toujours de ce que les employés soumettent et de l’usage qu’ils font de la réponse.

UC fonctionne avec plusieurs niveaux de sensibilité de l’information. Les contenus publics se situent à une extrémité, tandis que les informations de santé, financières, juridiques et d’identité hautement restreintes se trouvent à l’autre.

Un membre du personnel peut combiner plusieurs niveaux sans s’en rendre compte. Un document ordinaire peut contenir un identifiant d’étudiant, une stratégie interne ou des commentaires sur les performances d’employés.

La classification des données devient donc une compétence pratique. Les participants doivent apprendre à examiner une tâche avant de choisir un outil ou de rédiger une invite.

Les directives à l’échelle du système d’UC ont souligné à plusieurs reprises l’importance des environnements contrôlés. Les services sous licence offrent généralement des protections institutionnelles plus fortes que les comptes grand public ouverts.

Toutefois, « enterprise » n’est pas une autorisation universelle. Chaque produit comporte des usages approuvés, des conditions contractuelles, des configurations techniques et des limites concernant les données.

UCOP indique que son environnement ChatGPT EDU approuvé peut traiter des informations jusqu’au niveau P3. Cette affirmation suppose toujours que les employés sachent si leurs documents relèvent du niveau P3.

Les directives sur les assistants détaillées d’UC San Diego montrent à quel point les usages réels peuvent devenir complexes. Elles abordent le consentement, l’enregistrement des réunions, le stockage approuvé, les discussions sensibles et les obligations liées aux documents publics.

Les directives interdisent la capture par IA dans certaines réunions administratives impliquant des données P4. Les exemples comprennent les informations médicales, financières, de prêt et relatives aux étudiants sans papiers.

Elles restreignent également certaines discussions P3, notamment les communications couvertes par le secret avocat-client, les délibérations sur les performances et les informations liées aux soins de santé reproductive ou d’affirmation de genre.

Ces exemples montrent pourquoi les avertissements généraux ne suffisent pas. « Ne saisissez pas de données confidentielles » laisse aux employés le soin d’interpréter à la fois la confidentialité et les limites d’une conversation.

Les assistants de réunion posent des problèmes particuliers, car ils peuvent recueillir la contribution de chaque intervenant. Les participants peuvent ne pas savoir quel service enregistre, où va la transcription ou combien de temps elle reste disponible.

Un binôme ne doit jamais résoudre cette incertitude par intuition. La réponse sûre consiste à consulter les conseils du campus en matière de confidentialité, de sécurité, d’archivage ou de droit avant d’activer la capture.

L’exactitude soulève une préoccupation de gouvernance connexe. Un chatbot peut produire un texte fluide contenant des faits, des citations ou des interprétations de politiques inventés.

La vérification des faits doit s’appuyer sur des preuves externes, et non sur une autre invite demandant si la première réponse était correcte. La personne chargée de la vérification a besoin du document original ou d’une source faisant autorité.

Le personnel doit également distinguer le brainstorming de la prise de décision. L’IA peut générer des options, mais une personne disposant des responsabilités appropriées doit les évaluer au regard des politiques et des preuves.

Cette distinction devient essentielle lorsqu’un résultat affecte l’accès, l’emploi, le statut académique, les achats ou l’allocation de ressources. Une recommandation soignée peut masquer des hypothèses fragiles.

Le précédent groupe de travail d’UC sur l’IA a identifié l’équité, la transparence, la responsabilité, la confidentialité et la sécurité comme des préoccupations à l’échelle du système. Ces principes s’appliquent même lorsque le personnel utilise un chatbot généraliste.

Le programme de binômes peut les concrétiser grâce à de courts scénarios. L’un d’eux pourrait demander si un rapport public peut être résumé dans ChatGPT EDU.

Un autre pourrait concerner une feuille de calcul contenant des informations sur les employés. Les participants identifieraient la catégorie de données, l’environnement approuvé, les droits d’accès et les vérifications humaines nécessaires avant de poursuivre.

L’apprentissage par scénarios peut également révéler les cas où l’IA apporte peu de valeur. Parfois, supprimer les détails sensibles prend plus de temps que d’effectuer la tâche initiale.

C’est un résultat légitime. Une adoption responsable consiste aussi à reconnaître quand il ne faut pas utiliser un système d’IA.

La crédibilité du programme dépendra de sa capacité à valoriser cette retenue. Si chaque binôme doit produire un nouveau flux de travail utilisant l’IA, les participants pourraient forcer des tâches inadaptées à entrer dans cette technologie.

UCOP devrait plutôt reconnaître les décisions judicieuses, y compris les cas où les équipes restreignent un usage, choisissent un autre système ou évitent entièrement l’IA.

Trois signaux montreront si le programme fonctionne

Le prochain test consiste à déterminer si UCOP peut mesurer l’amélioration du jugement et l’utilité du travail sans transformer l’apprentissage volontaire en surveillance des employés.

Le premier signal concerne la qualité de la participation. Le nombre d’inscriptions importe moins que la capacité des binômes à rester actifs et à servir des employés aux rôles et niveaux de compétence initiaux variés.

UCOP devrait examiner si les participants se rencontrent, atteignent les objectifs d’apprentissage convenus et déclarent une plus grande confiance pour des tâches spécifiques. L’organisation devrait également suivre si les binômes bénéficient de temps protégé.

Un nombre élevé d’inscriptions suivi de binômes inactifs indiquerait que le personnel manquait de temps, de partenaires utiles ou de soutien managérial. Ce résultat affaiblirait le modèle d’apprentissage entre pairs.

Une participation durable étayerait une conclusion différente. Elle montrerait que les employés trouvent de la valeur dans des conseils contextualisés allant au-delà des formations et de la documentation formelles.

Le deuxième signal concerne la qualité des cas d’usage produits. Les exemples solides doivent identifier la tâche, l’outil approuvé, les données autorisées, la méthode de vérification, le responsable humain et le résultat mesuré.

Le rapport 2025 d’UCOP fournit déjà une base de référence sur l’adoption. Il recense les licences, les utilisateurs, les invites et les événements, mais le programme de binômes a besoin d’éléments plus proches des résultats.

Les mesures utiles pourraient inclure une réduction du temps de traitement, moins de révisions, de meilleurs contrôles d’accessibilité ou une récupération plus rapide d’informations publiques approuvées. Chaque affirmation exige une comparaison définie.

UC Tech News a décrit un modèle prometteur. Une équipe inter-campus a configuré un GPT pour effectuer un examen initial au regard des WCAG 2.1 et des directives de marque d’UC.

L’examinateur d’accessibilité effectue une première passe fastidieuse et propose des modifications. Les responsables humains doivent toujours valider ses conclusions et achever le travail.

Ce type de flux de travail encadré est plus instructif qu’une affirmation générale sur la productivité. Il précise ce que le système examine, quelles normes s’appliquent et où le jugement humain demeure nécessaire.

Le troisième signal concerne les retours sur la sécurité du programme. UCOP devrait surveiller les questions récurrentes, les incidents évités de justesse, les demandes d’escalade et les zones de politique ambiguës, sans collecter inutilement le contenu des invites.

Une hausse du nombre de questions ne signifierait pas automatiquement que le programme a créé davantage de risques. Elle pourrait montrer que les employés reconnaissent des problèmes qu’ils ne remarquaient pas auparavant.

La mesure importante est de savoir si ces questions parviennent aux bons experts. Les responsables du programme devraient également documenter la manière dont les réponses deviennent des directives mises à jour pour les futurs participants.

Une mesure respectueuse de la confidentialité exigera de la retenue. UCOP n’a pas besoin d’une archive complète des invites des employés pour comprendre quels sujets génèrent de l’incertitude.

Des catégories agrégées peuvent révéler si le personnel rencontre des difficultés avec la classification des données, les hallucinations, l’enregistrement des réunions, le droit d’auteur, l’accessibilité ou le choix du compte.

Les un à trois prochains mois devraient montrer si l’apprentissage entre pairs devient un élément de la structure plus large de gouvernance de l’IA d’UCOP. Trois évolutions méritent une attention particulière.

Premièrement, UCOP devrait publier ou diffuser en interne des normes plus claires pour les binômes. Elles devraient définir les limites des rôles, les voies d’escalade, les exercices sûrs et les attentes envers les responsables hiérarchiques.

Deuxièmement, l’organisation devrait identifier des flux de travail réutilisables assortis d’un examen humain documenté. Cela démontrerait un passage de l’expérimentation informelle vers une pratique opérationnelle responsable.

Troisièmement, les retours du programme devraient produire des mises à jour visibles des politiques ou des formations. Ce résultat prouverait que l’apprentissage circule dans les deux sens, des experts centraux vers le personnel et inversement.

Les autres employeurs devraient éviter de copier le nom sans copier les contrôles. Un programme de binômes réussit lorsqu’il associe confiance, travail pratique, temps protégé et responsabilité institutionnelle claire.

Les employés qui envisagent une initiative similaire devraient commencer par une question : chaque participant peut-il expliquer quelles données, quel compte, quelles preuves et quel évaluateur humain un flux de travail proposé exige ?

Si la réponse devient systématiquement claire, UCOP aura créé davantage qu’une simple campagne d’adoption. L’organisation aura mis en place un moyen reproductible pour le personnel d’apprendre ensemble tout en reconnaissant les limites où l’IA doit s’arrêter.