Gemini peut montrer les e-mails de vos salariés à des relecteurs humains : la parade

Si vos salariés connectent un compte Gemini personnel à leur Gmail et à leur Drive, une partie de ce que Gemini y lit peut se retrouver sous les yeux d'un relecteur humain. Ce n'est pas une fuite. C'est ce qu'indique désormais la page d'aide de Google sur les applications connectées : « Les données des applications connectées sont utilisées et relues par des humains conformément à l'avis de confidentialité des applications Gemini. »

La page précise que Gemini crée des résumés et des extraits des e-mails et fichiers, qu'ils servent à entraîner les modèles de Google, et que « lorsque l'e-mail ou le fichier est court ou particulièrement pertinent », le résumé « peut être l'e-mail ou le fichier lui-même ».

En bref

• Dans l'application Gemini grand public, le contenu tiré de Gmail et Drive connectés peut servir à l'entraînement et être relu par des personnes, selon la page d'aide de Google.
• Le risque pour une entreprise, ce n'est pas Google. Ce sont des salariés qui utilisent des comptes IA personnels sur les e-mails, devis et contrats de l'entreprise.
• Décidez quels outils d'IA peuvent toucher les données de l'entreprise, et avec quels comptes, avant qu'un salarié ne le décide pour vous.

Ce qu'un utilisateur a constaté, et ce que Google confirme

L'affaire est arrivée en tête de Hacker News grâce à une analyse publiée sur GitHub par un utilisateur qui a testé l'application Gemini grand public avec les applications connectées activées. L'auteur estime que Google avait promis en 2023 que le contenu personnel de Workspace ne serait pas vu par des relecteurs humains, et que cette promesse a changé depuis.

L'auteur rapporte aussi qu'une question anodine, comme se demander si sa facture internet est trop élevée, a parfois conduit Gemini à récupérer de lui-même l'e-mail correspondant, d'un court résumé jusqu'au texte complet avec les numéros de compte. Ce sont les tests d'une seule personne, et les résultats variaient d'un essai à l'autre. Le point le plus important pour une entreprise, lui, n'est pas contesté, car il vient de Google : les e-mails et fichiers connectés peuvent être résumés, utilisés pour l'entraînement et relus par des personnes.

Pourquoi c'est un problème d'entreprise

Imaginons une équipe commerciale de huit personnes, à titre d'illustration. Chacune utilise un assistant IA gratuit sur son téléphone, connecté au même compte Google que sa messagerie professionnelle. L'une lui demande de « résumer le devis envoyé à l'hôtel de Marrakech ». Une autre lui demande de l'aide pour répondre à un fournisseur au sujet d'un retard de paiement.

Personne n'a rien fait de grave. Pourtant, noms de clients, prix, conditions contractuelles et informations de paiement transitent désormais par des services grand public, sous des conditions de confidentialité grand public, et non sous celles qu'une entreprise signerait pour un usage professionnel. Multipliez cela par chaque équipe et chaque mois.

Les éditions professionnelles des outils d'IA s'accompagnent généralement de conditions différentes de celles des applications grand public. Vérifiez par écrit les conditions de chaque produit autorisé, au lieu de les supposer.

Une règle d'une page pour les données et l'IA

• Comptes : données de l'entreprise uniquement dans des outils d'IA sur des comptes professionnels, avec des conditions que vous avez lues.
• Connexions : pas d'assistant IA personnel connecté à la messagerie, aux dossiers ou aux agendas professionnels.
• Contenus : jamais de pièces d'identité, contrats, paie ou listes de clients collés dans une application IA grand public.
• Réglages : pour chaque outil approuvé, notez qui a désactivé l'entraînement et l'historique, et quand.
• Exceptions : une personne nommée valide tout ce qui sort de ces règles.

Rangez les accès avant d'ajouter l'IA

Un assistant IA lit tout ce que peut lire le compte sous lequel il fonctionne. Si les contrats, dossiers RH et fiches clients sont dans des dossiers partagés que la moitié de l'entreprise peut ouvrir, tout outil d'IA connecté à ces comptes peut aussi les lire.

C'est pourquoi la gestion des accès passe avant l'IA. Holol-GED offre aux documents sensibles un espace sécurisé et consultable à grande échelle, pour que les fichiers soient protégés par des droits clairs plutôt que dispersés dans des drives personnels et des pièces jointes transférées. Et quand vous ajoutez l'IA par-dessus, comme dans nos projets d'agents IA, vous décidez exactement ce qu'elle peut lire.

Lisez la page d'aide, pas le gros titre

Chaque outil d'IA utilisé par votre équipe a une page comme celle de Google. Dix minutes de lecture coûtent moins cher que de découvrir plus tard où sont parties les données de vos clients.

Sources

• Aide des applications Gemini : About personalization with Connected Apps
• GitHub : Google Gemini routes personal Drive files and emails to human annotators (discussion sur Hacker News)