Gemini قد يعرض رسائل موظفيك على مراجعين بشريين: هذا ما يجب فعله

إذا ربط موظفوك حسابًا شخصيًا في Gemini ببريدهم في Gmail وملفاتهم في Drive، فقد يصل جزء مما يقرؤه Gemini هناك إلى مراجع بشري. هذا ليس تسريبًا، بل هو ما تقوله الآن صفحة مساعدة Google حول التطبيقات المرتبطة: «تُستخدم بيانات التطبيقات المرتبطة ويراجعها بشر وفقًا لإشعار خصوصية تطبيقات Gemini».

وتضيف الصفحة أن Gemini يُنشئ ملخصات ومقتطفات من الرسائل والملفات تُستخدم لتدريب نماذج Google، وأنه «عندما تكون الرسالة أو الملف قصيرًا أو وثيق الصلة بالطلب» فإن الملخص «قد يكون هو الرسالة أو الملف نفسه».

باختصار

• في تطبيق Gemini الموجّه للأفراد، يمكن استخدام المحتوى المأخوذ من Gmail وDrive المرتبطين في التدريب ومراجعته من قبل أشخاص، وفقًا لصفحة مساعدة Google.
• الخطر على الشركة ليس Google، بل موظفون يستخدمون حسابات ذكاء اصطناعي شخصية على بريد الشركة وعروض أسعارها وعقودها.
• قرّر أي أدوات الذكاء الاصطناعي يحق لها الوصول إلى بيانات الشركة، وبأي حسابات، قبل أن يقرر موظف ذلك نيابة عنك.

ما وجده أحد المستخدمين، وما تؤكده Google

وصلت القصة إلى صدارة Hacker News عبر تحليل منشور على GitHub لمستخدم اختبر تطبيق Gemini الموجّه للأفراد مع تفعيل التطبيقات المرتبطة. ويرى الكاتب أن Google وعدت في 2023 بألا يطّلع مراجعون بشريون على المحتوى الشخصي في Workspace، وأن هذا الوعد تغيّر منذ ذلك الحين.

ويذكر الكاتب أيضًا أن سؤالًا عابرًا، مثل التساؤل عمّا إذا كانت فاتورة الإنترنت مرتفعة، جعل Gemini أحيانًا يجلب الرسالة المطابقة من تلقاء نفسه، من ملخص قصير حتى النص الكامل مع أرقام الحسابات. هذه اختبارات شخص واحد، وتفاوتت النتائج من محاولة إلى أخرى. أما الجزء الأهم بالنسبة للشركات فليس موضع خلاف لأنه صادر عن Google: يمكن تلخيص الرسائل والملفات المرتبطة واستخدامها في التدريب ومراجعتها من قبل أشخاص.

لماذا هذه مشكلة تخص الشركة

تخيّل، على سبيل التوضيح، فريق مبيعات من ثمانية أشخاص. كل واحد منهم يستخدم مساعد ذكاء اصطناعي مجانيًا على هاتفه، مسجّلًا بحساب Google نفسه الذي يستعمله لبريد العمل. أحدهم يطلب منه «تلخيص عرض السعر الذي أرسلته إلى الفندق في مراكش»، وآخر يطلب المساعدة في الرد على مورّد بشأن تأخر في الأداء.

لم يفعل أحد شيئًا خطيرًا، ومع ذلك أصبحت أسماء العملاء والأسعار وشروط العقود وتفاصيل الأداء تمر عبر خدمات موجّهة للأفراد وبشروط خصوصية خاصة بالأفراد، لا بالشروط التي توقعها الشركة للاستخدام المهني. واضرب ذلك في عدد الفرق وعدد الأشهر.

عادةً ما تأتي النسخ المهنية من أدوات الذكاء الاصطناعي بشروط مختلفة عن التطبيقات الموجّهة للأفراد. تحقق كتابيًا من شروط كل منتج تسمح به، بدل الافتراض.

قاعدة من صفحة واحدة للبيانات والذكاء الاصطناعي

• الحسابات: بيانات الشركة فقط في أدوات ذكاء اصطناعي على حسابات الشركة، وبشروط مهنية قرأتها.
• الربط: لا ربط لمساعدات ذكاء اصطناعي شخصية ببريد العمل أو مجلداته أو تقاويمه.
• المحتوى: لا لصق أبدًا لوثائق الهوية أو العقود أو الرواتب أو قوائم العملاء في تطبيق ذكاء اصطناعي موجّه للأفراد.
• الإعدادات: لكل أداة معتمدة، سجّل من عطّل خيارات التدريب والسجل ومتى.
• الاستثناءات: شخص محدد بالاسم يوافق على كل ما يخرج عن هذه القواعد.

رتّب الصلاحيات قبل إضافة الذكاء الاصطناعي

يقرأ المساعد الذكي كل ما يستطيع الحساب الذي يعمل به قراءته. فإذا كانت العقود وملفات الموارد البشرية وسجلات العملاء في مجلدات مشتركة يفتحها نصف الشركة، فإن أي أداة ذكاء اصطناعي مرتبطة بتلك الحسابات تستطيع قراءتها أيضًا.

لهذا تأتي إدارة الصلاحيات قبل الذكاء الاصطناعي. يمنح Holol-GED الوثائق الحساسة مكانًا آمنًا وقابلًا للبحث على نطاق واسع، فتبقى الملفات خلف صلاحيات واضحة بدل أن تتوزع بين حسابات شخصية ومرفقات محوّلة. وعندما تضيف الذكاء الاصطناعي فوق ذلك، كما في مشاريع وكلاء الذكاء الاصطناعي لدينا، تقرر بدقة ما يحق له قراءته.

اقرأ صفحة المساعدة لا العنوان

لكل أداة ذكاء اصطناعي يستخدمها فريقك صفحة مثل صفحة Google. عشر دقائق من القراءة أقل كلفة من أن تكتشف لاحقًا أين ذهبت بيانات عملائك.

المصادر

• مساعدة تطبيقات Gemini: About personalization with Connected Apps
• GitHub: Google Gemini routes personal Drive files and emails to human annotators (النقاش على Hacker News)