Goldman Sachs سحب وكلاء البرمجة من متداوليه: انسخ السياسة لا الذعر
في يوليو، كان مدير أنظمة المعلومات في Goldman Sachs يشيد بالمتداولين والمصرفيين الذين يبنون أدواتهم الخاصة بالذكاء الاصطناعي. وبحلول أكتوبر، فقد معظمهم إمكانية الوصول إلى وكلاء البرمجة بالذكاء الاصطناعي الذين جعلوا ذلك ممكنًا. فالتعليمات الداخلية تقصر الآن Claude Code من Anthropic وGitHub من Microsoft على مهندسي البنك، بحسب ما أوردته بلومبرغ ولخّصه موقع State of AI.
قد يبدو الأمر مجرد قصة عن بنك كبير يتوخى الحذر، لكنه أكثر فائدة كنموذج لأي شركة تقرر من يستخدم أي أداة ذكاء اصطناعي.
باختصار
- لم يحظر Goldman الذكاء الاصطناعي، بل فصل بين المساعدات الحوارية المتاحة للجميع، والوكلاء الذين يكتبون الكود وينفذونه، والذين أصبحوا مقتصرين على المهندسين.
- الخطر ليس في النموذج، بل في كود لم يراجعه أحد يعمل بكامل صلاحيات الموظف على الملفات وبيانات العملاء.
- اكتب سياستك للذكاء الاصطناعي حسب الوظيفة وحسب ما تستطيع الأداة الوصول إليه، قبل أن يقررها موظفوك نيابة عنك.
ما الذي غيّره Goldman فعلًا
بحسب التقرير، كان المتداولون يستخدمون هذه الأدوات لمتابعة تدفقات تداول العملاء، ونمذجة تحركات السوق والمراكز، وإعداد مواد مكتوبة ورسومية. واحتفظ فريق «strats»، الذي يعمل بين التداول والبحث والهندسة، بإمكانية الوصول. كما يبقى المساعد الداخلي للبنك، الذي يعتمد على نماذج من عدة شركات، متاحًا في كل أنحاء المؤسسة.
إذن الخط الفاصل ليس «ذكاء اصطناعي أم لا». فنحو 12,000 مطور في البنك، من أصل قرابة 47,000 موظف، يمكنهم استخدام وكلاء يكتبون الكود وينفذونه، بينما يحتفظ الباقون بمساعد يجيب ويصوغ النصوص، لكنه لا يشغّل برامج على أجهزتهم.
وقال متحدث باسم البنك إنه يتيح أدوات الذكاء الاصطناعي للموظفين «لتحديد أفضل حالات الاستخدام». بعبارة أخرى: جرّب على نطاق واسع، ثم قرّر.
لماذا يختلف وكيل البرمجة عن روبوت المحادثة
وكيل البرمجة يقرأ الملفات ويكتب البرامج وينفذها، وعادةً بالصلاحيات نفسها التي يملكها مستخدمه. وعندما يكتب مهندس كودًا بهذه الطريقة، يمر الكود عادةً بمراجعة واختبارات قبل أن يمس أي شيء مهم.
أما عندما يبني متداول سكريبتًا لمراقبة تدفقات العملاء، فقد يصبح مستخدمًا يوميًا دون أي من هذه الضوابط، وقد لا يفهم أحد تمامًا كيف يتعامل مع الحالات غير المعتادة. في قاعة التداول قد يعني ذلك خسائر، وفي شركتك قد يعني ماكرو في جدول بيانات يرسل بهدوء قائمة العملاء الخطأ، أو أتمتة تقرأ كل ملفات الموارد البشرية لأن صاحبها يملك صلاحية ذلك.
سؤال التكلفة الذي لا يدخل في الميزانية
تُحتسب تكلفة الوكلاء حسب الاستخدام، ويشير التقرير إلى أن عدة شركات منحتها للجميع شهدت ارتفاعًا في الإنفاق. وقد أغلقت Amazon لوحة ترتيب داخلية بعدما شغّل موظفون وكلاء على مهام عديمة الفائدة لرفع ترتيبهم.
إليك ميزانية توضيحية: شركة من 40 شخصًا تمنح اشتراكًا في وكيل ذكاء اصطناعي لـ 30 منهم بنحو 29 دولارًا شهريًا لكل واحد، وهو المبلغ الذي يذكره التقرير لمخصصات Accenture لكل موظف. هذا يعني 870 دولارًا شهريًا، أي أكثر من 10,000 دولار سنويًا، قبل أن يقيس أحد ما حققه ذلك. أما حصره في 8 أشخاص لديهم حالات استخدام واضحة ومتكررة فيكلّف 232 دولارًا شهريًا، ومراجعته أسهل بكثير.
سياسة من ثلاثة أسطر يمكنك كتابتها هذا الأسبوع
- الجميع: مساعد حواري معتمد للكتابة والتلخيص والبحث، مع قاعدة واضحة بشأن بيانات العملاء التي يجوز لصقها فيه.
- وظائف محددة: وكلاء يؤتمتون المهام، للأشخاص الذين لديهم حالة استخدام محددة ومن يراجع ما يبنونه.
- المهندسون فقط: وكلاء يكتبون الكود وينفذونه على أنظمة الشركة، ضمن مسار المراجعة والاختبار المعتاد.
ثم قرّر ما يُسمح لكل أداة بقراءته. فالوكيل لا يستطيع تسريب أو إفساد إلا ما يملك الوصول إليه، لذلك تبدأ أكثر سياسات الذكاء الاصطناعي أمانًا بصلاحيات مرتبة على وثائقك. وهنا يساعد Holol-GED: إدارة وثائق آمنة وقابلة للبحث، تضع العقود وملفات الموارد البشرية وسجلات العملاء خلف قواعد وصول واضحة، بدل مجلد مشترك تستطيع أي أداة قراءته.
جرّب على نطاق واسع، ثم ارسم الحدود
ترك Goldman آلاف الأشخاص يجرّبون، وتعلّم أين تفيد الأدوات، ثم رسم الحدود حسب الوظيفة. وهذا هو الترتيب المعقول أيضًا لشركة من 30 شخصًا، فقط لا تتخطَّ الخطوة الثانية.
المصادر
- State of AI نقلًا عن بلومبرغ: Goldman Sachs Is Pulling Claude Code From Its Bankers and Traders (النقاش على Hacker News)