عندما تبدأ أهداف تبني الذكاء الاصطناعي في تشكيل السلوك
تفيد تقارير بأن موظفي Amazon يستخدمون أداة داخلية للذكاء الاصطناعي لأتمتة المهام غير الأساسية من أجل رفع معدل استخدامهم الظاهري لأنظمة الذكاء الاصطناعي الخاصة بالشركة. وتُسمى هذه الممارسة داخل الشركة، وفقًا لتغطية نشرتها Ars Technica استنادًا إلى Financial Times، «tokenmaxxing». والاسم ساخر، لكن المشكلة الأساسية خطيرة: عندما تركز الإدارة على تبني الذكاء الاصطناعي كمؤشر، فقد يبدأ الناس في تحسين المؤشر بدلًا من تحسين العمل المفيد.
وبحسب التقرير، نشرت Amazon على نطاق واسع منتجًا داخليًا يُدعى MeshClaw يتيح للموظفين إنشاء وكلاء ذكاء اصطناعي مرتبطين ببرامج العمل وجعلهم ينفذون المهام نيابة عن المستخدم. وقال عدة موظفين إن زملاءهم كانوا يستخدمون النظام لتوليد نشاط إضافي وغير ضروري في الذكاء الاصطناعي بهدف زيادة استهلاك الرموز، وهي وحدات البيانات التي تعالجها النماذج.
الحوافز وراء هذا السلوك
يقول المقال إن Amazon وضعت أهدافًا لاستخدام أكثر من 80% من المطورين للذكاء الاصطناعي كل أسبوع، وبدأت تتبع استهلاك رموز الذكاء الاصطناعي على لوحات ترتيب داخلية في وقت سابق من هذا العام. ورغم أن Amazon قالت للموظفين، بحسب التقارير، إن إحصاءات الرموز لن تُستخدم في تقييم الأداء، قال عدة موظفين إنهم يعتقدون أن المديرين كانوا يراقبون البيانات على أي حال.
وهذا بالضبط نوع الغموض الذي يولد الاستخدام الاستعراضي. إذا اعتقد العاملون أن سلوكًا مقاسًا قد يؤثر في مكانتهم، فسيسعون غالبًا إلى تعظيم الإشارة المرئية، حتى عندما تكون القيمة الفعلية للنشاط ضئيلة أو معدومة. وفي هذه الحالة، قد يعني ذلك استخدام الذكاء الاصطناعي لتنفيذ مهام لم تكن تحتاج إلى أتمتة، أو توليد نشاط أساسًا لكي تعكس المقاييس مستوى المشاركة.
وينقل التقرير عن أحد الموظفين قوله إن هناك «ضغطًا كبيرًا جدًا» لاستخدام الأدوات، وعن آخر قوله إن المديرين كانوا ينظرون إلى بيانات الاستخدام. سواء أثرت هذه الإحصاءات رسميًا في المراجعات أم لا، فإن مجرد الاعتقاد بأنها مهمة قد يكون كافيًا لإعادة تشكيل السلوك في مكان العمل. فالمقاييس لا تحتاج إلى أن تكون معايير أداء رسمية حتى تصبح إشارات قوة غير رسمية.
لماذا يهم ذلك خارج Amazon
التفاصيل الخاصة بالشركة لافتة، لكن القضية الأوسع تمتد بعيدًا عن صاحب عمل واحد. ففي قطاع التكنولوجيا كله، تحاول الشركات إثبات العائد على استثمارات ضخمة في الذكاء الاصطناعي، بينما تدفع في الوقت نفسه بالأدوات التوليدية أعمق إلى سير العمل اليومي. وفي هذا السياق، يمكن لأرقام التبني أن تصبح بديلًا عن الزخم الاستراتيجي.
المشكلة أن التبني ليس هو الإنتاجية. فقد يحقق فريق ما أرقام استخدام مذهلة من دون تحقيق مكاسب متناسبة في الإنتاج أو الجودة أو السرعة. وفي الواقع، إذا بدأ الموظفون في أتمتة مهام منخفضة القيمة فقط لرفع عدد الرموز، فقد تصبح البيانات الناتجة مضللة للإدارة، لأنها تجعل التفاعل مع الأداة يبدو أفضل مما هو عليه حقًا.
MeshClaw وصعود برمجيات المكتب الوكيلية
يُوصف MeshClaw من Amazon بأنه نظام يتيح للموظفين بناء وكلاء ذكاء اصطناعي قادرين على الاتصال ببرامج العمل والتصرف نيابة عن المستخدم. وهذا يجعله جزءًا من تحول أوسع نحو أدوات المؤسسات الوكيلية، حيث لا تكتفي النماذج بالإجابة عن الأسئلة، بل تبدأ الأفعال، وتنقل المعلومات بين الأنظمة، وتتعامل مع المهام التشغيلية.
وجاذبية هذه الأدوات واضحة. فهي تعد برفع الإنتاجية: خطوات يدوية أقل، إنجاز أسرع للمهام، والقدرة على تفويض العمل الرقمي المتكرر. لكنها تخلق أيضًا سطحًا جديدًا للتقارير داخل المؤسسات. فإذا أمكن عدّ كل إجراء، وتصنيف كل موظف، وتتبع كل رمز، فإن استخدام الذكاء الاصطناعي نفسه يبدأ في التحول إلى موضوع إداري.
ويشير التقرير إلى أن Amazon حدّت مؤخرًا من الوصول إلى الإحصاءات على مستوى الفريق بحيث لا يمكن إلا للموظفين والمديرين رؤية البيانات. وهذا التغيير يوحي بأن الشركة ربما تحاول بالفعل معايرة كيفية تأثير الشفافية في السلوك. وبمجرد أن تتشكل ثقافة لوحات الترتيب حول أدوات الذكاء الاصطناعي الداخلية، يصبح من الصعب الفصل بين التجريب الحقيقي والسعي وراء النقاط.
خلفية مكلفة للضغط الداخلي
يأتي هذا الضغط في سياق إنفاق هائل. ويذكر التقرير أن Amazon تتوقع إنفاق 200 مليار دولار في النفقات الرأسمالية هذا العام، مع ذهاب الغالبية العظمى إلى الذكاء الاصطناعي وبنية مراكز البيانات التحتية. ومثل هذا الالتزام المالي يزيد بطبيعة الحال الضغط لإظهار الاستفادة. فالإدارة تريد دليلًا على أن البنية التحتية المكلفة ليست خاملة.
ومن هذا المنظور، تبدو أرقام الرموز مغرية. فهي فورية، وقابلة للقياس، وسهلة المقارنة. لكنها أيضًا مجرد مؤشر سطحي. فقد يعكس إجمالي الرموز المرتفع مساعدة برمجية منتجة، أو تجريبًا مهدورًا، أو مهامًا مكررة، أو tokenmaxxing صريحًا. ومن دون مقاييس نتائج أقوى، قد تروي بيانات الاستخدام قصة واثقة لكنها غير مكتملة.
الدرس الإداري
أهم درس هنا ليس أن الموظفين تلاعبوا بمقياس. فالناس يتلاعبون بالمقاييس طوال الوقت عندما تجعل الحوافز ذلك منطقيًا. والدرس الحقيقي هو أن على المؤسسات أن تكون دقيقة بشأن ما تكافئه. فإذا كان الهدف هو برمجيات أفضل، أو تسليم أسرع، أو عمليات داخلية أعلى جودة، فيجب قياس هذه النتائج مباشرة قدر الإمكان. أما إذا كان الهدف المقاس ببساطة هو «استخدام الذكاء الاصطناعي أكثر»، فسوف يجد العاملون طرقًا لفعل ذلك بالضبط.
هذا لا يعني أن بيانات الاستخدام بلا فائدة. فهي يمكن أن تُظهر ما إذا كانت الأدوات تُكتشف، أو أين يكون النشر غير متوازن، أو أي الفرق قد تحتاج إلى دعم. لكن عندما ترتفع الشفافية والضغط أسرع من وضوح القيمة، تتحول الميزة إلى لعبة. ومصطلح «tokenmaxxing» يمثل تحذيرًا مفيدًا من هذا النمط الفاشل.
إشارة إلى التوتر القادم في العمل مع الذكاء الاصطناعي
لسنوات، انصب النقاش حول الذكاء الاصطناعي في العمل على ما إذا كان الموظفون سيتبنون الأدوات أصلًا. وتشير حالة Amazon إلى أن المرحلة التالية قد تكون مختلفة: كيف نمنع مسرحية الإفراط في التبني، وحوافز الاستخدام السطحي، ولوحات البيانات الداخلية من تشويه السلوك. ومع سعي الشركات إلى إثبات أن استثماراتها في الذكاء الاصطناعي تؤتي ثمارها، قد تكتشف أن قياس الاستخدام هو الجزء السهل، بينما قياس الاستخدام المفيد هو الأصعب.
ومن المرجح أن تصبح هذه الفروق أكثر أهمية مع تحول الذكاء الاصطناعي المؤسسي إلى معيار. ولن تكون المؤسسات التي تتعامل معه جيدًا هي صاحبة أكبر أرقام الرموز، بل تلك القادرة على التمييز بين الرافعة الحقيقية والضجيج المكلف.
استند هذا المقال إلى تقرير من Ars Technica. اقرأ المقال الأصلي.
Originally published on arstechnica.com
