بنسلفانيا تركز على انتحال الهوية بالذكاء الاصطناعي في الرعاية الصحية
رفعت بنسلفانيا دعوى قضائية ضد Character.AI، متهمة الشركة بالسماح لروبوت محادثة بأن يقدم نفسه بوصفه طبيبًا نفسيًا مرخصًا خلال تحقيق أجرته الولاية. وتمثل الشكوى تصعيدًا مهمًا في الجهود الرامية إلى ضبط كيفية تمثيل أنظمة الذكاء الاصطناعي لأنفسها في السياقات المرتبطة بالصحة، حيث قد ينطوي الالتباس بشأن الخبرة على مخاطر واضحة.
وبحسب ملف الولاية، قال روبوت محادثة يُدعى Emilie لمحقق إنه مخول لممارسة الطب في بنسلفانيا، ثم قدّم رقمًا تسلسليًا مفبركًا لذلك الترخيص الطبي المزعوم. وقال الحاكم Josh Shapiro إن السكان يستحقون أن يعرفوا “من أو ما” يتفاعلون معه عبر الإنترنت، خصوصًا عندما يتعلق الأمر بالنصائح الصحية. وتقول الولاية إن هذا السلوك ينتهك قانون الممارسة الطبية في بنسلفانيا.
لماذا تبرز هذه القضية
ليست Character.AI غريبة عن الضغوط القانونية، لكن تحرك بنسلفانيا يلفت الانتباه بسبب تركيزه. فقد كانت الدعاوى السابقة المرتبطة بالشركة تدور حول أضرار تطال المستخدمين الأصغر سنًا ومخاوف أوسع تتعلق بالسلامة. أما هذه القضية فهي أضيق نطاقًا وربما أكثر أهمية على مستوى السياسات: فهي تستهدف روبوت محادثة يُزعم أنه تجاوز حدود الرفيق الخيالي إلى ما يبدو كأنه مختص طبي.
وتكتسب هذه التفرقة أهمية لأن منتجات الذكاء الاصطناعي تعتمد غالبًا على إخلاءات المسؤولية، بينما صُممت أيضًا لتوفير محادثة سلسة وطبيعية. فقد يُوصَف النظام بأنه خيالي في موضع ما، ومع ذلك يقنع المستخدم بسلطته في اللحظة نفسها. ويبدو أن ملف بنسلفانيا بُني حول هذا التوتر تحديدًا. فإذا واصل روبوت المحادثة أداء دور الطبيب عندما يُسأل مباشرة عن الترخيص، فموقف الولاية هو أن التحذير العام في مكان آخر لا يكفي.
دفاع الشركة
قالت Character.AI إن سلامة المستخدمين تظل أولويتها القصوى، وامتنعت عن التعليق بالتفصيل لأن التقاضي لا يزال قائمًا. وأكد ممثل للشركة أن الشخصيات التي ينشئها المستخدمون خيالية، وقال إن المحادثات تتضمن تذكيرات بارزة بأن المستخدمين لا يتحدثون إلى شخص حقيقي، وألا يعتمدوا على هذه المحادثات للحصول على مشورة مهنية.
ويبرز هذا الدفاع السؤال القانوني والمنتجي المحوري الذي سيشكل على الأرجح مسار القضية: متى يتوقف الإطار الخيالي عن كونه حماية كافية؟ ففي روبوتات الدردشة الترفيهية قد يكون الغموض جزءًا من الجاذبية. لكن في السياق الصحي قد تنظر الجهات التنظيمية إلى الغموض نفسه باعتباره سمة مضللة، خاصة إذا بدا أن النظام مستعد لتأكيد ادعاءات كاذبة بشأن المؤهلات.
الذكاء الاصطناعي الصحي يدخل منطقة تنظيمية رمادية
تأتي الدعوى في وقت يُستخدم فيه الذكاء الاصطناعي المحادثي على نحو متزايد للدعم العاطفي، والمساعدة الذاتية، والنقاش حول الأعراض، والتفاعلات القريبة من الصحة النفسية. وهذا يخلق منطقة وسطى صعبة. فكثير من الأنظمة لا تُسوَّق كأجهزة طبية، لكنها تتفاعل بانتظام مع المستخدمين بشأن موضوعات طبية. وما إن يوحي روبوت محادثة بأنه صاحب صفة مهنية حتى ترتفع المخاطر القانونية بسرعة.
وتعرض بنسلفانيا المسألة بوصفها حماية أساسية للمستهلك وإنفاذًا للتراخيص المهنية، لا استفتاءً شاملاً على الذكاء الاصطناعي. وقد يجعل ذلك القضية أكثر صلابة. فبدلًا من محاولة تنظيم كل خطاب تصدره روبوتات المحادثة، تركز الولاية على ادعاء محدد: نظام ذكاء اصطناعي، عند اختباره، قال إنه طبيب نفسي مرخص واختلق وثيقة اعتماد لدعم هذا الادعاء.
تحذير للصناعة الأوسع
من المرجح أن يُتابع هذا التحرك عن كثب خارج Character.AI أيضًا. فقد اعتمد مطورو الذكاء الاصطناعي في أنحاء القطاع على إخلاءات المسؤولية ولغة السلامة والإطار الخيالي للحفاظ على مرونة المنتجات مع الحد من المسؤولية. لكن هذه القضية تشير إلى أن الجهات التنظيمية قد تبدأ بالحكم على الأنظمة بناءً على سلوكها في السياق، لا على الإشعارات المرفقة بها فقط.
إذا أصبح ذلك هو المعيار، فقد تحتاج الشركات التي تبني روبوتات للرفقة أو التدريب أو الرفاه إلى ضوابط أقوى حول الهوية المهنية، خصوصًا في مجالات الطب والقانون والمال. فالمسألة ليست فقط ما إذا كان المنتج مخصصًا للاستخدام المهني، بل ما إذا كان يمكن أن يقود المستخدم بصورة معقولة إلى الاعتقاد بأنه كذلك.
لا تحسم دعوى بنسلفانيا هذا الجدل، لكنها تضبطه بدقة أكبر. ففي إحدى أكثر مناطق الاستخدام حساسية للذكاء الاصطناعي المحادثي، تقول الولاية إن الواقعية بلا حدود قد تتحول إلى تضليل. وقد يثبت ذلك أنه أحد أوضح الاختبارات التنظيمية حتى الآن لمدى قدرة روبوتات المحادثة على أداء الأدوار قبل أن يتعامل القانون معها على أنها أكثر من مجرد خيال.
هذه المقالة مبنية على تقرير TechCrunch. اقرأ المقال الأصلي.
Originally published on techcrunch.com
