نظام سجلات عامة صُمم للشفافية يواجه خطرًا جديدًا في عصر الذكاء الاصطناعي
أوقفت الهيئة الوطنية الأمريكية لسلامة النقل نشر بعض المعلومات المرتبطة بتحقيقاتها بعد أن استخدم أشخاص سجلات عامة لإنتاج صوت اصطناعي بدا وكأنه يعيد خلق اللحظات الأخيرة في قمرة القيادة لحادث تحطم مميت. وتُظهر هذه الخطوة كيف يمكن إعادة توظيف الأدوات المصممة لتوسيع فهم الجمهور للحوادث عندما تجعل أنظمة الذكاء الاصطناعي الحديثة إعادة بناء الصوت والصوتيات أسهل بكثير مما توقعه المحققون.
وبحسب المواد المصدرية، تضمنت القضية رحلة UPS رقم 2976، وهو حادث وقع في 4 نوفمبر وأودى بحياة ثلاثة من أفراد الطاقم و12 شخصًا على الأرض. وقالت NTSB إنها علمت بأنه تم إنشاء ومشاركة تمثيل صوتي مولد بالذكاء الاصطناعي لقمرة القيادة باستخدام وثائق مكتوبة قُدمت خلال جلسة استماع حديثة. ودفع ذلك الوكالة إلى مراجعة ما قد يحتويه ملفها العام الآخر من معلومات يمكن أن يعرض الضحايا أو العائلات أو أفراد الطاقم لأضرار جديدة تتعلق بالخصوصية.
لماذا تحركت الوكالة
بموجب القانون الاتحادي، لا تنشر NTSB تسجيلات صوت قمرة القيادة علنًا أثناء التحقيقات في حوادث الطائرات المميتة. وبدلًا من ذلك، تتيح مواد أخرى، بما في ذلك النصوص المكتوبة والتصورات التقنية. وفي هذه الحالة، تضمن السجل العام نصًا مكتوبًا ومخططًا طيفيًا صوتيًا، يوضح خصائص مثل تردد الصوت ومدته وسعته.
كانت تلك المواد كافية لأشخاص من خارج الوكالة لإعادة إنشاء آخر 30 ثانية من صوت قمرة القيادة رقميًا قبل التحطم، بما في ذلك أصوات الطيارين والصوت الخلفي. كما تداول الناس عبر الإنترنت مقطعًا آخر معاد البناء مرتبطًا باختبار طائرة أجرته NTSB. وتشير استجابة الوكالة إلى أن الحدود بين التسجيل المحمي والبديل الوصفي تقنيًا قد ضاقت بدرجة كبيرة. فالمستندات التي كانت تُعد منخفضة المخاطر لأنها لا تحتوي على الصوت الخام قد تكون الآن كافية لإنتاج شيء يبدو قريبًا بما يكفي من الأصل لينتشر على نطاق واسع عبر الإنترنت.
الشفافية تصطدم بالوسائط الاصطناعية
على مدى سنوات، عكس نموذج الملفات العامة لدى NTSB مبدأً أساسيًا في تحقيقات الحوادث: التدقيق المستقل يساعد على تعزيز الثقة. فالمحققون “يُظهرون عملهم”، مما يتيح للخبراء الخارجيين والصحفيين والجمهور فحص الأساس الذي تقوم عليه النتائج الرسمية. ويفترض هذا النموذج أن المواد المنشورة ستُستخدم أساسًا للمراجعة والتغطية والتحليل الفني.
الذكاء الاصطناعي يغيّر هذا الافتراض. يمكن الآن تحويل النص المكتوب إلى مدخل تدريب. ويمكن أن يصبح المخطط الطيفي بديلًا لإعادة البناء. كما يمكن أن تصبح صورة ثابتة أو مخطط تقني أساسًا لوسائط اصطناعية ذات شحنة عاطفية. عمليًا، يعني ذلك أن الانفتاح نفسه الذي كان يدعم المساءلة يمكن أن يتيح أيضًا محتوى فيروسيًا يطمس الحدود بين التوثيق والمحاكاة والاستعراض.
وكان رد فعل الوكالة، بحسب ما نُقل، مباشرًا بشكل لافت: قال المسؤولون إنهم كانوا يسعون إلى التأكد من عدم وجود أي شيء آخر في الملف يمكن أن يضر بالخصوصية بعدما أدركوا احتمال إعادة الإنشاء الرقمية. وهذه الصياغة مهمة. فالمسألة ليست مجرد حقوق نشر أو خدعة. إنها مسألة خصوصية وكرامة والتعامل مع الأدلة، خصوصًا عندما يكون الأشخاص المصوَّرون قد ماتوا ولا يمكنهم الموافقة أو الاعتراض أو تصحيح السجل.
اختبار سياساتي جديد للمحققين والجهات التنظيمية
قد يكون توقف NTSB مؤقتًا، لكن من غير المرجح أن تكون المشكلة الأساسية كذلك. فمحققي الحوادث والمحاكم ووكالات النقل وحراس السجلات سيواجهون جميعًا السؤال نفسه: ما المعلومات التي لا تزال آمنة للنشر عندما تستطيع الأنظمة التوليدية عكس هندسة المواد الحساسة وإعادة بنائها من صيغ كانت تُعد سابقًا مجهولة الهوية أو غير مكتملة؟
ويمتد هذا التحدي إلى ما هو أبعد من الطيران. فأي أرشيف عام يحتوي على نصوص مكتوبة أو صور أو بيانات حيوية أو تصورات تشبه الموجات أو سجلات تقنية شديدة الوصف قد يوفر الآن المكونات الخام لإعادة بناء اصطناعية. وقد تحتاج الوكالات إلى إعادة التفكير في كيفية موازنة الانفتاح مع سوء الاستخدام الحديث، ربما عبر تغيير ما تنشره أو توقيت نشره أو درجة دقة المواد التي تفرج عنها.
هناك أيضًا خطر إجرائي. فإذا استجابت الوكالات بشكل واسع جدًا، فقد تقوض الرقابة العامة المشروعة. وإذا استجابت بشكل ضيق جدًا، فقد تدعو إلى المزيد من عمليات إعادة الإنتاج الاصطناعية للأحداث الصادمة. ويبدو أن خطوة NTSB محاولة لكسب الوقت بينما تعيد تقييم هذا التوازن.
الإشارة الأكبر
القصة المباشرة تدور حول وكالة لسلامة النقل وتحقيق في حادث تحطم. أما القصة الأكبر فهي كيف يجبر الذكاء الاصطناعي التوليدي المؤسسات على مراجعة الافتراضات المضمّنة في قوانين السجلات العامة والممارسة الإدارية. فقد بُنيت كثير من الأنظمة في عصر لم يكن فيه الوصول إلى وثيقة ما يعني تلقائيًا الوصول إلى إعادة خلق محتملة لصوت شخص ما.
ولم يعد ذلك صحيحًا. تُظهر قضية NTSB أنه حتى عندما تحتفظ وكالة ما بأكثر الملفات الأصلية حساسية، قد تظل المواد المجاورة كافية لإنتاج بديل اصطناعي مقنع. وبالنسبة للحكومات، يثير ذلك احتمالًا مقلقًا: قد تكشف ضمانات الشفافية المصممة لعصر ما قبل الذكاء الاصطناعي التوليدي الناس الآن بطرق لم يتوقعها المشرّعون والوكالات قط.
ستكون المراجعة الجارية الآن داخل NTSB محل متابعة تتجاوز الطيران بكثير. فإذا شددت الوكالة ممارسات النشر العام، فقد تحذو حذوها جهات أخرى. وإذا أعادت الوصول مع ضوابط جديدة، فقد تصبح تلك الضوابط نموذجًا يحتذى. وفي كلتا الحالتين، تمثل هذه الحادثة تحولًا ملموسًا في كيفية تغيير الوسائط الاصطناعية للمعنى التشغيلي للمعلومات العامة.
هذا المقال يستند إلى تقرير Mashable. اقرأ المقال الأصلي.
Originally published on mashable.com