قد يفتح استخراج النص الأفضل بابًا أمام بيانات تدريب أنظف
يجادل جهد جديد للقياس المرجعي من Hugging Face وEleutherAI بأن إحدى أكثر الطرق العملية لتحسين النماذج اللغوية المفتوحة ليست بنية نموذج أكبر أو وصفة تدريب جديدة، بل نص مصدر أفضل. ويقيّم مشروع FineBooks ما إذا كانت أنظمة التعرف الضوئي على الحروف الحديثة ذات الأوزان المفتوحة قادرة على إصلاح نقطة ضعف طويلة الأمد في مجموعات بيانات الكتب ذات الملكية العامة: النصوص التي استُخرجت قبل سنوات من نسخ ممسوحة ضوئيًا باستخدام أدوات OCR عرضة للأخطاء.
تكمن أهمية المشكلة في أن جزءًا كبيرًا من الكتابة التاريخية المرخصة بشكل مفتوح يصل إلى مطوري الذكاء الاصطناعي بصيغة مشوشة. فقد رقمنت المكتبات مجموعات ضخمة قبل زمن طويل من طفرة الذكاء الاصطناعي التوليدي الحالية، وعولجت كثير من تلك الأرشيفات باستخدام خطوط OCR أقدم أدخلت أحرفًا مفقودة، وتباعدًا سيئًا، وكلمات أسيء نسخها، وأخطاء بنيوية. وبمجرد دخول هذه الأخطاء إلى مجموعات التدريب، فإنها تقلل جودة المواد المستخدمة لتعليم النماذج اللغوية.
يحاول FineBooks قياس مقدار التحسن الذي حدث. اختبر المشروع 14 نموذج OCR مفتوح الأوزان على 2,165 صفحة من الكتب التاريخية ونشر النتائج على شكل لوحة صدارة. ووفقًا للنص المصدر المقدم، حققت أفضل الأنظمة دقة أحرف تزيد على 97% بتكلفة أقل من دولارين أمريكيين لكل ألف صفحة. وهذه التركيبة لافتة لأنها تشير إلى أن التنظيف واسع النطاق قد يصبح الآن واقعيًا من الناحية التشغيلية للمشروعات المفتوحة التي لا تستطيع تحمّل المعالجة الخاصة باهظة الكلفة.
لماذا تهم جودة OCR بالنسبة للنماذج اللغوية
يشير النص المصدر إلى نتيجة سابقة من مشروع Talkie قيّمت الجانب السلبي لضعف OCR. في تلك المقارنة، تعلم نموذج لغوي دُرّب على نص مستخرج عبر OCR بكفاءة بلغت 30% فقط مقارنةً بنموذج دُرّب على نسخ بشرية من الكتب نفسها. وتضع هذه النتيجة أخطاء OCR ليس كإزعاج أرشيفي بسيط، بل كعنق زجاجة مباشر لجودة تدريب النماذج.
بالنسبة لمطوري النماذج المفتوحة، الدلالة واضحة. فإذا كانت الكتب ذات الملكية العامة مصدرًا أساسيًا للنصوص المرخّصة أو المتوافقة مع الرخص، فإن تحسين جودة نسخها يمكن أن يرفع قيمة مجموعة البيانات من دون الحاجة إلى التفاوض على صفقات محتوى جديدة. وهذا مهم بشكل خاص للمجتمعات التي تحاول بناء نماذج قوية من مدخلات مفتوحة بالكامل.
يركز مؤلفو FineBooks على الكتب التاريخية لأن النطاق كبير والعائد فوري. ويذكر النص المصدر أن Common Pile، الموصوف هناك بأنه أكبر مجموعة تدريب مرخصة بشكل مفتوح أُصدرت العام الماضي، تتضمن نحو 300,000 كتاب من الملكية العامة جاء نصها من عمليات OCR أقدم. وقد يؤدي إعادة معالجة جزء ولو صغير من تلك المجموعة بأدوات أفضل إلى تغيير ملف الجودة لمورد تدريب مفتوح مهم.
النماذج الأصغر حققت أداءً أفضل بشكل مفاجئ
ومن أكثر النتائج إثارة في النص المصدر أن النماذج الأصغر في OCR غالبًا ما تفوقت على الأكبر. وهذا يتعارض مع الافتراض الشائع بأن زيادة المعاملات تعني تلقائيًا أداءً أفضل. عمليًا، تعتمد جودة OCR بدرجة كبيرة على التعامل مع التخطيط، وبيانات التدريب، والتغطية اللغوية، وقدرة النموذج على التعامل مع المسوحات المتدهورة، وجداول المحتويات، والرسوم التوضيحية، والطباعة غير المعتادة. الحجم وحده لا يكفي.
النموذج الأفضل المذكور في بيانات المرشحين هو dots.mocr، الذي ورد أنه حقق دقة أحرف بلغت 97.6%. كما يشدد FineBooks على كفاءة الكلفة، وهو متغير مهم آخر للجهات التي تفكر في إعادة معالجة واسعة النطاق. فإذا أمكن تشغيل OCR قوي بتكلفة منخفضة، فإن اقتصاديات تنظيف النصوص التاريخية تبدأ في الظهور بصورة مختلفة. وبدلًا من اعتبار إعادة مسح الأرشيف مهمة تنسيق متخصصة ومكلفة، قد يتمكن المطورون من إدراجها ضمن خطوط إعداد البيانات العادية.
ويبدو أن مجموعة البيانات نفسها صُممت لتعكس تعقيدات حقيقية في مسح الكتب. يصف النص المصدر أمثلة تشمل صفحة إنجليزية في التاريخ الطبيعي بعمود واحد، وفهرسًا متعدد اللغات، ولوحة إيضاحية لا تتعدى ترجمتها الكاملة سطرًا واحدًا لاسم الفنان. وتهم هذه الأمثلة لأن الكتب التاريخية ليست كتلًا موحدة من النثر النظيف. يجب على أنظمة OCR التعامل مع صفحات متعددة اللغات، وتنسيق زخرفي، ونصوص قليلة، وعيوب بصرية قد تربك عملية التعرف.
طريق إلى مجموعات بيانات مفتوحة أقوى، لكن مع حدود
قد تكون أكبر نتيجة قريبة المدى لعمل FineBooks في صيانة البيانات المفتوحة أكثر من كونها في المنتجات النهائية للمستخدمين. إن إعادة معالجة ملايين الصفحات من أرشيفات مثل Biodiversity Heritage Library قد تحسن جودة النص الذي يغذي النماذج المفتوحة المستقبلية. ويذكر النص المصدر أن المكتبة وحدها تضم أكثر من 300,000 وثيقة رقمية في التاريخ الطبيعي، بإجمالي يزيد على 64 مليون صفحة، وهو ما يوضح لماذا تصبح الأتمتة ضرورية. فالنسخ البشري بهذا الحجم غير واقعي.
ومع ذلك، لا يقدم الباحثون OCR الحالي باعتباره حلًا كاملًا لكل حالات الاستخدام. يقول النص المصدر إن أفضل المخرجات أصبحت جيدة بما يكفي لتدريب الذكاء الاصطناعي، لكنها لا تزال عرضة للأخطاء بدرجة تجعلها غير مناسبة للتطبيقات العلمية أو الأكاديمية. وهذا التمييز مهم. يمكن للنموذج اللغوي أن يتحمل بعض الضجيج المنتشر عبر مليارات الرموز، خاصة إذا كان الهدف هو التعلم العام للأنماط. أما المؤرخ أو أمين المكتبة أو العالم الذي يعمل مع اقتباسات دقيقة فلا يمكنه ذلك.
لذا فالخلاصة العملية أضيق من القول إن “OCR حُل”. يشير FineBooks إلى أن OCR تحسن بما يكفي لرفع جودة مجموعات التدريب ماديًا، لا إلى أنه يستطيع استبدال المراجعة البشرية الدقيقة عندما تكون الدقة النصية حرجة. ينبغي على المطورين والباحثين ألا يخلطوا بين هذين المعيارين. قابلية الاستخدام في التدريب والدقة الأرشيفية هدفان مرتبطان، لكنهما ليسا الشيء نفسه.
لماذا يهم هذا أبعد من مجرد معيار واحد
يندرج FineBooks ضمن تحول أوسع في بنية الذكاء الاصطناعي: تحسين المدخلات بدلًا من تحسين النماذج فقط. في السنوات الأخيرة، ركز الحديث العام عن تقدم الذكاء الاصطناعي بشدة على الشرائح والمعاملات ونتائج الاختبارات. لكن بناة النماذج المفتوحة يواجهون أيضًا قيدًا أكثر هدوءًا: جودة النصوص التي يمكنهم استخدامها قانونيًا وعمليًا. إن OCR الأفضل يوسع قيمة المواد ذات الملكية العامة الموجودة أصلًا في الأرشيفات الرقمية.
إذا صمد هذا المعيار وتم اعتماد الأدوات على نطاق واسع، فقد تكون النتيجة رفعًا ملحوظًا في جودة النماذج المفتوحة المستقبلية التي تُدرَّب على الأدب التاريخي والنصوص العلمية والمجموعات الأرشيفية. وهذا لن يلغي الحاجة إلى مزيد من التنقيح وإزالة التكرار والترشيح، لكنه سيزيل مصدرًا واضحًا واحدًا للتدهور القابل للمنع.
والدرس الأوسع هو أن بنية البيانات لا تزال تقدم مكاسب كبيرة. يمكن لتحسين OCR منخفض الكلفة نسبيًا أن ينعكس لاحقًا على جودة البيانات، وكفاءة التدريب، وسلوك النموذج. وبالنسبة لمنظومات الذكاء الاصطناعي المفتوحة التي تعمل ضمن قيود الميزانية والرخص، قد يكون هذا أحد أكثر التحديثات أهمية المتاحة حاليًا.
يعتمد هذا المقال على تغطية The Decoder. اقرأ المقال الأصلي.
Originally published on the-decoder.com