أستاذ جامعي يشك في أن مقال طالبه كُتب بالذكاء الاصطناعي، وصاحب موقع يريد التأكد من أن الكاتب الذي يدفع له لا ينسخ من أداة، وطالب متهم ظلمًا بأن بحثه الذي سهر عليه "آلي" لأن أداة كشف قالت ذلك. هذه المواقف أصبحت يومية، ومعها انتشرت أدوات كشف المحتوى المولد بالذكاء الاصطناعي التي تعد بأن تخبرك بنسبة مئوية دقيقة إن كان النص بشريًا أم آليًا. لكن السؤال الأهم الذي نادرًا ما يُطرح: ما مدى مصداقية هذه الأدوات فعلًا؟ وهل يصح أن نبني عليها قرارات تمس مستقبل الناس؟
ومن أشهر أدوات الكشف في هذا المجال GPTZero وOriginality.ai وCopyleaks، إضافة إلى خاصية الكشف في Turnitin المستخدمة في كثير من الجامعات. وتعلن بعضها نسب دقة مرتفعة، لكن هذه النسب تُقاس غالبًا في ظروف مثالية لا تشبه الاستخدام الحقيقي.

وهذا يعني أن الكاتب الواضح والمباشر، أو الذي يكتب بلغة ثانية، أو الذي يكتب نصًا تقنيًا بطبيعته نمطيًا، معرض للاتهام أكثر من غيره. كما أن نصوصًا شهيرة كُتبت قبل اختراع الذكاء الاصطناعي بعقود صنفتها بعض الأدوات على أنها آلية. وفي الاتجاه المعاكس، يكفي أحيانًا إعادة صياغة النص يدويًا أو بأداة أخرى أو إضافة بعض الأخطاء الطبيعية ليمر النص الآلي على أنه بشري. وكلما تحسنت النماذج أصبح أسلوبها أقرب إلى البشر وأصعب على الكشف.

مسألة كشف المحتوى المولد بالذكاء الاصطناعي ستبقى سباقًا بين التوليد والكشف، وهي جزء من سؤال أكبر يتعلق بمستقبل الذكاء الاصطناعي: كيف نبني الثقة في المحتوى الرقمي؟ هل تعرضت أنت لاتهام ظالم من أداة كشف؟ أو هل تعتمد عليها في عملك؟ شاركنا تجربتك ورأيك.
كيف تعمل أدوات الكشف؟
معظم أدوات كشف المحتوى المولد بالذكاء الاصطناعي تعتمد على فكرة إحصائية: النماذج اللغوية تميل إلى اختيار الكلمات الأكثر احتمالًا في كل موضع، فيخرج نصها "متوقعًا" بدرجة عالية، بينما يميل الإنسان إلى اختيارات أقل توقعًا وتنوع أكبر في طول الجمل وبنيتها. وتقيس الأدوات ذلك بمؤشرات مثل الحيرة (Perplexity) التي تقيس مدى توقع النص، والتفاوت (Burstiness) الذي يقيس التنوع بين الجمل. كما تُدرب بعض الأدوات مصنفات على أمثلة كثيرة من نصوص بشرية وآلية لتتعلم الفروق بينها.ومن أشهر أدوات الكشف في هذا المجال GPTZero وOriginality.ai وCopyleaks، إضافة إلى خاصية الكشف في Turnitin المستخدمة في كثير من الجامعات. وتعلن بعضها نسب دقة مرتفعة، لكن هذه النسب تُقاس غالبًا في ظروف مثالية لا تشبه الاستخدام الحقيقي.

لماذا لا يمكن الوثوق بها بشكل كامل؟
أقوى دليل على محدودية أدوات كشف المحتوى المولد بالذكاء الاصطناعي جاء من الشركات المطورة للنماذج نفسها؛ فقد أطلقت OpenAI أداة لكشف النصوص المولدة في بداية 2023، ثم أوقفتها بعد أشهر بسبب انخفاض دقتها. والمشكلة الأخطر هي الإيجابيات الكاذبة، أي اتهام نص بشري بأنه آلي. فقد وجدت دراسة لباحثين من جامعة ستانفورد أن عددًا من أدوات الكشف صنفت نسبة كبيرة من مقالات كتبها طلاب لغتهم الأم ليست الإنجليزية على أنها مولدة آليًا، لأن كتابتهم بمفردات أبسط وتراكيب أكثر نمطية تشبه إحصائيًا كتابة الآلة.وهذا يعني أن الكاتب الواضح والمباشر، أو الذي يكتب بلغة ثانية، أو الذي يكتب نصًا تقنيًا بطبيعته نمطيًا، معرض للاتهام أكثر من غيره. كما أن نصوصًا شهيرة كُتبت قبل اختراع الذكاء الاصطناعي بعقود صنفتها بعض الأدوات على أنها آلية. وفي الاتجاه المعاكس، يكفي أحيانًا إعادة صياغة النص يدويًا أو بأداة أخرى أو إضافة بعض الأخطاء الطبيعية ليمر النص الآلي على أنه بشري. وكلما تحسنت النماذج أصبح أسلوبها أقرب إلى البشر وأصعب على الكشف.
كشف المحتوى المولد بالذكاء الاصطناعي في النصوص العربية
بالنسبة للغة العربية الوضع أصعب. معظم الأدوات طُورت ودُربت أساسًا على الإنجليزية، ودعمها للعربية إما محدود أو أقل دقة بشكل ملحوظ، كما أن الفروق بين الفصحى واللهجات وأساليب الكتابة الأكاديمية المختلفة تزيد التعقيد. لذلك فإن الاعتماد على نسبة تعطيها أداة لنص عربي يحتاج إلى حذر مضاعف.
العلامات المائية: هل هي الحل؟
بدل محاولة تخمين مصدر النص بعد كتابته، تتجه بعض الشركات إلى وضع علامة مائية غير مرئية أثناء التوليد نفسه، مثل تقنية SynthID من جوجل التي تعدل احتمالات اختيار الكلمات بطريقة دقيقة يمكن كشفها لاحقًا، إضافة إلى معايير مثل C2PA لتوثيق مصدر الصور والفيديو. هذه المقاربة أكثر موثوقية من الكشف الإحصائي، لكنها تعمل فقط على المحتوى الذي ولدته أدوات تطبقها، ويمكن إضعافها بإعادة الصياغة أو الترجمة، ولا تشمل النماذج مفتوحة المصدر التي لا تضيفها.كيف نتعامل مع الأمر بعدل؟
القاعدة الأهم في كشف المحتوى المولد بالذكاء الاصطناعي: نتيجة أداة الكشف قرينة تستدعي الحوار، وليست دليلًا يكفي للإدانة. على المعلمين والمؤسسات التعليمية ألا يعاقبوا طالبًا بناءً على نسبة من أداة وحدها، بل أن يناقشوه في عمله، ويطلبوا مسوداته وتاريخ تعديلاته، ويسألوه عن أفكاره وطريقة وصوله إليها. والأفضل من ذلك تصميم تقييمات تجعل الغش أقل جدوى، كالعروض الشفهية والعمل المرحلي والمشاريع المرتبطة بتجربة الطالب الشخصية. أما ككاتب، فاحتفظ بمسوداتك وسجل تعديلاتك في مستندات مثل Google Docs التي تحفظ تاريخ النسخ، فهي أفضل دفاع إذا اتُّهمت ظلمًا.مسألة كشف المحتوى المولد بالذكاء الاصطناعي ستبقى سباقًا بين التوليد والكشف، وهي جزء من سؤال أكبر يتعلق بمستقبل الذكاء الاصطناعي: كيف نبني الثقة في المحتوى الرقمي؟ هل تعرضت أنت لاتهام ظالم من أداة كشف؟ أو هل تعتمد عليها في عملك؟ شاركنا تجربتك ورأيك.