كيف تعمل أجهزة الكشف بالذكاء الاصطناعي؟
كاشفات الذكاء الاصطناعي، والمعروفة أيضًا باسم كاشفات الكتابة بالذكاء الاصطناعي أو كاشفات المحتوى، هي أدوات يمكنها تحديد ما إذا كان جزء من النص مكتوبًا بواسطة إنسان أو حل ذكاء اصطناعي (AI) مثل ChatGPT .
عادةً، سيستخدم كاشف الذكاء الاصطناعي خوارزميات التعلم الآلي المدربة على النص المكتوب بواسطة الإنسان والنص الذي أنشأه الذكاء الاصطناعي لتحديد أنماط اللغة الطبيعية وتقييم ما إذا كان جزء من النص مكتوبًا بواسطة إنسان أم لا.
يتضمن ذلك تقسيم النص المُدخل إلى أجزاء، وإعطاء كل جملة درجة، ثم استخدام هذه الدرجات لتوفير درجة مئوية إجمالية للإشارة إلى مقدار النص الذي يعتقد أنه تم إنشاؤه بواسطة الذكاء الاصطناعي.
لتقييم المحتوى، تستخدم الخوارزميات تقنيات مثل معالجة اللغة الطبيعية لتقييم أصالة النص. اثنان من أهم التدابير المستخدمة هما الحيرة والانفجار.
الحيرة مقابل الانفجار
الحيرة هي قياس مدى عدم القدرة على التنبؤ أو العشوائية في جزء من النص. تم تصميم نماذج اللغات الكبيرة (LLMs) وأدوات إنشاء محتوى الذكاء الاصطناعي لإنشاء نصوص منخفضة الحيرة، والتي يمكن التنبؤ بها بشكل أكبر ولكنها أكثر منطقية للقارئ.
تقيس أجهزة كشف الذكاء الاصطناعي درجة الحيرة لأن درجات الحيرة المنخفضة تشير إلى أن الحل الآلي كتب جزءًا من النص، في حين تشير درجة الحيرة العالية إلى أنه مكتوب بواسطة مستخدم بشري مع وجود المزيد من التناقضات في اختيار اللغة.
من ناحية أخرى، يتم استخدام الانفجار لتقييم التباين في بنية الجملة وطولها. يُشار إلى النصوص ذات الاختلاف المحدود في بنية الجملة وطولها على أنها ذات انفجار منخفض، في حين أن النصوص التي تحتوي على مزيد من الاختلاف بين هذين المتغيرين لديها انفجار مرتفع.
يتمتع النص الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي بتتابع أقل، مما ينتج عنه جمل متوسطة الطول ذات بنية أكثر اتساقًا. بالمقارنة، سيستخدم الكتّاب البشريون جملًا ذات أطوال مختلفة، مع اتساق إجمالي أقل.
ما أهمية أجهزة كشف الذكاء الاصطناعي؟
تعد أجهزة كشف الذكاء الاصطناعي أدوات مهمة لمساعدة المؤسسات والمؤسسات الأكاديمية والكيانات الأخرى التي تحتاج إلى التحقق من أن جزءًا من النص مكتوب بواسطة الإنسان.
على سبيل المثال، يمكن للأكاديميين استخدام هذه الأدوات للمساعدة في التحقق من أن الطلاب يكتبون مقالاتهم الخاصة، في حين يمكن للمسوقين استخدامها للتأكد من أن المحتوى المدفوع قد تم كتابته من الصفر، ويمكن للقائمين بالتوظيف نشرها للتحقق من أن طلبات المرشحين حقيقية.
أصبحت هذه الأدوات مفيدة بشكل متزايد الآن مع تزايد اعتماد الذكاء الاصطناعي. في قطاع التعليم وحده، وجدت Turnitin أنه من بين 65 مليون ورقة بحثية للطلاب تمت مراجعتها، تم وضع علامة على 3.3% من جميع الأوراق (أكثر من 2 مليون) على أنها تحتوي على 80% أو أكثر من النصوص المكتوبة بالذكاء الاصطناعي.
وبالمثل، في حين أنه من الصعب معرفة مدى الانتشار الدقيق للمحتوى الناتج عن الذكاء الاصطناعي عبر الإنترنت، فقد وجدت خدمة تتبع المعلومات الخاطئة NewsGuard أن 50 موقعًا إخباريًا عبر الإنترنت مكتوبة بالكامل تقريبًا بواسطة برامج الذكاء الاصطناعي.
تسلط نقاط البيانات الموضحة أعلاه الضوء على أن المحتوى الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي هو السائد، وعلى الرغم من أن هذا ليس بالضرورة أمرًا سيئًا في ظروف معينة، إلا أن هناك مجالات أخرى لا يمكن التغاضي عنها، مثل التعليم.
هل أجهزة كشف الذكاء الاصطناعي موثوقة؟
تعتمد موثوقية أجهزة كشف الذكاء الاصطناعي على عدد من العوامل. في حين أن بعض موفري الحلول مثل Originality AI و Turnitin يزعمون أنهم يتمتعون بدقة تبلغ 99% و98% عند اكتشاف المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي، فإن موثوقية الكاشف يمكن أن تختلف بناءً على عدد من العوامل.
إحدى أكبر المشكلات هي أنه يمكن للمستخدمين توجيه حلول مثل ChatGPT، المصممة لتجاوز ماسحات المحتوى. بالإضافة إلى ذلك، سيقوم بعض الأفراد أيضًا بإنشاء نص مختلط، باستخدام الذكاء الاصطناعي لإنشاء نص ثم تحريره أو العكس في محاولة لتجنب اكتشافه.
في الوقت نفسه، العديد من الحلول عرضة لنتائج إيجابية كاذبة ويمكن أن تشير إلى أن المقالات المكتوبة بواسطة الإنسان تمت كتابتها بالفعل بواسطة برنامج الذكاء الاصطناعي بدلاً من ذلك. قد يكون هذا ضارًا للغاية إذا اتخذت منظمة أو مؤسسة إجراءً ضد فرد بناءً على هذا التقييم.
اقرا ايضا:أفضل أدوات تتبع محفظة الأسهم لعام 2024 من هنا
ونتيجة لذلك، من الأفضل استخدام أجهزة كشف الذكاء الاصطناعي كأداة للمساعدة في تسليط الضوء على المحتوى الذي يتطلب المزيد من التحقيق. ومع ذلك، فإن هذه الحلول تتحسن باستمرار بمرور الوقت، لذلك هناك احتمال أن تزيد دقتها في المستقبل المنظور.
ما هي بعض الأمثلة على أجهزة كشف الذكاء الاصطناعي؟
اليوم، هناك مجموعة واسعة من أجهزة كشف الذكاء الاصطناعي المتوفرة في السوق. توفر كل من GPTZero و Copyleaks و Scribbr و Undetectable AI وTurnitin حلولاً لاكتشاف المحتوى الناتج عن الذكاء الاصطناعي. تختلف الدقة الإجمالية لكل منها.
تم تصميم هذه الأدوات أيضًا لحالات استخدام مختلفة. على سبيل المثال، تم تدريب GPTZero على تحليل كتابات الطلاب والنثر الأكاديمي لتحديد المحتوى الذي تم إنشاؤه باستخدام ChatGPT أو GPT-4.
توفر الأدوات الأخرى مثل Copyleaks نهجًا أكثر هجينًا لفحص المحتوى يدعم المؤسسات التعليمية والمؤسساتية بقدرات اكتشاف الانتحال الأصلية.
كيف يجب أن أرد على المحتوى الذي ينشئه الذكاء الاصطناعي؟
لا يعد المحتوى الناتج عن الذكاء الاصطناعي بالضرورة سيئًا في حد ذاته، لذلك يتعين على كل منظمة ومؤسسة تقييم ما إذا كان استخدام الذكاء الاصطناعي في سياق معين (وإلى حد ما) يشير إلى سوء السلوك أو عدم الأمانة.
على سبيل المثال، إذا استخدم الطالب ChatGPT لكتابة مقال وتمريره على أنه عمل خاص به، فهذه علامة على سوء السلوك وقصد تضليل العلامة.
في النهاية، إذا حصل المستخدم على نسبة اكتشاف الذكاء الاصطناعي أو الانتحال أقل من 15% ، فإن هذا يعتبر مقبولًا بشكل عام لاعتبار القطعة عملاً أصليًا.
مرحبا بكم في جريدة وموقع كلام فور يو