فهم عملية الاعتدال في Qerios

الأمان بالتصميم: فلسفتنا في الاعتدال

في Qerios، نؤمن بأن المنصة الاجتماعية يجب أن تكون آمنة بشكل افتراضي. نحن لا نعتمد فقط على بلاغات المستخدمين للحفاظ على معايير المجتمع. بدلاً من ذلك، قمنا بهندسة نظام اعتدال استباقي متعدد الطبقات مصمم لاكتشاف المحتوى الضار—بما في ذلك الألفاظ النابية، والمضايقات، والتهديدات، والمحتوى الجنسي، والرسائل المزعجة (Spam)، وخطاب الكراهية—قبل أن يصل إلى صندوق الوارد الخاص بك.

وعدنا: نحن نتبع نهج "التصفية الصامتة". إذا تم حظر رسالة بواسطة أنظمتنا، فلن يتم إخطار المرسل، مما يمنعه من محاولة تجاوز مرشحاتنا أو "التلاعب" بالنظام.

نظام الحماية المكون من ثلاث طبقات

نحن نستخدم بنية معقدة من ثلاث طبقات لضمان أقصى قدر من الحماية بأقل قدر من التأخير.

الطبقة الأولى: قائمة الكلمات المحظورة المخصصة

خط الدفاع الأول شخصي للغاية. نحن نتفهم أن ما يعتبر "ضارًا" قد يكون ذاتيًا. يمكنك تحديد قائمتك الخاصة من الكلمات المحظورة المخصصة بنص بسيط. تعمل هذه الطبقة بشكل فوري، مما يضمن أنك لن ترى أبدًا المصطلحات المحددة التي اخترت حظرها.

الطبقة الثانية: مرشح التعبيرات النمطية (Regex)

طبقتنا الثانية هي مرشح التعبيرات النمطية (Regex) على مستوى المنصة. تعالج هذه الطبقة المحتوى بشكل فوري وتحدد الأنماط والتسلسلات والمجموعات الحرفية الضارة المعروفة التي تنتهك معايير سلامة مجتمعنا الأساسية.

الطبقة الثالثة: مصنف الذكاء الاصطناعي (الطبقة الذكية)

هذا هو قلب محرك الاعتدال لدينا. بمجرد أن يتجاوز المحتوى الطبقتين الأوليين، يتم تحليله بواسطة مصنف الذكاء الاصطناعي. يقوم هذا النظام بفحص سياق ونية المحتوى عبر ست فئات ضرر حرجة:

1. الألفاظ النابية
2. المضايقات
3. التهديدات
4. المحتوى الجنسي
5. الرسائل المزعجة (Spam)
6. خطاب الكراهية

هذه الطبقة غير متزامنة (Async)، مما يعني أنها تعالج في الخلفية لضمان بقاء تجربة المستخدم الخاصة بك سريعة وسلسة.

التكرار من خلال نموذج النسخ الاحتياطي (Fallback)

السلامة مهمة جدًا لدرجة لا تسمح بالاعتماد على نقطة فشل واحدة. إذا كان أحد نماذج الذكاء الاصطناعي غير متاح أو واجه خطأ في المعالجة، يبدأ نظامنا تلقائيًا في استراتيجية نسخ احتياطي عبر 5 مستويات. يتسلسل النظام من خلال:

1. OpenRouter
2. Groq
3. HuggingFace
4. Cloudflare
5. Gemini

وهذا يضمن أنه بغض النظر عن حالة الخدمة الخارجية، تظل سلامتك غير معرضة للخطر.

دورك في عملية الاعتدال

بينما أنظمتنا الآلية قوية، فقد صُممت لتعمل جنبًا إلى جنب مع مجتمعنا. إذا فات الذكاء الاصطناعي الخاص بنا دلالة دقيقة، يمكنك دائمًا استخدام نظام الإبلاغ الخاص بنا. نشجعك على استخدام فئات الإبلاغ الـ 11 المتاحة للإبلاغ عن المشكلات التي قد لا تتمكن مرشحاتنا الآلية من وضعها في سياقها الكامل.