عندما يتعلق الأمر بوسائل التواصل الاجتماعي ، نعلم جميعًا أنه بالإضافة إلى الفوائد العديدة التي توفرها في إجراء الاتصالات أسهل ، يمكن أن يكون هناك أيضًا بعض المخاطر والأخطار التي تصاحب التفاعل عبر الإنترنت ، خاصة بالنسبة للشباب. لحسن الحظ ، هناك تطبيقات استباقية وتحاول الحد من هذه الأضرار التي يمكن أن تلحق بالشباب من خلال تطبيق تقنيات الاعتدال المناسبة.
يوبو، وهو تطبيق الاكتشاف الاجتماعي المباشر الأكثر استخدامًا من قبل الجيل Z ، أعلن عن الإشراف على البث المباشر للصوت تتوسع التكنولوجيا لتشمل أكبر أسواقها ، وهي الولايات المتحدة والمملكة المتحدة وأستراليا و كندا.
يأتي ذلك بعد عدة أشهر من اختبار الميزة في بعض مناطق الولايات المتحدة ، حيث تعلمت الشركة كيفية معالجة المشكلات التي تأتي مع تحليل الصوت في الوقت الفعلي.
أهمية الإشراف على المحتوى
يعد الإشراف على المحتوى عبر الإنترنت مهمة صعبة. لقد رأينا ذلك مع Facebook و Twitter و Instagram وما إلى ذلك. بين الإهانات والتعليقات البغيضة أو حتى في بعض الأحيان العنف أو إيذاء النفس ، فإن الاعتدال مهم للغاية للحفاظ على هذه المنصات آمنة وحماية مستخدميها. هناك شيء ما يتعلق بالقدرة على الاختباء وراء إخفاء الهوية المفترض الذي يوفره الإنترنت والذي يمكن أن يبرز الأسوأ لدى بعض الأشخاص.
حسنًا ، تواصل Yubo إظهار أنها تبذل كل ما في وسعها للمساعدة في منع ذلك ، خاصة وأن قاعدة مستخدميها أصغر بكثير. وفقًا لموقع Yubo ، فإن 99٪ من قاعدة مستخدميها هم من الجيل Z الذين تتراوح أعمارهم بين 13 و 25 عامًا. في حين أن التحرش عبر الإنترنت ليس لطيفًا على أي شخص أن يتحمله ، إلا أنه يمكن أن يكون ضارًا بشكل خاص للمراهقين.
كانت تقنية تعديل الصور والفيديو موجودة منذ فترة وتم تنفيذها بمراحل مختلفة من النجاح. اعتدال الصوتومع ذلك ، فقد ظل يمثل تحديًا كبيرًا ، لا سيما مع البث المباشر. سواء كان بثًا مباشرًا يتم تصويره أثناء السير في الشارع أو حيث يلعب شخص ما لعبة فيديو ، فهذا لا يهم حقًا.
كيف يعمل تعديل الصوت في Yubo
ابتداءً من مايو 2022 ، بدأت Yubo مرحلة تجريبية لتقنية تعديل الصوت في مناطق مختلفة عبر الولايات المتحدة. تتضمن المرحلة التالية الآن معظم المناطق الناطقة باللغة الإنجليزية حيث تمتلك Yubo قاعدة مستخدمين كبيرة من أجل السماح للشركة بجمع معلومات أفضل عن أداة الأمان الجديدة الخاصة بهم.
على الرغم من أنها لا تزال جديدة ، إلا أنها تقنية يمكن استخدامها على نطاق واسع للكشف عن العنف أو إيذاء النفس في المستقبل.
لا تفعل Yubo كل هذا بمفردها ، بل بالشراكة مع Hive. Hive ، إذا لم تكن قد سمعت عنها ، هي شركة تنشئ وتوفر واجهات برمجة تطبيقات لتعديل المحتوى لمعالجة الصور ومقاطع الفيديو في الوقت الفعلي تقريبًا.
تعمل التقنية التي طبقتها Yubo عن طريق تسجيل مقاطع صوتية مدتها 10 ثوانٍ ونسخها في بث مباشر لـ 10 أشخاص أو أكثر. يتم تحليل النص على الفور بواسطة الذكاء الاصطناعي لاكتشاف أي كلمات أو عبارات تنتهك التطبيق إرشادات المجتمع.
انتظر ، لا يتوقف الأمر هنا. في حين أن الذكاء الاصطناعي يمكن أن يكون رائعًا في اكتشاف مثل هذه الأشياء ، إلا أنه لا يزال بعيدًا عن النقطة التي يمكنه فيها التمييز بين الاستخدامات الفعلية الإشكالية والعلامات الزائفة.
يمكن أن تكون العلامات الكاذبة ، على سبيل المثال ، الأغاني التي يتم تشغيلها في الخلفية ، أو اللغة المرحة التي لا يتم سوء النية.
لذلك ، هذا هو المكان الذي يلعب فيه متخصصو السلامة في Yubo ، حيث يتم إحضارهم للتحقيق في الحوادث التي تم الإبلاغ عنها. البشر هم من يقرر ما إذا كان الموقف يتطلب تصعيدًا أم لا إذا كانت هناك إجراءات يجب أن تؤخذ ضد الأشخاص الذين يستخدمون لغة سيئة ، أو حتى إذا كان من الضروري تطبيق القانون في.
إذا كان البث المباشر على ما يرام تمامًا ، فلن تتم مراجعة أي نصوص أو الاحتفاظ بها بعد 24 ساعة كحد أقصى ، لذلك يظل كل شيء خاصًا ؛ أو خاصة مثل البث المباشر مع أكثر من 10 أشخاص.
ومع ذلك ، إذا اكتشفت الخوارزميات التهديدات العنيفة أو الكلام الذي يحض على الكراهية أو إيذاء النفس ، على سبيل المثال ، يتم تخزين النصوص لمدة تصل إلى عام واحد. هذا ، بالطبع ، إجراء أمان للشركة في حالة تطلب تطبيق القانون المعلومات أو تحتاج الشركة نفسها إلى التفاصيل لإجراء مزيد من التحقيقات الداخلية.
يرى مارك أنطوان دوراند ، الرئيس التنفيذي للعمليات في Yubo ، التوسع في اعتدال الصوت التكنولوجيا كعنصر أساسي في تطور الأمان عبر الإنترنت عبر الصناعة بأكملها.
"لا يزال هناك الكثير من التقدم الذي يتعين إحرازه في مجال اكتشاف الصوت ، لكننا فخورون بأن نكون طريقًا لأقراننا من خلال كونك أول من أطلق تعديل الصوت مع Hive وساعد في جعل هذه الأداة أكثر موثوقية وفعالية من خلال هذه التجربة ، ”Durand قال.
من الواضح أن المنصات الاجتماعية لا تريد تفشي التنمر والكلام الذي يحض على الكراهية والتعليقات التي تحرض على العنف لأنها ستدفع المستخدمين الآخرين بعيدًا. يعد تطبيق تقنية الاعتدال هذه أداة رائعة للحفاظ على أمان المستخدمين ، وكذلك للمساعدة في ضمان نمو Yubo ونجاحها على المدى الطويل.
