تتوسع قدرات الذكاء الاصطناعي بشكل كبير ، حيث يتم استخدام الذكاء الاصطناعي الآن في الصناعات من الإعلان إلى البحث الطبي. أدى استخدام الذكاء الاصطناعي في المجالات الأكثر حساسية مثل برامج التعرف على الوجه وخوارزميات التوظيف وتوفير الرعاية الصحية إلى إثارة الجدل حول التحيز والإنصاف.
التحيز هو جانب مدروس جيدًا في علم النفس البشري. يكشف البحث بانتظام عن تفضيلاتنا وتحيزاتنا اللاواعية ، والآن نرى أن الذكاء الاصطناعي يعكس بعض هذه التحيزات في خوارزمياتهم.
إذن ، كيف يصبح الذكاء الاصطناعي متحيزًا؟ ولماذا هذا مهم؟
كيف يصبح الذكاء الاصطناعي متحيزًا؟
من أجل البساطة ، سنشير إلى هذه المقالة التعلم الآلي والتعلم العميق الخوارزميات مثل خوارزميات الذكاء الاصطناعي أو الأنظمة.
يمكن للباحثين والمطورين إدخال التحيز في أنظمة الذكاء الاصطناعي بطريقتين.
أولاً ، يمكن تضمين التحيزات المعرفية للباحثين في خوارزميات التعلم الآلي عن طريق الخطأ. التحيزات المعرفية هي تصورات بشرية غير واعية يمكن أن تؤثر على كيفية اتخاذ الناس للقرارات. تصبح هذه مشكلة مهمة عندما تكون التحيزات تتعلق بأشخاص أو مجموعات من الناس ويمكن أن تلحق الضرر بهم.
يمكن تقديم هذه التحيزات بشكل مباشر ولكن عن طريق الخطأ ، أو قد يقوم الباحثون بتدريب الذكاء الاصطناعي على مجموعات البيانات التي تأثرت هي نفسها بالتحيز. على سبيل المثال ، يمكن تدريب الذكاء الاصطناعي للتعرف على الوجه باستخدام مجموعة بيانات تتضمن فقط الوجوه ذات البشرة الفاتحة. في هذه الحالة ، سيكون أداء الذكاء الاصطناعي أفضل من التعامل مع الوجوه ذات البشرة الفاتحة. يُعرف هذا الشكل من أشكال التحيز للذكاء الاصطناعي بالإرث السلبي.
ثانيًا ، يمكن أن تنشأ التحيزات عندما يتم تدريب الذكاء الاصطناعي على مجموعات بيانات غير كاملة. على سبيل المثال ، إذا تم تدريب الذكاء الاصطناعي على مجموعة بيانات لا تتضمن سوى علماء الكمبيوتر ، فلن يمثل المجتمع بأكمله. هذا يؤدي إلى الخوارزميات التي تفشل في تقديم تنبؤات دقيقة.
أمثلة على العالم الحقيقي للانحياز للذكاء الاصطناعي
كانت هناك العديد من الأمثلة الحديثة التي تم الإبلاغ عنها جيدًا لتحيز الذكاء الاصطناعي توضيح الخطر بالسماح لهذه التحيزات بالتسلل.
تحديد أولويات الرعاية الصحية في الولايات المتحدة
في عام 2019 ، تم تصميم خوارزمية التعلم الآلي لمساعدة المستشفيات وشركات التأمين على تحديد المرضى الذين سيستفيدون أكثر من بعض برامج الرعاية الصحية. استنادًا إلى قاعدة بيانات تضم حوالي 200 مليون شخص ، فضلت الخوارزمية المرضى البيض على المرضى السود.
تم تحديد أن هذا كان بسبب الافتراض الخاطئ في الخوارزمية فيما يتعلق بتفاوت تكاليف الرعاية الصحية بين السود والبيض ، وانخفض التحيز في النهاية بنسبة 80٪.
كومباس
كان ملف تعريف إدارة المخالفين الإصلاحيين للعقوبات البديلة ، أو كومباس ، عبارة عن خوارزمية ذكاء اصطناعي مصممة للتنبؤ بما إذا كان أشخاص معينون سيعودون للإساءة. أنتجت الخوارزمية ضعف الإيجابيات الزائفة للمجرمين السود مقارنة بالمجرمين البيض. في هذه الحالة ، كانت كل من مجموعة البيانات والنموذج معيبين ، مما أدى إلى حدوث تحيز شديد.
أمازون
تم العثور على خوارزمية التوظيف التي تستخدمها أمازون لتحديد مدى ملاءمة المتقدمين في عام 2015 لصالح الرجال على النساء بشكل كبير. كان هذا بسبب احتواء مجموعة البيانات بشكل حصري تقريبًا على الرجال وسيرهم الذاتية لأن معظم موظفي أمازون هم من الذكور.
كيفية إيقاف انحياز الذكاء الاصطناعي
يُحدث الذكاء الاصطناعي بالفعل ثورة في طريقة عملنا كل صناعة. إن وجود أنظمة متحيزة تتحكم في عمليات صنع القرار الحساسة هو أقل من المرغوب فيه. في أحسن الأحوال ، يقلل من جودة البحث القائم على الذكاء الاصطناعي. في أسوأ الأحوال ، يلحق الضرر بشكل فعال بمجموعات الأقليات.
هناك أمثلة على خوارزميات الذكاء الاصطناعي التي يتم استخدامها بالفعل المساعدة في صنع القرار البشري عن طريق الحد من تأثير التحيزات المعرفية البشرية. نظرًا لكيفية تدريب خوارزميات التعلم الآلي ، يمكن أن تكون أكثر دقة وأقل تحيزًا من البشر في نفس الموقف ، مما يؤدي إلى اتخاذ قرارات أكثر عدلاً.
ولكن ، كما أوضحنا ، العكس هو الصحيح أيضًا. قد تفوق مخاطر السماح للذكاء الاصطناعي بالانخراط في التحيزات البشرية وتضخيمها بعض الفوائد المحتملة.
في نهاية اليوم، الذكاء الاصطناعي جيد فقط بقدر جودة البيانات التي تم تدريبه عليها. يتطلب تطوير خوارزميات غير متحيزة تحليلًا مسبقًا مكثفًا وشاملًا لمجموعات البيانات ، مما يضمن خلو البيانات من التحيزات الضمنية. هذا أصعب مما يبدو لأن الكثير من تحيزاتنا تكون غير واعية وغالبًا ما يصعب تحديدها.
تحديات منع الانحياز للذكاء الاصطناعي
عند تطوير أنظمة الذكاء الاصطناعي ، يجب تقييم كل خطوة من حيث قدرتها على تضمين التحيز في الخوارزمية. أحد العوامل الرئيسية في منع التحيز هو التأكد من أن العدالة ، بدلاً من التحيز ، يتم "طهيها" في الخوارزمية.
تحديد العدل
الإنصاف مفهوم يصعب تحديده نسبيًا. في الواقع ، إنه نقاش لم يتم التوصل إلى إجماع مطلقًا. لجعل الأمور أكثر صعوبة ، عند تطوير أنظمة الذكاء الاصطناعي ، يجب تحديد مفهوم العدالة رياضيًا.
على سبيل المثال ، فيما يتعلق بخوارزمية التوظيف في أمازون ، هل سيبدو الإنصاف كتقسيم مثالي بنسبة 50/50 بين الذكور والعاملات؟ أم نسبة مختلفة؟
تحديد الوظيفة
تتمثل الخطوة الأولى في تطوير الذكاء الاصطناعي في تحديد ما سيحققه بالضبط. في حالة استخدام مثال كومباس ، ستتنبأ الخوارزمية باحتمالية عودة المجرمين إلى الإجرام. بعد ذلك ، يجب تحديد مدخلات البيانات الواضحة لتمكين الخوارزمية من العمل. قد يتطلب ذلك تحديد متغيرات مهمة ، مثل عدد الجرائم السابقة أو نوع الجرائم المرتكبة.
يعد تحديد هذه المتغيرات بشكل صحيح خطوة صعبة ولكنها مهمة في ضمان عدالة الخوارزمية.
صنع مجموعة البيانات
كما غطينا ، السبب الرئيسي لتحيز الذكاء الاصطناعي هو البيانات غير الكاملة أو غير التمثيلية أو المتحيزة. مثل حالة التعرف على الوجه AI ، يجب فحص بيانات الإدخال بدقة للتحقق من التحيزات والملاءمة والاكتمال قبل عملية التعلم الآلي.
اختيار السمات
في الخوارزميات ، يمكن النظر في سمات معينة أم لا. يمكن أن تشمل السمات الجنس أو العرق أو التعليم - أي شيء قد يكون مهمًا لمهمة الخوارزمية. اعتمادًا على السمات التي يتم اختيارها ، يمكن أن تتأثر الدقة التنبؤية وانحياز الخوارزمية بشدة. تكمن المشكلة في أنه من الصعب جدًا قياس مدى انحياز الخوارزمية.
التحيز للذكاء الاصطناعي ليس موجودًا ليبقى
يحدث انحياز الذكاء الاصطناعي عندما تقوم الخوارزميات بعمل تنبؤات متحيزة أو غير دقيقة بسبب المدخلات المتحيزة. يحدث عندما تنعكس البيانات المتحيزة أو غير المكتملة أو يتم تضخيمها أثناء تطوير الخوارزمية وتدريبها.
والخبر السار هو أنه مع تضاعف تمويل أبحاث الذكاء الاصطناعي ، فمن المحتمل أن نرى طرقًا جديدة لتقليل وحتى القضاء على تحيز الذكاء الاصطناعي.
دعونا نضع الأمور في نصابها الصحيح بشأن بعض الأكاذيب الشائعة المحيطة بالذكاء الاصطناعي.
اقرأ التالي
- شرح التكنولوجيا
- الذكاء الاصطناعي
- التعلم الالي
جيك هارفيلد كاتب مستقل مقيم في بيرث ، أستراليا. عندما لا يكتب ، عادة ما يكون في الأدغال لتصوير الحياة البرية المحلية. يمكنك زيارته على www.jakeharfield.com
اشترك في نشرتنا الإخبارية
انضم إلى النشرة الإخبارية لدينا للحصول على نصائح تقنية ومراجعات وكتب إلكترونية مجانية وصفقات حصرية!
خطوة أخرى أيضا…!
يرجى تأكيد عنوان بريدك الإلكتروني في البريد الإلكتروني الذي أرسلناه لك للتو.