كيف تكشف تحيّز أنظمة الذّكاء الاصطناعي؟ وكيف تعالج الأمر؟

إن من أكثر التحديات التي تواجه الشركات هي الفهم العميق للذكاء الاصطناعي. إذ أن تطبيقاته تختلف و تتباين من شركة لأخرى. وبهذا السياق، أطلقت شركة TruEra الناشئة للذكاء الاصطناعي حلاً يسمح للمؤسسات ليس فقط بالحصول على فهم أعمق لنماذج التعلم الآلي الخاصة بهم، ولكن أيضًا لتحديد السبب الجذري للمشكلات ووضعها في سياق فوري تقريبًا لحلها. الأداة، والتي تسمى TruEra Monitoring والتي تستند إلى منصة جودة الذكاء الاصطناعي الخاصة بالشركة، تبحث عن مقاييس جودة الذكاء الاصطناعي بما في ذلك تحيز عمله، واستقرار النموذج بمرور الوقت، والميزات التي تقوده إلى النتيجة النهائية.

 

“إذا كان أحد نماذج الذكاء الاصطناعي يعاني من التحيز، أو يواجه انحرافًا في عمله، فيمكننا تحديد ذلك وفقًا للميزات الدقيقة التي تؤدي إلى هذا التباين ثم نضع ذلك بما يتناسب مع مقدار دفع هذا التباين”، هذا ما قاله ويل أبينجتون، الشريك المؤسس والرئيس التنفيذي لشركة TruEra، لمجلة VentureBeat. وأضاف: “هذا حل فوري إلى حد كبير، في حين أن معظم الحلول لا تقوم فقط بتحليل السبب الجذري.” يمكن للحلول الحالية مراقبة البنية التحتية ومؤشرات الأداء الرئيسية، ولكن من خلال تقديم طريقة لمراقبة مدخلات ومخرجات نماذج التعلم الآلي نفسها، تهدف TruEra إلى سد ما تسميه “فجوة المراقبة”. وقالت الشركة إنه في بعض المعايير، تكون الأداة أسرع بأكثر من 10 مرات من الحلول الأخرى بمستوى مماثل من الدقة.

 

قد يهمك أيضًا:

أدوبي تطلق تحديث جديد للفوتوشوب باستخدام ميزات الذكاء الإصطناعي

آي بي إم تنافس الشركات المختصة بالذكاء الاصطناعي بمنتج جديد

استخدام الذكاء الاصطناعي بالشكل المسؤول والصحيح

 

قال أبينجتون: “النهج الذي اتخذه الكثير من الأشخاص في الذكاء الاصطناعي هو أنهم قاموا بتصميمه على غرار مراقبة البنية التحتية لبرنامج SAS، وهو نوع من النشاط المستقل والموجه للغاية. في حين أن هذا هو النهج الخاطئ تمامًا للتعلم الآلي”. نعتقد أن النهج الصحيح ينطوي على فكرة  أن المراقبة مجرد استمرار لدورة التنمية. وأن البيانات التشغيلية اليوم هي بيانات تدريب الغد “. عند استخدام الأداة، يمكن للعملاء التفاعل مع مجموعة متنوعة من لوحات المعلومات.  بما في ذلك صفحة المراقبة التي تلخص كل نموذج تتم مراقبته. هناك أيضًا روابط يمكن استخدامها لأدوات تصحيح الأخطاء، بحيث يمكن للفرق العمل بسرعة عند العثور على خطأ معين. وبالنسبة للمستخدمين الذين يفضلون دمج البيانات في منصاتهم الأساسية الحالية، هناك أيضًا واجهة برمجة تطبيقات لتصدير البيانات. وتصرح  HarperCollins، وهي واحدة من أوائل الشركات التي نشرت الأداة، إنها “سعيدة جدًا بالنتائج” حتى الآن. وقد تغير هذه الأداة تجربة استخدام الذكاء الاصطناعي للأبد.