وجدت دراسة جديدة نظرت في كيفية استجابة نماذج الذكاء الاصطناعي للهجات اللغة الإنجليزية المختلفة، أن هذه النماذج أكثر عنصرية من البشر.
وبحسب شبكة «سكاي نيوز» البريطانية، فقد ركزت معظم الأبحاث السابقة حول العنصرية في الذكاء الاصطناعي على «العنصرية العلنية»، مثل كيفية استجابة روبوتات الدردشة لكلمة «أسود»، إلا أن الدراسة الجديدة بحثت في عنصرية هذه النماذج «في الخفاء» وبشكل غير واضح وغير صريح.
واستخدم الباحثون مواقف افتراضية طُلب فيها من مشاركين مختلفين تخيل أنفسهم متهمين بجرائم كبيرة، ومحاولة الدفاع عن أنفسهم كتابة أمام روبوتات دردشة تعمل بتقنية الذكاء الاصطناعي.
ووجد الفريق أن الروبوتات كانت أكثر ميلاً للتوصية بتطبيق عقوبة الإعدام على الأشخاص الذين يكتبون باللغة الإنجليزية الأميركية الأفريقية (AAE) مقارنة بالأشخاص الذين يستخدمون اللغة الإنجليزية الأميركية العادية.
وبعد ذلك، طلب المشاركون من الروبوتات اقتراح وظيفة لهم بناء على تعليمهم وخبراتهم، ليجد الباحثون أن الروبوتات كانت أكثر ميلاً لاقتراح وظائف ضعيفة وذات دخل منخفض على المتحدثين باللغة الإنجليزية الأميركية الأفريقية.
ويتم التحدث باللغة الإنجليزية الأميركية الأفريقية بشكل عام من قبل الأميركيين السود والعديد من الأشخاص في كندا.
وقال فالنتين هوفمان، أحد مؤلفي الدراسة: «إن اللغة الإنجليزية الأميركية الأفريقية كلهجة تثير العنصرية في نماذج اللغة الخاصة ببرامج الذكاء الاصطناعي، وهذه العنصرية أعمق وأكثر سلبية من أي صور نمطية بشرية عن الأميركيين من أصل أفريقي تم الإبلاغ عنها على الإطلاق».
وأضاف: «عندما تسأل روبوت الدردشة صراحةً: ما رأيك في الأميركيين من أصل أفريقي؟ فإنه سيخبرك بسمات إيجابية نسبياً مثل (ذكي) و(متحمس) وما إلى ذلك. لكن عندما تنظر في حكم هذا الروبوت على لهجات أولئك الأميركيين، فستكتشف صورة عنصرية سلبية للغاية».
وتابع: «لذا فإن ما نظهره في هذه الورقة هو أن نماذج اللغة هذه تعلمت إخفاء عنصريتها في العلن».
وتثير تقنيات الذكاء الاصطناعي قلق الكثير من العلماء والمحللين والسياسيين على مستوى العالم.
وسبق أن حذرت دراسة نشرت في شهر أكتوبر (تشرين الأول) الماضي، من أن نماذج الذكاء الاصطناعي، التي تدعم برامج الدردشة الآلية، يمكن أن تساعد في التخطيط لهجوم بسلاح بيولوجي
بينما رسم تقرير جديد، صدر الأسبوع الماضي بتكليف من وزارة الخارجية الأميركية، صورة مثيرة للقلق، للمخاطر «الكارثية»، التي قد يتسبب بها الذكاء الاصطناعي سريع التطور على البشرية والأمن العالمي، محذراً من أنه قد يتسبب في انقراض البشر.
وجدت دراسة جديدة نظرت في كيفية استجابة نماذج الذكاء الاصطناعي للهجات اللغة الإنجليزية المختلفة، أن هذه النماذج أكثر عنصرية من البشر.
وبحسب شبكة «سكاي نيوز» البريطانية، فقد ركزت معظم الأبحاث السابقة حول العنصرية في الذكاء الاصطناعي على «العنصرية العلنية»، مثل كيفية استجابة روبوتات الدردشة لكلمة «أسود»، إلا أن الدراسة الجديدة بحثت في عنصرية هذه النماذج «في الخفاء» وبشكل غير واضح وغير صريح.
واستخدم الباحثون مواقف افتراضية طُلب فيها من مشاركين مختلفين تخيل أنفسهم متهمين بجرائم كبيرة، ومحاولة الدفاع عن أنفسهم كتابة أمام روبوتات دردشة تعمل بتقنية الذكاء الاصطناعي.
ووجد الفريق أن الروبوتات كانت أكثر ميلاً للتوصية بتطبيق عقوبة الإعدام على الأشخاص الذين يكتبون باللغة الإنجليزية الأميركية الأفريقية (AAE) مقارنة بالأشخاص الذين يستخدمون اللغة الإنجليزية الأميركية العادية.
وبعد ذلك، طلب المشاركون من الروبوتات اقتراح وظيفة لهم بناء على تعليمهم وخبراتهم، ليجد الباحثون أن الروبوتات كانت أكثر ميلاً لاقتراح وظائف ضعيفة وذات دخل منخفض على المتحدثين باللغة الإنجليزية الأميركية الأفريقية.
ويتم التحدث باللغة الإنجليزية الأميركية الأفريقية بشكل عام من قبل الأميركيين السود والعديد من الأشخاص في كندا.
وقال فالنتين هوفمان، أحد مؤلفي الدراسة: «إن اللغة الإنجليزية الأميركية الأفريقية كلهجة تثير العنصرية في نماذج اللغة الخاصة ببرامج الذكاء الاصطناعي، وهذه العنصرية أعمق وأكثر سلبية من أي صور نمطية بشرية عن الأميركيين من أصل أفريقي تم الإبلاغ عنها على الإطلاق».
وأضاف: «عندما تسأل روبوت الدردشة صراحةً: ما رأيك في الأميركيين من أصل أفريقي؟ فإنه سيخبرك بسمات إيجابية نسبياً مثل (ذكي) و(متحمس) وما إلى ذلك. لكن عندما تنظر في حكم هذا الروبوت على لهجات أولئك الأميركيين، فستكتشف صورة عنصرية سلبية للغاية».
وتابع: «لذا فإن ما نظهره في هذه الورقة هو أن نماذج اللغة هذه تعلمت إخفاء عنصريتها في العلن».
وتثير تقنيات الذكاء الاصطناعي قلق الكثير من العلماء والمحللين والسياسيين على مستوى العالم.
وسبق أن حذرت دراسة نشرت في شهر أكتوبر (تشرين الأول) الماضي، من أن نماذج الذكاء الاصطناعي، التي تدعم برامج الدردشة الآلية، يمكن أن تساعد في التخطيط لهجوم بسلاح بيولوجي
بينما رسم تقرير جديد، صدر الأسبوع الماضي بتكليف من وزارة الخارجية الأميركية، صورة مثيرة للقلق، للمخاطر «الكارثية»، التي قد يتسبب بها الذكاء الاصطناعي سريع التطور على البشرية والأمن العالمي، محذراً من أنه قد يتسبب في انقراض البشر.
وجدت دراسة جديدة نظرت في كيفية استجابة نماذج الذكاء الاصطناعي للهجات اللغة الإنجليزية المختلفة، أن هذه النماذج أكثر عنصرية من البشر.
وبحسب شبكة «سكاي نيوز» البريطانية، فقد ركزت معظم الأبحاث السابقة حول العنصرية في الذكاء الاصطناعي على «العنصرية العلنية»، مثل كيفية استجابة روبوتات الدردشة لكلمة «أسود»، إلا أن الدراسة الجديدة بحثت في عنصرية هذه النماذج «في الخفاء» وبشكل غير واضح وغير صريح.
واستخدم الباحثون مواقف افتراضية طُلب فيها من مشاركين مختلفين تخيل أنفسهم متهمين بجرائم كبيرة، ومحاولة الدفاع عن أنفسهم كتابة أمام روبوتات دردشة تعمل بتقنية الذكاء الاصطناعي.
ووجد الفريق أن الروبوتات كانت أكثر ميلاً للتوصية بتطبيق عقوبة الإعدام على الأشخاص الذين يكتبون باللغة الإنجليزية الأميركية الأفريقية (AAE) مقارنة بالأشخاص الذين يستخدمون اللغة الإنجليزية الأميركية العادية.
وبعد ذلك، طلب المشاركون من الروبوتات اقتراح وظيفة لهم بناء على تعليمهم وخبراتهم، ليجد الباحثون أن الروبوتات كانت أكثر ميلاً لاقتراح وظائف ضعيفة وذات دخل منخفض على المتحدثين باللغة الإنجليزية الأميركية الأفريقية.
ويتم التحدث باللغة الإنجليزية الأميركية الأفريقية بشكل عام من قبل الأميركيين السود والعديد من الأشخاص في كندا.
وقال فالنتين هوفمان، أحد مؤلفي الدراسة: «إن اللغة الإنجليزية الأميركية الأفريقية كلهجة تثير العنصرية في نماذج اللغة الخاصة ببرامج الذكاء الاصطناعي، وهذه العنصرية أعمق وأكثر سلبية من أي صور نمطية بشرية عن الأميركيين من أصل أفريقي تم الإبلاغ عنها على الإطلاق».
وأضاف: «عندما تسأل روبوت الدردشة صراحةً: ما رأيك في الأميركيين من أصل أفريقي؟ فإنه سيخبرك بسمات إيجابية نسبياً مثل (ذكي) و(متحمس) وما إلى ذلك. لكن عندما تنظر في حكم هذا الروبوت على لهجات أولئك الأميركيين، فستكتشف صورة عنصرية سلبية للغاية».
وتابع: «لذا فإن ما نظهره في هذه الورقة هو أن نماذج اللغة هذه تعلمت إخفاء عنصريتها في العلن».
وتثير تقنيات الذكاء الاصطناعي قلق الكثير من العلماء والمحللين والسياسيين على مستوى العالم.
وسبق أن حذرت دراسة نشرت في شهر أكتوبر (تشرين الأول) الماضي، من أن نماذج الذكاء الاصطناعي، التي تدعم برامج الدردشة الآلية، يمكن أن تساعد في التخطيط لهجوم بسلاح بيولوجي
بينما رسم تقرير جديد، صدر الأسبوع الماضي بتكليف من وزارة الخارجية الأميركية، صورة مثيرة للقلق، للمخاطر «الكارثية»، التي قد يتسبب بها الذكاء الاصطناعي سريع التطور على البشرية والأمن العالمي، محذراً من أنه قد يتسبب في انقراض البشر.
التعليقات