لماذا الأخلاقية المشكلة الأكثر خطورة على الذكاء الاصطناعي

الذكاء الاصطناعي هو بالفعل في كل مكان وستبقى في كل مكان. العديد من جوانب حياتنا في درجة واحدة أو أخرى تتعلق الذكاء الاصطناعي: هو من يقرر ما كتب لشراء ما تذاكر طيران النظام من مدى نجاح تقديم استئناف ، سوف توفر لك قرض من البنك و ما هو علاج للسرطان إلى إعطاء المريض. العديد من استخدامه على نفس الجانب من المحيط لم يحن بعد ولكن سوف يأتي.

كل هذه الأمور — وغيرها الكثير — هي الآن قادرة إلى حد كبير على تحديد المعقدة أنظمة البرمجيات. النجاح الكبير منظمة العفو الدولية على مدى السنوات القليلة الماضية هو مذهل: منظمة العفو الدولية يجعل حياتنا أفضل في الكثير من الحالات. ارتفاع الذكاء الاصطناعي كان لا مفر منه. مبالغ ضخمة تم استثمارها في الشركات الناشئة في هذا الموضوع من منظمة العفو الدولية. العديد من شركات التكنولوجيا بما في ذلك عمالقة مثل الأمازون, Facebook و مايكروسوفت بفتح مختبر أبحاث. ليس من قبيل المبالغة أن نقول أن البرنامج الآن يعني منظمة العفو الدولية.

يتوقع البعض أن ظهور منظمة العفو الدولية سوف تكون نفس الحدث الكبير (أو حتى أكثر) ظهور الإنترنت. بي بي سي مقابلات مع الخبراء أن يستعد لهذا العالم سريع التغير مليئة آلات لامعة, نحن البشر. ما هي مثيرة للاهتمام بشكل خاص ، تقريبا جميع إجاباتهم كانت مكرسة القضايا الأخلاقية.

بيتر نورفيج ، مدير الأبحاث في جوجل رائدة في مجال تعلم الآلة ، يعتقد أن التكنولوجيا هي منظمة العفو الدولية ، استنادا إلى البيانات ، يثير مسألة هامة جدا: كيفية التأكد من أن هذه الأنظمة الجديدة تحسين المجتمع ككل وليس فقط أولئك الذين إدارتها. "الذكاء الاصطناعي أثبتت فاعلية كبيرة في المهام العملية ، من وسم الصور لفهم الكلام كتب اللغة الطبيعية ، والكشف عن الأمراض". "إن التحدي الآن هو ضمان أن يتمتع الجميع هذه التكنولوجيا."

المشكلة الكبرى هي أن تعقيد البرمجيات غالبا ما يعني أنه من المستحيل تحديد السبب بالضبط منظمة العفو الدولية يفعل ما يفعل. يرجع ذلك إلى حقيقة, كيفية الحديثة منظمة العفو الدولية على أساس ناجحة على نطاق واسع تقنية آلة التعلم من المستحيل فتح غطاء محرك السيارة ونرى كيف يعمل. لذا علينا فقط أن نثق به. وكان التحدي هو التوصل إلى طرق جديدة من مراقبة أو مراجعة العديد من المناطق في منظمة العفو الدولية يلعب دورا كبيرا.

جوناثان زيتراين ، أستاذ قانون الإنترنت في كلية هارفارد ، ويعتقد أن هناك خطر من أن زيادة تعقيد أنظمة الكمبيوتر قد تمنعنا من توفير مستوى كاف من التفتيش والرقابة. "أنا أشعر بالقلق إزاء الحد من استقلالية الأفراد كما لدينا أنظمة باستخدام تقنيات أصبحت أكثر تعقيدا و تشابكا," يقول. "إذا كنا "مجموعة وننسى" ، ونحن قد يندم ، وكيفية تطوير النظام وما لا يعتبر الجانب الأخلاقي في الماضي."

هذا القلق ردد من قبل خبراء آخرين. "كيف نحن ذاهبون إلى التصديق على هذه الأنظمة من؟" ، يسأل ميسي كامينغز ، مدير مختبر الإنسان و الحكم الذاتي في جامعة ديوك في ولاية كارولينا الشمالية ، واحدة من أول أنثى الطيارين البحرية الأمريكية الآن خبير في الطائرات بدون طيار.

فإن منظمة العفو الدولية في حاجة إلى إشراف ، ولكن من غير الواضح كيفية القيام بذلك. "حاليا لا يوجد لدينا معيار النهج" يقول كامينغز. "و لا معيار الصناعة اختبار مثل هذه الأنظمة سوف يكون من الصعب على نطاق واسع في تنفيذ هذه التقنيات."

ولكن في عالم يتغير بسرعة في كثير من الأحيان تسوية تكون في وضع يمكنها من اللحاق بالركب. في العديد من المجالات الهامة مثل العدالة الجنائية والرعاية الصحية وشركات يتمتعون بالفعل كفاءة الذكاء الاصطناعي أن يأخذ قرار الإفراج المشروط أو تشخيص المرض. نقل القرارات الصحيحة إلى الآلات ، هناك خطر من فقدان السيطرة — الذين سوف تحقق من صحة النظام في كل حالة ؟

دانا بويد ، باحث في مايكروسوفت للبحوث ، يقول أنه لا تزال هناك تساؤلات خطيرة حول القيم التي يتم تسجيلها في هذه الأنظمة ومن هو المسؤول في نهاية المطاف لهم. "المنظمين المجتمع المدني و الاجتماعي المنظرين نحو متزايد نريد أن نرى هذه التقنيات بطريقة عادلة وأخلاقية ولكن مفهومها في أفضل غامضة".

واحدة من مناطق محفوفة مشاكل أخلاقية, وظائف, وظيفة عامة السوق. منظمة العفو الدولية يسمح الروبوتات لأداء أكثر تعقيدا العمل واستبدال عدد كبير من الناس. الصينية فوكسكون تكنولوجي جروب ، المورد من أبل و سامسونج قد أعلنت عن نيتها استبدال 60 000 العمال من المصنع من قبل الروبوتات مصنع فورد في مدينة كولونيا ، ألمانيا ، وضع الروبوتات المقبل إلى الناس.

وعلاوة على ذلك ، إذا صعود الآلي سوف يكون لها تأثير كبير على العمالة ، وهذا يمكن أن يكون له عواقب سلبية على الصحة العقلية من الناس. "إذا كنت تفكر في ما يعطي الناس معنى في الحياة هو ثلاثة أشياء: علاقات ذات معنى الحب مصالح كبيرة في العمل" ، ويقول حزقيال إيمانويل ، الطب الحيوي و المستشار السابق على الرعاية الصحية باراك أوباما. "ذات مغزى العمل عنصر مهم جدا من هوية شخص ما." يقول أنه في المناطق التي يعمل ضاعت مع إغلاق المصانع وزيادة خطر الانتحار, تعاطي المخدرات والاكتئاب.

ونتيجة لذلك ، فإننا نرى الحاجة إلى عدد كبير من الخبراء على الأخلاق. "إن الشركة سوف تتبع لها حوافز السوق — انها ليست سيئة, لكن لا يمكننا الاعتماد على حقيقة أنها سوف تتصرفأخلاقيا فقط لأن" كيت حبيبتي متخصص في القانون والأخلاق في معهد ماساتشوستس للتكنولوجيا. "رأينا أنه كلما كان هناك جديد التكنولوجيا و كنا نحاول أن تقرر ما يجب القيام به مع ذلك".

عزيزي تلاحظ أن العديد من الشركات مع أسماء كبيرة مثل جوجل ، قد أنشأت بالفعل الإشراف على لجان الأخلاقيات التي تحكم تطوير و نشر منظمة العفو الدولية. ويعتقد أنها ينبغي أن تكون أكثر شيوعا. "نحن لا نريد خنق الابتكار ، ولكن هذه الهياكل علينا".

التفاصيل حول من يجلس في مجلس الأخلاقيات جوجل و ما تبقى غامضة. ولكن في سبتمبر / أيلول الماضي, Facebook, Google أطلقت أمازون كونسورتيوم لتطوير الحلول التي سوف تسمح للتعامل مع عميق الفخاخ ذات الصلة بأمن وسرية منظمة العفو الدولية. OpenAI — أيضا المنظمة التي تعمل في مجال تطوير وتعزيز منظمة العفو الدولية المفتوحة المصدر لصالح الجميع. "من المهم أن تعلم الآلة وقد درس علنا و قد انتشر من خلال فتح المنشورات و التعليمات البرمجية مفتوحة المصدر أننا جميعا يمكن أن تشارك في تبادل المكافآت" ، ويقول نورفيج.

إذا أردنا تطوير الصناعة و المعايير الأخلاقية و أن ندرك بوضوح ما هو على المحك ، فمن المهم لخلق الأفكار مع الخبراء على الأخلاق قادة التكنولوجيا والشركات. نحن لا نتحدث عن مجرد استبدال أشخاص مع الروبوتات ، ومساعدة الناس.