كيفية تنظيم الذكاء الاصطناعي الخطير

الائتمان: https://unsplash.com/@agkdesign

كانت استجابة لتعليقات المسك حول الحاجة إلى تنظيم الذكاء الاصطناعي (AI) من قبل الخبراء في مثل رد فعل رعشة. كان رد الفعل سائداً على غرار عدم القدرة على تحديد المناطق التي تتطلب التنظيم. أظن أن معظم الباحثين في منظمة العفو الدولية لم يبذلوا جهداً جادًا فيما يتعلق بالصورة الكبيرة.

أنا أتجنب عمدا مناقشة "لماذا؟" لوائح منظمة العفو الدولية. بالأحرى سأناقش أسئلة "ماذا؟" و "كيف؟". يرجى ، في تعليقاتكم ، تجنب اختصار المناقشة عن طريق السؤال عن سبب الحاجة إلى تنظيم الذكاء الاصطناعي. يمكنك العثور على آراء حول ذلك في مكان آخر. في الواقع ، إذا كنت قادراً على ركن Elon Musk ، فربما يحصل على شرح أفضل لك.

اسمح لي أولاً بتوسيع نطاق هذا في مفهوم الأتمتة. وهذا هو ، دعونا نلقي نظرة على استمرارية الأتمتة ، ندرك أن الذكاء الاصطناعي هو شكل أكثر قدرة من الأتمتة ومن ثم استكشاف اللوائح الحالية التي تنطبق على استخدام الأتمتة.

هناك سلسلة متصلة واسعة من الأتمتة:

المستوى 0 (التشغيل اليدوي) - صفر الأتمتة.

المستوى 1 (العملية الحاضرة) - يدرك المستخدمون بدء وإنجاز أداء كل مهمة تلقائية. يمكن للمستخدم التراجع عن مهمة في حالة تنفيذ غير صحيح. ومع ذلك ، يكون المستخدمون مسؤولين عن التسلسل الصحيح للمهام.

المستوى 2 (عمليات متعددة حاضرة) - يدرك المستخدمون بدء وإنجاز مجموعة من المهام. ومع ذلك ، فإن المستخدم غير مسؤول عن التسلسل الصحيح للمهام. ومن الأمثلة على ذلك حجز فندق وسيارة ورحلة. الترتيب الدقيق للحجز قد لا يكون مصدر قلق للمستخدم. ومع ذلك ، قد يتطلب فشل أداء هذه المهمة إجراءات علاجية يدوية أكثر شمولاً. من الأمثلة المؤسفة لإجراءات علاجية فاشلة إعادة تسكين عميل الخطوط الجوية المتحدة.

المستوى 3 (العملية غير المراقبة) - يتم إخطار المستخدمين فقط في حالات استثنائية ويطلب منهم القيام بالعمل في هذه الظروف. مثال على ذلك هو في الأنظمة التي تراقب باستمرار أمان الشبكة. الممارسين اتخاذ إجراءات اعتمادا على شدة الحدث.

المستوى 4 (العملية الذكية) - يتحمل المستخدمون مسؤولية تحديد الأهداف النهائية للأتمتة ، ولكن تتم معالجة جميع جوانب تنفيذ العملية وكذلك التعامل مع الظروف الاستثنائية على متن الطائرة بواسطة الأتمتة. الأتمتة قادرة على تنفيذ إجراءات التعويض المناسبة في أحداث الفشل أثناء الطيران. ومع ذلك ، لا يزال المستخدم مسؤولاً عن تحديد السياق المحدد الذي يمكن فيه تطبيق الأتمتة بأمان.

المستوى 5 (عملية مؤتمتة بالكامل) - هذه حالة نهائية ومستقبلية حيث لا تكون المشاركة البشرية في العمليات مطلوبة. بالطبع قد لا يكون هذا هو المستوى النهائي لأنه لا يفترض أن العملية قادرة على تحسين نفسها لإجراء تحسينات.

المستوى 6 (عملية التحسين الذاتي) - هذا هو الأتمتة التي لا تتطلب أي تدخل بشري وقادرة أيضا على تحسين نفسها مع مرور الوقت.

هذه المستويات مستوحاة من معايير جمعية هندسة السيارات (SAE J3016). أعتقد أن "السيارات" هنا تعني السيارات وليس الأتمتة بمعنى الكمبيوتر. المستوى 6 يتخطى خطوة واحدة متطلبات SAE. يمكننا التفكير في هذا المستوى المطلوب في بيئات تنافسية عالية الأداء مثل سباقات Robocar وتداول الأسهم.

دعنا الآن نفحص القوانين المختلفة في مجالات مختلفة وربطها بالمستويات المحددة أعلاه. أعتقد أنه سيكون من الآمن افتراض أن القوانين التي تنطبق على المستوى الأدنى تنطبق أيضًا على كل مستوى أعلى.

فيما يلي بعض القوانين الموجودة في الكتب:

Robocalling - تم تفعيله من قِبل FTC في عام 2009. يحظر إجراء مكالمات التسويق عبر الهاتف المسجلة مسبقًا ، ما لم يكن لدى المسوِّن إذن خطي مسبق من العميل لإجراء مكالمة. سُنّت لوائح FCC أخرى في عام 2016 على Robocalls للحملات السياسية. المستوى 1 الأتمتة.

الرسائل غير المرغوب فيها - ينص قانون الرسائل الاقتحامية لعام 2003 أساسًا على أن "رسائل البريد الإلكتروني يجب ألا تضلل المستلمين على مصدرها أو محتواها ، وأن جميع مستلمي هذه الرسائل الإلكترونية لهم الحق في رفضها." أتمتة المستوى 2.

الفيروسات ، أحصنة طروادة والديدان - قانون إساءة استخدام الكمبيوتر لعام 1990 الذي يغطي الوصول غير المصرح به و "التعديل غير المصرح به لمواد الكمبيوتر". المستوى 3 الأتمتة.

التداول المبرمج - 19 أكتوبر 1987 والمعروف أيضًا باسم "الإثنين الأسود". تتطلب القواعد الجديدة أن يكون للبورصات "قيود تجارية" أو "قواطع دوائر" تسمح للبورصات بإيقاف التداول في حالات التقلب الشديد. المستوى 3 الأتمتة.

التداول عالي التردد - تقترح CFTC لوائح فيما يتعلق بالتداول الآلي مثل تكتيكات AT مثل "التزييف" و "التداول فلاش" و "اقتباس الحشو". يتضمن HFT الاستفادة من أجهزة الكمبيوتر لاستغلال أوجه القصور في السوق التي تنشأ عن التأخير وأوقات استجابة المشاركين. بشكل عام ، تعمل المؤسسات المالية على كسب الرزق من خلال اختراق نظامنا المالي لإيجاد مجالات من عدم الكفاءة والثغرات حيث يمكنها سرقة المشاركين في السوق بشكل قانوني. المستوى 2 والمستوى 3 الأتمتة.

بدون طيار تنظيم - FAA اللوائح التي هي الآن في التأثير. لوائح محددة عامة بما يكفي لتطبيقها على الأتمتة الأخرى: "يجب أن تظل الطائرات بدون طيار في مرمى البصر للطيار". باختصار ، أتمتة المستوى 2 بدقة للطائرات بدون طيار!

تنظيم الهندسة الوراثية - تقتصر الهندسة الوراثية على الحيوانات لعدد قليل من حالات الاستخدام. في الغالب قانوني للتجارب وتطوير المنتجات المشتقة ، ولكن من غير القانوني السماح لهذه الحيوانات المهندسة وراثيا في البرية! المستوى 6 الأتمتة.

الأسلحة البيولوجية - قانون عام 1989. يجعل القانون من غير القانوني شراء أو بيع أو تصنيع العوامل البيولوجية لاستخدامها كسلاح. هذا هو المستوى 6 الأتمتة. المستوى الثاني من الأتمتة يستخدم بالفعل في المسرح في "الضربة بدون طيار" العرضية في الشرق الأوسط. لاحظ أن صواريخ كروز هي أسلحة آلية من المستوى 4.

معاهدة عدم انتشار الأسلحة النووية - جانبان مهمان قد يكونان وثيقي الصلة بمنظمة العفو الدولية ، "ليس بأي شكل من الأشكال مساعدة أو تشجيع أو حث" دولة غير حائزة للأسلحة النووية على امتلاك أسلحة نووية (المادة الأولى) "و" حق جميع الأطراف لتطوير الطاقة النووية للأغراض السلمية والاستفادة من التعاون الدولي في هذا المجال (المادة الرابعة) ". باختصار ، إذا حصلت على التقنية أولاً ، فيمكنك أن تطالب بالقوانين حتى تتمكن من الاحتفاظ باحتكارك!

هذه مجرد عينة من القوانين الموجودة والتي تتضمن تنظيم التشغيل الآلي أو التقنيات الخطرة. ما الذي يمكننا تعميمه الآن حول هذه القوانين القائمة؟

  1. الأتمتة يتطلب إذن للتفاعل مع البشر.
  2. الأتمتة لا تستطيع تضليل البشر بهويتهم.
  3. الأتمتة لا يجوز إجراء تعديل غير مصرح به للمعلومات.
  4. يجب إغلاق الأتمتة تلقائيًا في المواقف الشاذة.
  5. يجب ألا يكون للتشغيل الآلي قيود على الطرق التي يستخدمها لخداع المشاركين الآخرين.
  6. يجب أن يحضر الأتمتة دائما من قبل الإنسان.
  7. لا يجوز إطلاق التشغيل الآلي للمستوى 6 في البرية. يجب أن يكون أتمتة المستوى 6 متاحًا فقط للتجربة وإنشاء أتمتة غير مستوى 6.
  8. يجب أن يكون غير قانوني لشراء أو بيع أو تصنيع أتمتة المستوى 6 سلاح.
  9. كل من يحصل على أتمتة المستوى السادس يقرر أولاً لأي شخص آخر ماهية القواعد. والمعروف باسم "القاعدة الذهبية لمنظمة العفو الدولية" ، وهذا هو ، من يملك الذهب ، وبالتالي قواعد!

قليلا من إخلاء المسئولية ، كتبت هذا في وقت مبكر من صباح الأحد. إنها مجرد جزء أول من بعض الأفكار ، لكنني متأكد من أن الآخرين لديهم أفكار أفضل. حافزي لهذا المقال هو بدء محادثة حول هذا الموضوع الملحة في نهاية المطاف.

استراتيجية الذكاء الاصطناعي التخريبي: https://gumroad.com/products/WRbUs