WEBVTT

00:00:00.000 --> 00:00:03.960
تخيل أنك قمت بنشر روبوت محادثة لمساعدة موظفك في إدارة المهام اليومية

00:00:03.960 --> 00:00:08.720
وفي غضون دقائق بدأ باقتراح إجراءات متحيزة أو مضللة أو غير مفيدة تماما لعملائك

00:00:08.720 --> 00:00:10.620
هذا ليس من قبيل جنون الخيال العلمي

00:00:10.620 --> 00:00:13.580
بل هو ما يحدث عندما تغيب ضوابط الذكاء الاصطناعي المسؤول

00:00:13.580 --> 00:00:18.180
يركز الذكاء الاصطناعي المسؤول على النزاهة والشفافية والخصوصية والمساءلة

00:00:18.180 --> 00:00:20.820
هذه هي أحزمة الأمان لمساعديك الرقميين

00:00:20.820 --> 00:00:23.540
إنها تقلل المخاطر إذا قمت بتفعيلها عمليا

00:00:23.540 --> 00:00:24.840
ما هي التبعات؟

00:00:24.840 --> 00:00:26.900
انتهاكات الامتثال وفقدان ثقة العملاء

00:00:26.900 --> 00:00:28.500
وحالة من الذعر بين القيادات

00:00:28.500 --> 00:00:30.700
في هذه الجلسة سأستعرض إخفاقات حقن الأوامر

00:00:30.700 --> 00:00:35.860
وسأبين خطوات الحوكمة التي يمكنك تطبيقها داخل سيار عمل باور بلاتفورم ومايكروسوفت 365

00:00:35.860 --> 00:00:37.340
لأن الخطر ليس بعيدا

00:00:37.340 --> 00:00:40.520
يبدأ الأمر في اللحظة التي يخرج فيها مساعد الذكاء الاصطناعي عن النص

00:00:40.520 --> 00:00:42.300
عندما يخرج الذكاء الاصطناعي عن النص

00:00:42.300 --> 00:00:44.960
تخيل أنك أطلقت مساعدا للجدولة لتنظيم تقويمك

00:00:44.960 --> 00:00:49.120
يفترض به إعادة ترتيب موعيد الاجتماعات وتحديد الملاحظات العجلة والسيطرة على الفوضى

00:00:49.120 --> 00:00:52.540
بدلا من ذلك يبدأ في محابات البعض ليقرر منهم الزملاء الأكثر أهمية

00:00:52.540 --> 00:00:54.700
ويقوم بهدوء بحث الآخرين من قائمة الدعوات

00:00:54.700 --> 00:00:59.200
أو الأسوأ من ذلك أنه يدفن رسالة هامة من مديرك تحت ما يعادل البريد المزعج رقميا

00:00:59.200 --> 00:01:04.440
طلبت ساعة موثوقة لكن ما حصلت عليه يشبه زميل عمل غريب الأطوار يبتكر قواعد لم يوافق عليها أحد

00:01:04.440 --> 00:01:07.200
فكر في ذلك المساعد كسفينة في عرض البحر

00:01:07.200 --> 00:01:13.180
قد تكون السفينة لامعة ومحركها قوي ولكن بدون نظام ملاحة فهي تنجرف عمياء عبر الضباب

00:01:13.180 --> 00:01:18.480
الذكاء الاصطناعي بدون ضوابط هو بالضبط هكذا حركة بلا توجيه واندفاع بلا بصلة

00:01:18.480 --> 00:01:23.640
وفي حين أن الأخطاء العادية مؤلمة فإن الخطر الحقيقي يكمن عندما يضع شخص ما يده على عجلة القيادة

00:01:23.640 --> 00:01:31.640
هنا يأتي دور حقن الأوامر هذا هو القطان المتمرد الذي يتسلل على متن السفينة ويدس أمرا يبدو رسميا لكنه يغير مسار السفينة بالكامل

00:01:31.640 --> 00:01:37.640
عبارة صغيرة واحدة مخفية داخل طلب يمكن أن تدفع بمساعدك المهذب إلى تسريب معلومات أو نشر التحيز أو ترديد هراء

00:01:37.640 --> 00:01:42.680
هذا ليس خيالا علميا بل هو خطر حقيقي ناتج عن مدخلات معادية يسميه الخبراء حقن الأوامر

00:01:42.680 --> 00:01:50.020
يستخدم المهاجمون نصوصا مصاغة بعناية لتجاوز قواعد السلامة والنظام يمتثل لأنه لا يستطيع التمييز بين المخرب والراكب الموثوق

00:01:50.020 --> 00:01:51.680
إليك سبب خدوث ذلك

00:01:51.680 --> 00:01:55.680
معظم النماذج الأساسية ستتعامل مع أي تعليمات مصاغة بشكل جيد على أنها صالحة

00:01:55.680 --> 00:01:59.120
فهي لا تكتشف الدافع أو القصد بدون طبقات أمان إضافية

00:01:59.120 --> 00:02:02.960
ما لم تضف المؤسسة ضوابط ومرشحات أمان وعمليات تدقيق بشرية

00:02:02.960 --> 00:02:06.680
فإن الذكاء الاصطناعي ينفذ الأوامر باجتهاد آلة مصممة للطاعة

00:02:06.680 --> 00:02:08.060
أطلب منه تلخيص اجتماعه

00:02:08.060 --> 00:02:11.040
وإذا كان مضمناً داخل هذا الطلب أمر بطباعة ملف الأجندة الخاصة

00:02:11.040 --> 00:02:13.100
فإنه سيتعامل مع الأمرين على قدم المساوات

00:02:13.100 --> 00:02:14.680
إنه لا يزن الأخلاقيات

00:02:14.680 --> 00:02:16.260
إنه لا يشك في الخداع

00:02:16.260 --> 00:02:18.080
استعارة الجمارك تعمل جيداً هنا

00:02:18.080 --> 00:02:21.880
الأمر يشبه التسلل عبر نقطة تفتيش بوثائق مزورة مختمة بكلمة مصرح به

00:02:21.880 --> 00:02:24.440
توجد حواجز الحماية لكنها ليست كافية دائماً

00:02:24.440 --> 00:02:26.920
يمكن للنصوص الذكية خداع القواعد لتتجاهل عملها

00:02:26.920 --> 00:02:29.880
ولأن المخرجات غير حتمية ولا تقدم نفس الإجابة مرتين

00:02:29.880 --> 00:02:30.980
فإن الخطر يتضعف

00:02:30.980 --> 00:02:34.400
يمكن للمهاجم الاستمرار في المحاولة حتى يستجيب النموذج أخيراً لما يريده

00:02:34.400 --> 00:02:36.340
كرم النرد حتى تتحقق النتيجة المرجوة

00:02:36.340 --> 00:02:39.760
وهكذا يمكن للمساعد المصمم لخدمتك أن يتحول في لحظة إلى مهرج

00:02:39.760 --> 00:02:42.420
في دقيقة واحدة يكون مشغولاً بتنسيق مواعيدك

00:02:42.420 --> 00:02:46.740
وفي التالية يختلق معايير للتوظيف أو يسرب أسماء حساسة في سياق خاطئ

00:02:46.740 --> 00:02:51.580
تصبح الحوكمة هنا أمراً بالغ الأهمية لأن التحول من الفائدة إلى الفوضى ليس تدريجياً

00:02:51.580 --> 00:02:52.440
إنه فوري

00:02:52.440 --> 00:02:54.920
ولا يتوقف الضرر عند صندوق بريد واحد

00:02:54.920 --> 00:02:58.340
تنتشر المخرجات الخاطئة عبر سيار العمل بسرعة تفوق أي خطأ بشري

00:02:58.340 --> 00:03:01.280
اقتراح واحد معيب يتفاقم ليصبح سلسلة من الأخطاء

00:03:01.280 --> 00:03:03.340
نصائح سيئة تؤثر على القرارات

00:03:03.340 --> 00:03:06.380
تصنيفات خاطئة تنشر تحيزات مضللة بسرعة فائقة

00:03:06.380 --> 00:03:09.860
بدون رقابة يمكن لمطالبة خبيثة واحدة أن تشعل حريقاً شاملاً

00:03:09.860 --> 00:03:12.740
التخفيف من هذه المخاطر ممكن ولا يعتمد على التمنيات

00:03:12.740 --> 00:03:15.840
يستخدم المزودون والشركات بالفعل دفعات متعددة الطبقات

00:03:15.840 --> 00:03:18.460
ومرشحات آلية وقواعد تعلم التعزيز

00:03:18.460 --> 00:03:20.840
ومراجعين بشريين للتدقيق فيما قد يتسرب

00:03:20.840 --> 00:03:23.140
توصي شركة تيلز على سبيل المثال

00:03:23.140 --> 00:03:27.700
باختبار المساعدين الرقميين الجدد داخل بيئات مغلقة ومعزولة قابلة للتدقيق

00:03:27.700 --> 00:03:31.300
لاحتواء أي أضرار قبل تعريضهم للمستخدمين أو البيانات الفعلية

00:03:31.300 --> 00:03:33.460
اقترن ذلك باختبارات الاختراق المستمرة

00:03:33.460 --> 00:03:36.160
حيث يبحث البشر عن نقاط الضعف في النظام بانتظام

00:03:36.160 --> 00:03:37.640
مما يخلق حاجز أمان

00:03:37.640 --> 00:03:39.720
تقوم الضمانات الآلية بالعمل الشاقي

00:03:39.720 --> 00:03:44.560
لكن المراجعة البشرية تضمن بقاء النموذج متوافقاً عندما تفشل القواعد البسيطة

00:03:44.560 --> 00:03:45.600
هذا هو النمط

00:03:45.600 --> 00:03:46.340
راقب

00:03:46.340 --> 00:03:46.840
اختبر

00:03:46.840 --> 00:03:47.480
راجع

00:03:47.480 --> 00:03:47.980
واحتل

00:03:47.980 --> 00:03:49.540
إذا تركت الدفة دون مراقبة

00:03:49.540 --> 00:03:52.260
سيبحر الذكاء الاصطناعي حيثما تواجهه الاستفزازات

00:03:52.260 --> 00:03:53.440
وإذا فرضت الرقابة

00:03:53.440 --> 00:03:55.200
فأنت تقلص فرص وقوع الكوارث

00:03:55.200 --> 00:03:57.260
استعارة سفينة تعبر عن ذلك بدقة

00:03:57.260 --> 00:03:58.180
التوجيه ممكن

00:03:58.180 --> 00:04:00.600
لكن فقط عندما يتحقق شخص ما من البصلة

00:04:00.600 --> 00:04:02.500
وهذا يماهد للتحدي التالي

00:04:02.500 --> 00:04:05.360
حتى لو أبقيت المتسللين بعيداً والمرشحات قيد التشغيل

00:04:05.360 --> 00:04:06.760
ستواجه تعقيداً آخر

00:04:06.760 --> 00:04:09.920
عدم القدرة على التنبؤ متأصل في الأنظمة نفسها

00:04:09.920 --> 00:04:11.160
ليس بسبب التخريب

00:04:11.160 --> 00:04:14.760
بل بسبب الطريقة التي تولد بها هذه النماذج إجاباتها

00:04:14.760 --> 00:04:16.740
الحتمية مقابل غير الحتمية

00:04:16.740 --> 00:04:18.240
هذا هو المفتاح الخفي

00:04:18.240 --> 00:04:20.800
تخيل أنك تكتب 2 زائد 2 في آلة حاسبة

00:04:20.800 --> 00:04:22.660
وبدلاً من الرقم 4 المتوقع

00:04:22.660 --> 00:04:24.460
تظهر لك 42 بتهكم

00:04:24.460 --> 00:04:25.280
أمر غريب

00:04:25.280 --> 00:04:26.540
أليس كذلك؟

00:04:26.540 --> 00:04:29.400
نحن نندهش لأن الآلات الحاسبة مبنية على حتمية مطلقة

00:04:29.400 --> 00:04:31.020
ادخل لها نفس البيانات ألف مرة

00:04:31.020 --> 00:04:33.040
وستصل إلى نفس النتيجة في كل مرة

00:04:33.040 --> 00:04:35.220
هذه القدرة على التنبؤ هي جوهر الأمر

00:04:35.220 --> 00:04:37.780
الآن قارن ذلك بالفئة الأحدث من أدوات الذكاء الاصطناعي

00:04:37.780 --> 00:04:39.880
إنها لا تصل دائماً إلى نفس النتيجة مرتين

00:04:39.880 --> 00:04:41.180
مخرجاتها متغيرة

00:04:41.180 --> 00:04:43.540
أحياناً يبدو هذا التغيير ذكياً أو ثاقباً

00:04:43.540 --> 00:04:44.980
وأحياناً أخرى ينزلق إلى الهراء

00:04:44.980 --> 00:04:46.420
هذا هو المفتاح الخفي

00:04:46.420 --> 00:04:48.980
السلوك الحتمي مقابل السلوك غير الحتمي

00:04:48.980 --> 00:04:49.940
في الأنظمة الحتمية

00:04:49.940 --> 00:04:52.380
مثل جداول البيانات أو صياغ القائمة على القواعد

00:04:52.380 --> 00:04:53.920
لا تتغير النتائج أبداً

00:04:53.920 --> 00:04:55.960
أدخل الرقم 7 يوم الاثنين أو السبتة

00:04:55.960 --> 00:04:57.700
وستقدم لك الآلة النتيجة ذاتها

00:04:57.700 --> 00:04:59.780
بعيداً عن تقلبات المزاج أو الإبداع

00:04:59.780 --> 00:05:03.160
إنها ولاء آلي يعيد تنفيذ الحركة نفسها مراراً وتكراراً

00:05:03.160 --> 00:05:05.580
تعيش النماذج غير الحتمية بطريقة مختلفة

00:05:05.580 --> 00:05:06.920
عندما تعطيها أمراً ما

00:05:06.920 --> 00:05:08.900
فبدلاً من السير في مسار ثابت

00:05:08.900 --> 00:05:10.580
تقوم باستكشاف الاحتمالات

00:05:10.580 --> 00:05:12.880
هذا الاستكشاف إلى جانب العمليات العشوائية

00:05:12.880 --> 00:05:14.060
وتحديثات النماذج

00:05:14.060 --> 00:05:15.280
وحتى انحراف البيانات

00:05:15.280 --> 00:05:16.880
هو ما يجعل المخرجات متغيرة

00:05:16.880 --> 00:05:19.320
الأمر أشبه بإعداد مسرح للارتجال

00:05:19.320 --> 00:05:20.360
أن تكتب المشهد

00:05:20.360 --> 00:05:22.940
لكن المؤدي يبتكر الخاتمة في اللحظة نفسها

00:05:22.940 --> 00:05:24.500
أحياناً تنجح بشكل مذهل

00:05:24.500 --> 00:05:26.680
وأحياناً تنحرف نحو عدم الترابط

00:05:26.680 --> 00:05:29.220
الأتمتة الكلاسيكية وسير العمل القائم على القواعد

00:05:29.220 --> 00:05:31.380
كالكثير مما يبنى في منصة Power Platform

00:05:31.380 --> 00:05:33.000
تقترب أكثر من الجانب الحتمي

00:05:33.000 --> 00:05:34.860
تضع شرطاً وعندما يتم تفعيله

00:05:34.860 --> 00:05:37.340
تنفذ القاعدة المحددة بدقة متناهية

00:05:37.340 --> 00:05:39.820
هذه القدرة على تنبؤ هي ما يحافظ على استقرار الامتثال

00:05:39.820 --> 00:05:41.660
وتدفق البيانات ومسارات التدقيق

00:05:41.660 --> 00:05:44.320
أن تعرف ما سيحدث لأن الخطوات ثابتة ومحددة

00:05:44.320 --> 00:05:46.780
في المقابل تحول المساعدات الذكية التولدية

00:05:46.780 --> 00:05:48.940
أي مدخلات إلى مساحة مفتوحة للتفسير

00:05:48.940 --> 00:05:50.760
فهي تلخص وتعيد الدمجة

00:05:50.760 --> 00:05:52.860
وتعيد الصياغة بطرق تبدو غالباً بشرية

00:05:52.860 --> 00:05:54.060
المرونة هي ميزتها

00:05:54.060 --> 00:05:55.420
لكنها أيضاً مصدر الخطر

00:05:55.420 --> 00:05:58.220
لأن تلك المرونة ذاتها تسمح بعدم القدرة على التنبؤ

00:05:58.220 --> 00:05:59.660
في سياقات تتطلب الاتساقة

00:05:59.660 --> 00:06:01.600
تخيل فرقة ارتجال على المسرح

00:06:01.600 --> 00:06:04.240
تمنحهم موضوعاً مثل الموافقة على الميزانية

00:06:04.240 --> 00:06:06.400
ممثل يرتجل لكتة ذكية عن الادخار

00:06:06.400 --> 00:06:08.800
وآخر ينحرف لقصة جانبية عن الولائم

00:06:08.800 --> 00:06:10.880
وفجأة لا يشبه العرض طلبك الأصلية

00:06:10.880 --> 00:06:13.540
هذا هو النموذج غير الحتمي في منتصف أدائه

00:06:13.540 --> 00:06:16.140
هذه التقلبات ليست دليلاً على تصميم سيء

00:06:16.140 --> 00:06:19.240
بل هي جزء لا يتجزأ من كيفية توليد النماذج اللغوية الكبيرة للغة

00:06:19.240 --> 00:06:21.780
فهي تستكشف مسارات عديدة وليس مساراً واحداً

00:06:21.780 --> 00:06:22.940
المشكلة واضحة

00:06:22.940 --> 00:06:24.320
الإبداع لا يعني دائماً الدقة

00:06:24.320 --> 00:06:25.500
وفي سير عمل الأعمال

00:06:25.500 --> 00:06:27.700
الدقة هي غالباً العملة الوحيدة التي تهم

00:06:27.700 --> 00:06:29.820
الآن تبق هذا على القطاع المالي

00:06:29.820 --> 00:06:32.180
لنفترض أن أداة فحص الاعتمال المدعومة بالذكاء الاصطناعي

00:06:32.180 --> 00:06:33.680
قيم الطلب مقدم على أنه مقبول

00:06:33.680 --> 00:06:35.520
ادخلت نفس المعلومات في اليوم التالي

00:06:35.520 --> 00:06:37.580
لكن النتيجة هذه المرة كانت مرفوضة

00:06:37.580 --> 00:06:39.480
يشعر مقدم الطلب بالذهول

00:06:39.480 --> 00:06:42.080
ويرى المنظم تبايناً يبدو كأنه تمييز

00:06:42.080 --> 00:06:43.600
ما يحدث هو انحراف

00:06:43.600 --> 00:06:45.480
تتغير المخرجات دون سبب واضح

00:06:45.480 --> 00:06:48.320
لأن الأنظمة غير الحتمية يمكن أن تتغير بمرور الوقت

00:06:48.320 --> 00:06:52.140
وعلى عكس البشر لا يمكنك ببساطة سؤال النموذج لتفسير ما تغير

00:06:52.140 --> 00:06:54.040
وهنا تتأكل الثقة بأسرع ما يمكن

00:06:54.040 --> 00:06:56.560
عندما يختفي منطق العمل خلف مخرجة غامضة

00:06:56.560 --> 00:06:59.420
في مرحلة الإنتاج يتفاقم الانحراف بسرعة

00:06:59.420 --> 00:07:04.380
مسار عمل اعتمد لتقليل التحيز في شهر قد يتجه في الاتجاه المعاكس في الشهر التالي

00:07:04.380 --> 00:07:09.740
التباينات التي تبدو بسيطة في عزلتها تتراكم لتصبح انتهاكات عند تضخيمها عبر مئات الحالات

00:07:09.740 --> 00:07:15.960
المنظمون على عكس الجمهور المستمتع في ليلة ارتجال يطالبون بالاستقرار وقابلية التدقيق وتفسيرات واضحة

00:07:15.960 --> 00:07:18.780
هم لا يقبلون عدم الحتمية كجزء من سحر التقنية

00:07:18.780 --> 00:07:21.200
لهذا السبب تعتبر حواجز الحماية أمراً بالغ الأهمية

00:07:21.200 --> 00:07:25.620
تطالب الهيئات التنظيمية والمعايير بوجود قابلية للتدقيق وتوثيق للنماذج وآليات للرصد

00:07:25.620 --> 00:07:28.860
لذا قم بدمج سجلات وتدابير قابلية التفسير ضمن عملية النشر

00:07:28.860 --> 00:07:35.100
بدونها تتحول الانخرافات البسيطة إلى التزامات وتتراكم العقوبات المالية وتنتشر الأضرار بسمعة الشركة وتتلاشى ثقة العملاء

00:07:35.100 --> 00:07:38.140
الحكمة هي الحكم البشري في هذه المسرحية غير المتوقعة

00:07:38.140 --> 00:07:41.040
تخيل هؤلاء المرتجلين مرة أخرى وهم يدورنا في كل اتجاه

00:07:41.040 --> 00:07:44.260
إذا لم يضع أحد الحدوداً فسينهار العرض تحت وطأة فوضاه الخاصة

00:07:44.260 --> 00:07:46.780
أما الحكم فهو يبقيهم مقيدنا بمسار محدد

00:07:46.780 --> 00:07:49.160
التزم بهذا الموضوع وتابع هذا المسار

00:07:49.160 --> 00:07:52.040
تعمل الحكمة بنفس الطريقة بالنسبة للذكاء الاصطناعي

00:07:52.040 --> 00:07:56.680
إنها لا تقتل الابتكارة بل تحول العشوائية إلى أداء يحترم النصة

00:07:56.680 --> 00:08:00.420
تظل الطبيعة غير الحتمية قائمة لكنها تعمل ضمن مسارات محددة

00:08:00.420 --> 00:08:04.140
هنا يكمن التوازن لا يمكنك إجبار المساعد الذكي على تصرفك آلة حاسبة

00:08:04.140 --> 00:08:07.560
فهو ليس مصمماً لذلك لكن يمكنك وضع شبكات أمان حوله

00:08:07.560 --> 00:08:11.260
تعمل الرقابة البشرية وأنظمة الرصد وأطر الحوكمة كشبكة الأمان تلك

00:08:11.260 --> 00:08:14.500
مع وجودها يستمر النموذج في الارتجال لكنه لن يفسد العرض

00:08:14.500 --> 00:08:19.100
وبدونها يتفاقم الانحراف دون رادع وتترك فرق الانتثال لتصحيح قرارات لا يمكن لأحد تبيرها

00:08:19.100 --> 00:08:22.400
المخاطر واضحة للعيان عدم القدرة على التنبؤ أمر محايد

00:08:22.400 --> 00:08:25.840
لكنه يشكل نتائج تؤثر على القروض أو الوظائف أو الرعاية الصحية

00:08:25.840 --> 00:08:29.300
وعندما تحمل المخرجات وزناً في العالم الحقيقي يتدخل المنظمون

00:08:29.300 --> 00:08:35.060
وهذا يقودنا إلى الحدود التالية وهو الوصول الوشيك لقواعد خارجية لا تكتفي باقتراح الرقابة بل تفرضها

00:08:35.060 --> 00:08:38.080
قانون الذكاء الاصطناعي في الاتحاد الأوروبي كويكب قادم

00:08:38.080 --> 00:08:41.320
تخيل هذا لقد بنيت مشروع ذكاء اصطناعي جديداً لامعاً

00:08:41.320 --> 00:08:43.640
مدينة رقمية بشوارع منظمة ونشاط صاخب

00:08:43.640 --> 00:08:47.820
أحياء للبيانات وجسور للتكامل وناطحة سحاب من الميزات الذكية

00:08:47.820 --> 00:08:49.460
يبدو كل شيء متيناً

00:08:49.460 --> 00:08:53.980
ثم بين عشية وضحاها يصل قانون الذكاء الاصطناعي للاتحاد الأوروبي كقواعد تنظيمية سقطت من المداري

00:08:53.980 --> 00:08:56.440
أصبحت أحياء كاملة من مدينتك مصنفة كخاضعة للتنظيم

00:08:56.440 --> 00:09:00.920
وبعضها تحت مراقبة دقيقة وأخرى محضورة تماماً إذا تجاوزت الحدود إلى مجالات تلعب أو ضرر

00:09:00.920 --> 00:09:02.620
هذا ليس اختيارياً إنه تشريع

00:09:02.620 --> 00:09:05.700
ويجب على مدينتك إعادة تشكيل نفسها سواء خطط لذلك أم لا

00:09:05.700 --> 00:09:07.920
في جوهر هذه القواعد يكمن التصنيف

00:09:07.920 --> 00:09:13.040
توضع الأنظمة في فئات ذات مخاطر دنياً أو محدودة أو عالية أو غير مقبولة على الإطلاق

00:09:13.040 --> 00:09:16.640
قد تغطي المخاطر الدنيا برنامج دربشة يساعد العملاء في الأسئلة الشائعة

00:09:16.640 --> 00:09:20.740
أما المخاطر العالية فتشمل أدوات التوظيف وتصنيف الاقتمان ومراقبة مكان العمل

00:09:20.740 --> 00:09:24.980
وتغطي المخاطر غير المقبولة لاستخدامات التلعبية أو الخطيرة المحضورة فعلياً بشكل كامل

00:09:24.980 --> 00:09:27.920
هذه ليست مجرد تسمية بل هي ترتبط مباشرة بالالتزامات

00:09:27.920 --> 00:09:31.840
إذا تم تصنيفك ضمن فئة المخاطر العالية فيجب عليك توفير شفافية وقابلية التفسير

00:09:31.840 --> 00:09:35.280
والاحتفاظ بسجلات مفصلة جاهزة للتدقيق وتنفيذ رقابة بشرية

00:09:35.280 --> 00:09:37.960
فجأة لا يطلب من مدينتك الجديدة المشرقة أن تعمل فحسب

00:09:37.960 --> 00:09:40.320
بل يطلب منها إثبات كيفية عملها وسببه بالتفصيل

00:09:40.320 --> 00:09:42.940
بالنسبة للمطورين وصناع الحلول هذا تحول حاد

00:09:42.940 --> 00:09:46.020
بالأمس كان يمكن إضافة الميزات إلى التطبيقات بسرعة فائقة

00:09:46.020 --> 00:09:50.200
اليوم قد تتطلب تلك الميزات نفسها مراجعات امتثال قبل أي عرض توضيحياً

00:09:50.200 --> 00:09:53.600
تطبيق توظيف يصنف السير الذاتية كان مجرد أداة مفيرة للوقت

00:09:53.600 --> 00:09:55.660
أصبح فجأة في منطقة عالية المخاطر

00:09:55.660 --> 00:10:00.060
لم يتعطل التطبيق لكنه يؤثر على الناس بطرق يحددها القانون كحساسة

00:10:00.060 --> 00:10:01.380
وهذا يغير الرهانات

00:10:01.380 --> 00:10:03.700
وهنا يبدأ الذعر لدى العديد من الفرق

00:10:03.700 --> 00:10:06.140
تعني شفافية سجلات لكيفية اتخاذ القرارات

00:10:06.140 --> 00:10:08.720
وليس مجرد قائمة مبهمة في عرض تقديمين

00:10:08.720 --> 00:10:12.560
تتطلب القابلية للتدقيق تخزين كل مسار قرار ليكون قابلاً للاسترجاع

00:10:12.560 --> 00:10:14.120
وجاهزاً لفحص المنظمين

00:10:14.120 --> 00:10:15.920
تعني الرقابة البشرية مسئولية مباشرة

00:10:15.920 --> 00:10:17.640
أشخاص حقيقيون يراقبون النظام

00:10:17.640 --> 00:10:20.040
قادرون على التدخل عندما ينحرف النموذج عن مساره

00:10:20.040 --> 00:10:21.540
هذه ليست إرشادات خفيفة

00:10:21.540 --> 00:10:23.020
بل شروط قابلة للإنفاذ

00:10:23.020 --> 00:10:25.900
تتحول النماذج الأولية سريعة إلى عمليات نشر خاضعة للإشراف

00:10:25.900 --> 00:10:27.560
تتطلب موافقة الانتثال في كل خطوة

00:10:27.560 --> 00:10:29.400
تفسح السرعة المجال للهيكلة

00:10:29.400 --> 00:10:31.260
فكر في القانون ليس كاروتين بيروكراطي

00:10:31.260 --> 00:10:33.640
بل كقواعد الأكسجين على متن مركبة فضائية

00:10:33.640 --> 00:10:35.800
قد تتجاهل ارتداء القناع في الظروف العادية

00:10:35.800 --> 00:10:37.140
ولكن أثناء الاضطرابات

00:10:37.140 --> 00:10:39.700
هو الشيء الوحيد الذي يبقي الطاقم على قيد الحياة

00:10:39.700 --> 00:10:41.040
القانون هو نفسه

00:10:41.040 --> 00:10:43.340
تبدو القواعد ثقيلة حتى تتذكر سبب وجودها

00:10:43.340 --> 00:10:46.340
لأن زلة واحدة يمكن أن تخنق الثقة في صناعة بأكملها

00:10:46.340 --> 00:10:48.160
وهنا تحذير بالغ الأهمية

00:10:48.160 --> 00:10:50.000
لا يمكنك تأجيل الامتثال

00:10:50.000 --> 00:10:51.720
يفرض القانون التزامات الآن

00:10:51.720 --> 00:10:54.620
وتعديل السجلات والضوابط والرقابة لاحقا

00:10:54.620 --> 00:10:57.540
سيكون أكثر تكلفة من تضمينها في مرحلة التصميم

00:10:57.540 --> 00:11:00.960
عواقب تجاهل هذه المتطلبات ليست مالية فقط

00:11:00.960 --> 00:11:02.440
الغرامات مؤلمة نعم

00:11:02.440 --> 00:11:04.320
لكن السمعة أصعب في الإصلاح

00:11:04.320 --> 00:11:06.920
بمجرد أن يكتشف العملاء أن أداتك تجاوزت الخط الأحمر

00:11:06.920 --> 00:11:08.560
تتأكل الثقة في شركتك بالكامل

00:11:08.560 --> 00:11:10.620
لا يمكنك إصلاح ذلك بتحديث برمجي

00:11:10.620 --> 00:11:11.620
ثقة الجمهور هشة

00:11:11.620 --> 00:11:14.080
وعندما تتصدع ينتقل المستخدمون إلى مكان آخر

00:11:14.080 --> 00:11:16.100
أكبر عقوبة ليست مكتوبة في القانون

00:11:16.100 --> 00:11:17.280
بل في سلوك العملاء

00:11:17.280 --> 00:11:19.600
إذن إليك سؤال الجرد غير المريح

00:11:19.600 --> 00:11:23.000
هل تعرف حتى أي من ميزات الذكاء الاصطناعي لديك تصنف على أنها عالية المخاطر

00:11:23.000 --> 00:11:24.700
ذلك المصنف للسير الذاتية

00:11:24.700 --> 00:11:26.500
أداة الإنتاجية التنبؤية تلك

00:11:26.500 --> 00:11:29.320
إذا كانت تلمس مجالات حساسة مثل التوظيف أو الأفاق المالية

00:11:29.320 --> 00:11:30.600
فإن القانون يهتم بها

00:11:30.600 --> 00:11:33.160
ولا يهم إذا كنت تراها مساعدات غير ضرة

00:11:33.160 --> 00:11:36.240
التصنيف يحمل التزامات سواء اعترفت بها أم لا

00:11:36.240 --> 00:11:37.780
تبدأ المنظمات الذكية بجرد

00:11:37.780 --> 00:11:41.780
وتصنيف الميزات ومواقعها قبل أن يطلب المنظمون منها الإجابة مقابل غرامة

00:11:41.780 --> 00:11:43.420
هذا هو التحول الحقيقي

00:11:43.420 --> 00:11:46.000
القانون لا يوصي بلطف بالذكاء الاصطناعي المسؤول

00:11:46.000 --> 00:11:46.800
بل يفرضه

00:11:46.800 --> 00:11:48.480
الحوكمة لم تعد ميزة اختيارية

00:11:48.480 --> 00:11:50.620
بل أصبحت جزءا لا يتجزأ من القانون

00:11:50.620 --> 00:11:53.080
إما أن تبني نظامك بمسؤولية من الأساس

00:11:53.080 --> 00:11:57.280
أو سيفرض القانون المسؤولية من الخارج عبر العقوبات ومراجع الحسابات

00:11:57.280 --> 00:11:59.740
بهذا المعنى لقد هبط الكويكب بالفعل

00:11:59.740 --> 00:12:01.320
لا يمكنك دفعه بعيدا

00:12:01.320 --> 00:12:04.500
لا يمكنك سوى حماية نفسك من الارتطام والحفاظ على مدينتك صالحة للعيش

00:12:04.500 --> 00:12:06.040
وهذا يطرح السؤال العملية

00:12:06.040 --> 00:12:07.740
ما هي الدروع المتاحة لديك؟

00:12:07.740 --> 00:12:10.820
لأنه في هذا المشهد النجاة من الكويكب لا تتعلق بالحظ

00:12:10.820 --> 00:12:14.220
بل باستخدام وسائل الدفاع الموجودة بالفعل في لوحة تحكمك

00:12:14.220 --> 00:12:16.940
دروع وضوابط نظام مايكروسوفت البيئي

00:12:16.940 --> 00:12:18.640
في نظام مايكروسوفت البيئي

00:12:18.640 --> 00:12:20.920
الدروع مدمجة بالفعل في السفينة

00:12:20.920 --> 00:12:22.400
عليك فقط تشغيلها

00:12:22.400 --> 00:12:27.180
تحتوي مايكروسوفت 365 وPower Platform على أدوات حوكمة تمر غالبا دون أن يلاحظها أحد

00:12:27.180 --> 00:12:28.580
وكأنها إضافات اختيارية

00:12:28.580 --> 00:12:29.600
إنها ليست للزينة

00:12:29.600 --> 00:12:31.980
بل هي صفائح الهيكلية التي تحافظ على سلامة أنظمتك

00:12:31.980 --> 00:12:33.880
عندما تلوخ في الأفق مخاطر وتحديات تنظيمية

00:12:33.880 --> 00:12:36.740
يكمن الخطر عندما تلقي الفرق نظرة سريعة على لوحات المعلومات هذه

00:12:36.740 --> 00:12:38.040
ثم تتجهلها وتمضي قدما

00:12:38.040 --> 00:12:39.660
لأن هذه ليست خيارات إضافية

00:12:39.660 --> 00:12:40.900
بل هي أدوات للبقاء

00:12:40.900 --> 00:12:42.240
ابدأ بالرؤية الشاملة

00:12:42.240 --> 00:12:45.080
تدمج مايكروسوفت 365 وPower Platform

00:12:45.080 --> 00:12:47.260
ميزات رقابية تتيح لك تتبع سلوك النماذج

00:12:47.260 --> 00:12:50.000
وتسجيل القرارات وتوضيح الأسباب بلغة واضحة

00:12:50.000 --> 00:12:52.080
لا داعي للاعتماد على صندوق أسود

00:12:52.080 --> 00:12:53.320
يصدر أحكاما غامضة

00:12:53.320 --> 00:12:55.160
ستحصل على حلقة تغذية رجعة فعلية

00:12:55.160 --> 00:12:57.880
وإشارات تنبيه على لوحة كل من حرفت الخوارزمية عن مسارها

00:12:57.880 --> 00:13:00.600
هذا الفارق هو الخط الفاصل بين القيادة العمياء والملاحة

00:13:00.600 --> 00:13:03.240
باستخدام أدوات تخبرك بدقة عندما تبدأ في الانحراف

00:13:03.240 --> 00:13:04.700
ثم هناك الشفافية

00:13:04.700 --> 00:13:07.820
يوفر بعض البائعين مثل أوز بطاقات خدمة الذكاء الاصطناعي

00:13:07.820 --> 00:13:09.540
لتوثيق استخدام النموذج وقيوده

00:13:09.540 --> 00:13:12.820
تتبع مايكروسوفت نهجا مختلفا بمعيار الذكاء الاصطناعي المسؤولي

00:13:12.820 --> 00:13:15.580
وأدوات مثل لوحة تحكم الذكاء الاصطناعي المسؤولي

00:13:15.580 --> 00:13:18.060
توفر هذه للممارسين تقارير قابلية التفسير

00:13:18.060 --> 00:13:20.760
وملاحظات الأداء وخيارات التصميم المسؤولي

00:13:20.760 --> 00:13:24.700
فكر في الأمر كطيار مساعد يشرح منطقه بدلا من مجرد تقديم خطة لك

00:13:24.700 --> 00:13:27.600
أن ترى كل اعتبار وليس فقط النتيجة النهائية

00:13:27.600 --> 00:13:29.280
أما بالنسبة لحماية النماذج

00:13:29.280 --> 00:13:30.160
تذكر هذا

00:13:30.160 --> 00:13:33.100
يقدم جميع البائعين ضوابط حماية بشكل أو بآخر

00:13:33.100 --> 00:13:34.100
في بيئة مايكروسوفت

00:13:34.100 --> 00:13:35.660
ستجد عناصر تحكم في السياسات

00:13:35.660 --> 00:13:37.360
ولوحات تحكم لقابلية التفسير

00:13:37.360 --> 00:13:39.000
وسجلات تدقيق تؤدي نفس الدور

00:13:39.000 --> 00:13:42.520
بحجب محاولات الإدخال الضارة وتصفية النتائج قبل أن تتحول إلى فوضى

00:13:42.520 --> 00:13:44.100
بالنسبة لقابلية التفسير ذاتها

00:13:44.100 --> 00:13:48.200
هناك طرق راسخة مثل شب أو أدوات خاصة بالبائعين مثل سيج ميكر كليريفاي

00:13:48.200 --> 00:13:49.140
في عالم مايكروسوفت

00:13:49.140 --> 00:13:51.300
تقوم لوحة تحكم الذكاء الاصطناعي المسؤول بهذا الدور

00:13:51.300 --> 00:13:54.720
مقدمة تقارير واضحة حول المتغيرات التي دفعت النموذج لاتخاذ قراره

00:13:54.720 --> 00:13:55.520
مع هذه الأدوات

00:13:55.520 --> 00:13:58.600
تتوقف خدعة قرارات الذكاء الاصطناعي عن كونها أمرا مخيفا

00:13:58.600 --> 00:14:02.140
يمكنك رؤية المدخلات التي كانت مهمة وتقييم ما إذا كانت النتيجة عادلة

00:14:02.140 --> 00:14:04.380
يحصل المدقيقون على أدلة قابلة للتتبع

00:14:04.380 --> 00:14:07.520
ويكتسب المستخدمون الثقة بأن النموذج لا يختلق هراء من العدم

00:14:07.520 --> 00:14:10.080
ثم تأتي شبكة الأمان البسيطة والضرورية

00:14:10.080 --> 00:14:11.380
حماية البيانات

00:14:11.380 --> 00:14:16.100
قم بتمكين منع فقدان البيانات للحيلولة دون تسرب المعلومات الحساسة إلى جهات غير المصرح لها

00:14:16.100 --> 00:14:18.700
واقر ذلك بالاحتفاظ بسجلات التدقيق وتتبعها

00:14:18.700 --> 00:14:21.940
تعمل هذه الأدوات مجتمعة بمثابة الصندوق الأسود الخاص بك

00:14:21.940 --> 00:14:26.080
يتم فهرسة كل إجراء وكل انحراف حتى تتمكن من تتبع الأخطاء عند وقوعها

00:14:26.080 --> 00:14:29.320
إذا تخطيت هذا فلن تجد سوى أثر من الغموض عندما تتفاقم الأخطاء

00:14:29.320 --> 00:14:31.160
العائد ليس مجرد فكرة مجردة

00:14:31.160 --> 00:14:34.460
تأمل في تطبيق PowerApp أساسي تم بنائه باستخدام أي Builder

00:14:34.460 --> 00:14:38.500
في مسوداته الأولى كان يجمع من المعلومات الشخصية أكثر مما يمكن لأي مؤسسة تبريره

00:14:38.500 --> 00:14:41.220
أسماء وسجلات وحقول حساسة كانت مكشوفة

00:14:41.220 --> 00:14:44.860
بمجرد تفعيل أعدادات الامتثال توقف التدفق وتصلبت حدود البيانات

00:14:44.860 --> 00:14:47.540
واستمر التطبيق في العمل وتم احترام قواعد الخصوصية

00:14:47.540 --> 00:14:50.180
لم يتم هدم البنية التحتية وإعادة بنائها

00:14:50.180 --> 00:14:53.700
بل تم ضبطها من خلال تفعيل دروع كانت موجودة هناك طوال الوقت

00:14:53.700 --> 00:14:55.100
بالنسبة لمراحل النشر الأولى

00:14:55.100 --> 00:14:56.900
هناك ممارسة أخرى تستحق التبنية

00:14:56.900 --> 00:14:58.960
وهي البيئات المعزولة على طراز تيلوس

00:14:58.960 --> 00:15:02.800
من خلال اختبار المساعدين الأذكياء في بيئة تجربية خاضعة للرقابة وقابلة للتدقيق

00:15:02.800 --> 00:15:06.780
يمكنك حصر أي سلوك غير متوقع في منطقة آمنة قبل إطلاقه في سير العمل الحيوي

00:15:06.780 --> 00:15:11.000
إنها ساحة اختبار بجدران عالية بما يكفي لمنع تسرب الأخطاء إلى أنظمة الإنتاج

00:15:11.000 --> 00:15:12.420
أقنا ذلك بمراقبة قوية

00:15:12.420 --> 00:15:15.780
وستتمكن مؤسستك من رصد الأخطاء قبل أن تتحول إلى عنوين أخبار

00:15:15.780 --> 00:15:18.540
تعمل لوحات معلومات الحكمة على ربط كل هذا ببعضه

00:15:18.540 --> 00:15:20.320
إنها ليست مجرد شاشات لعرض الحالة

00:15:20.320 --> 00:15:21.860
بل تمنح الفرق إشرافا فعلا

00:15:21.860 --> 00:15:25.540
يمكن للمشرفين استجواب مخرجات الذكاء الاصطناعي أو الموافقة عليها أو رفضها في الوقت الفعلي

00:15:25.540 --> 00:15:27.940
هذا هو جوهر التفاعل البشري في النظام

00:15:27.940 --> 00:15:32.240
بدون هذا الإشراف تعمل الأتمتة بحرية حتى تصطدم بانتهاك للسياسات

00:15:32.240 --> 00:15:35.080
مع وجود لوحات المعلومات يجلس البشر في برج المراقبة

00:15:35.080 --> 00:15:38.640
ينسقون كل نظام ذكاء اصطناعي مثل الطائرات في مجال جوي مزدحم

00:15:38.640 --> 00:15:42.280
بدلا من الفوضى في الأجواء تحصل على تدفق متزامن ومنظم

00:15:42.280 --> 00:15:43.740
وهنا يكمن التحول

00:15:43.740 --> 00:15:46.360
بمجرد أن تنظر المؤسسات إلى هذه الأنظمة كدفعات

00:15:46.360 --> 00:15:49.100
فإنها تتحول من عبء تنظيمي إلى مضاعف للإنتاجية

00:15:49.100 --> 00:15:50.560
أن تتجنب إعادة العمل

00:15:50.560 --> 00:15:53.160
أن تقدم للهيئات التنظيمية السجلات التي يريدونها في لحظة

00:15:53.160 --> 00:15:55.780
أن تتحرك بشكل أسرع لأن الامتثال كان جزءا من التصميمي

00:15:55.780 --> 00:15:57.220
وليس مجرد تصحيح أضيف لاحقا

00:15:57.220 --> 00:15:59.420
ما كان يعيق سرعتك سابقا أصبح الآن يسرعها

00:15:59.420 --> 00:16:01.660
ومع ذلك الدروع لا تعمل من تلقاء نفسها

00:16:01.660 --> 00:16:04.360
فهي تتطلب التكوين والمراجعة والمراقبة المستمرة

00:16:04.360 --> 00:16:05.620
هذه الضوابط مفيدة

00:16:05.620 --> 00:16:08.020
ولكن يجب أن يديرها الأشخاص بشكل صحيح

00:16:08.020 --> 00:16:09.240
مجالس الحوكمة

00:16:09.240 --> 00:16:11.140
خط الدفاع الأخير ضد الفوضى

00:16:11.140 --> 00:16:14.240
فكر في مجلس الحوكمة كتاقم قيادة سفيناتك الفضائية

00:16:14.240 --> 00:16:18.280
إنهم المجموعة التي تحافظ على ثبات المسار عندما تهز الاضطرابات أدوات التحكم

00:16:18.280 --> 00:16:20.980
قد تعمل الدروع ومفاتيح الامتثال وسجلات التدقيق في الخلفية

00:16:20.980 --> 00:16:24.440
لكن لا يزال يتعين على شخص ما نظر عبر النافذة ومراقبة المؤشرات

00:16:24.440 --> 00:16:26.440
والاستجابة عندما يظهر ما هو غير متوقع

00:16:26.440 --> 00:16:31.200
بدون هذا الإشراف تظل أفضل حواجز الحماية مجرد معدن بدون حكم سليم خلفها

00:16:31.200 --> 00:16:34.020
مجلس الحوكمة ليس ضابطا وحيدا يصدر الأوامر

00:16:34.020 --> 00:16:36.080
تتألف هذه المجموعة من فريق متعدد الوظائف

00:16:36.080 --> 00:16:38.360
يضم قادة تقنيين ومسؤول حوكمة البيانات

00:16:38.360 --> 00:16:40.460
ومستشارين قانونيين أو متخصصين في الامتثال

00:16:40.460 --> 00:16:43.260
وممثلا عن قطاع الأعمال ومراجعا مستقلا وحدا على الأقل

00:16:43.260 --> 00:16:47.060
يؤدي كل فرد دورا مختلفا لأن الذكاء الاصطناعي لا يقتصر على قسم واحد محدد

00:16:47.060 --> 00:16:49.340
فأداة فحس السيار الذاتية تؤثر على الموارد البشرية

00:16:49.340 --> 00:16:53.100
وخوارزمية التنبؤ تشكل التمويل وربوت المحادثة يتحدث مباشرة مع عملائك

00:16:53.100 --> 00:16:56.040
لا يمكن لوظيفة واحدة بمفردها توقع جميع العواقب

00:16:56.040 --> 00:17:00.040
الأمر يتطلب طاولة مستديرة لرصد المخاطر وتصحيحها قبل أن تمتدى لتشمل أقسام أخرى

00:17:00.040 --> 00:17:02.060
الآن تخيل العمل دون هذا الفريق

00:17:02.060 --> 00:17:06.020
ترك الذكاء الاصطناعي دون رقابة يشبه تفعيل الطيار الآلي في حقل من الكويكبات

00:17:06.020 --> 00:17:09.740
يبدو الأمر طبيعيا حتى تقوم مناورة غريبة بحرف السفينة عن مسارها

00:17:09.740 --> 00:17:14.020
قد توجد تدابير وقائية لكنها لا تفسر ولا تتساءل ولا تستبق الأمور

00:17:14.020 --> 00:17:20.600
مجلس الحوكمة هو طبقة التفكير حيث ينظر البشر إلى ما وراء الأضواء الوامضة لرؤية السياق والأخلاقيات والتبعات قبل أن يتحول الانحراف إلى كارثة

00:17:20.600 --> 00:17:22.900
واجباتهم ليست مجرد نظريات مجردة

00:17:22.900 --> 00:17:26.840
إنهم يجرون عمليات تدقيق دورية للتحيز والعدالة ويتحققون من مصدر البيانات

00:17:26.840 --> 00:17:30.300
ويراجعون تقارير الانتثال ويتتبعون كيفية ارتجال الأنظمة غير الحتمية

00:17:30.300 --> 00:17:35.620
إنهم يديرون وطيرة العمل ويضعون جدولا زمنيا للفخصات ليتم اكتشاف المشكلات مبكرا بدلا من اكتشافها بعد الإطلاق

00:17:35.620 --> 00:17:39.440
ويوسعون ذلك بتحديد مؤشرات الأداء الرئيسية ومقاييس العدالة والدقة والانحراف

00:17:39.440 --> 00:17:42.480
لتصبح المراقبة المستمرة مسئولية محسوبة وليست مجرد تخمينا

00:17:42.480 --> 00:17:46.380
بالنسبة للمخرجات غير الحتمية على وجه الخصوص تعمل هذه المجالس كحارس للحدود

00:17:46.380 --> 00:17:48.820
الذكاء الاصطناعي لا يقدم دائما الرد نفسه

00:17:48.820 --> 00:17:51.560
إنه يعتمد على العينات والارتجال والاستكشاف

00:17:51.560 --> 00:17:56.120
قد يولد ذلك إجابات إبداعية أو قد ينحرف نحو مخرجة مضللة تقود الثقة

00:17:56.120 --> 00:18:00.100
يعمل مجلس الحوكمة كرقيب أمان رقمي حيث يسجل النتائج غير المتوقعة

00:18:00.100 --> 00:18:03.300
ويختبر المطالبات ريد تيمين ويحدد الأنماط الخطرة

00:18:03.300 --> 00:18:07.000
ويعيد البشر إلى حلقة العمل عندما تفشل المرشحات الآلية في رصد شيء ما

00:18:07.000 --> 00:18:10.980
إنهم لا يعيقون الابتكار بل يبقونه يعمل ضمن حدود آمنة

00:18:10.980 --> 00:18:12.660
وهنا يكمن الفرق العملي

00:18:12.660 --> 00:18:17.040
المنظمات التي لديها مجالس حوكمة فعالة تميل إلى اكتشاف المشكلات أثناء التجارب الأولية

00:18:17.040 --> 00:18:19.980
تكشف عملية تدقيق العدالة عن تحيز في نموذج التوظيف

00:18:19.980 --> 00:18:23.360
فيتم تصحيح المشكلة بهدوء ويستمر الإطلاق دون فضائح

00:18:23.360 --> 00:18:27.420
في المنظمات التي تفتقر إلى مثل هذه الرقابة تظهر القصة في الصحافة أولا

00:18:27.420 --> 00:18:32.700
يكتشف العملاء الضرر ويرصد المنظمون الإخفاقات وتأتي الإجراءات التصحيحية بعد فوات الأواني

00:18:32.700 --> 00:18:34.440
الوقاية تتطلب وقتا

00:18:34.440 --> 00:18:36.200
والعلاج يكلف السمعة

00:18:36.200 --> 00:18:39.240
يتكرر هذا النمط بما يكفي ليكون الدرس واضحا

00:18:39.240 --> 00:18:44.900
تتمحور ركائز هذه المجالس حول العدالة والشفافية والمساءلة والسلامة والخصوصية

00:18:44.900 --> 00:18:48.840
تضمن العدالة ألا تعاقب النتائج المستخدمين بناء على اعتبارات ديمغرافية

00:18:48.840 --> 00:18:52.280
تتطلب الشفافية أن تكون القرارات قابلة للتفسير بعبارات واضحة

00:18:52.280 --> 00:18:54.140
سواء للمستخدمين أو لأغراض الانتثال

00:18:54.140 --> 00:18:59.040
تضمن المساءلة وجود دور محدد يتحمل المسئولية بحيث لا يقال الذكاء الاصطناعي فعل ذلك

00:18:59.040 --> 00:19:01.160
بل يتولى هذا المسئول المحاسبة عن النتيجة

00:19:01.160 --> 00:19:04.340
تحمي سلامة المخرجات من التسبب في أي ضرر أو سوء استخدام

00:19:04.340 --> 00:19:06.220
تحمي الخصوصية البيانات الحساسة

00:19:06.220 --> 00:19:09.780
كي لا يصبح الأفراد حمولة غير مقصودة في رحلة محفوفة بالمخاطر

00:19:09.780 --> 00:19:11.240
كل مبدأ قوي بمفرده

00:19:11.240 --> 00:19:15.360
لكنها معا تشكل الهيكل الذي يجعل الذكاء الاصطناعي المسئول يعمل تحت المجهر

00:19:15.360 --> 00:19:17.840
ولا تكتفي مجالس الإدارة بدعم المبادئ فحسبه

00:19:17.840 --> 00:19:19.060
بل تنفذ إجراءات ملموسة

00:19:19.060 --> 00:19:21.360
فهي تراجع وثائق النماذج للتأكد من وضوحها

00:19:21.360 --> 00:19:23.960
وتدير عمليات تقييم المخاطر لتصنيف حالات الاستخدام

00:19:23.960 --> 00:19:27.220
وتفرض نقاط فحص تتدخل فيها العناصر البشرية حيث ما لازم الأمر

00:19:27.220 --> 00:19:33.440
كإنجاز أولي من أبسط الإجراءات وأكثرها قيمة هو إنشاء سجل لحالات استخدام الذكاء الاصطناعي وتصنيف المخاطر المرتبطة بها

00:19:33.440 --> 00:19:36.160
توضح هذه الخريطة سريعة المشاريع التي تصنف كمخاطر عالية

00:19:36.160 --> 00:19:39.180
وتلك التي تتطلب حوكمة صارمة وتلك ذات المخاطر الأقل

00:19:39.180 --> 00:19:43.760
إنه دليل ملموس للقيادة والجهات التنظيمية على أن الرقابة منظمة وليست ارتجالية

00:19:43.760 --> 00:19:47.980
حتى عند العمل بأقصى سرعة تعمل اجتماعات المجلس كفخصات دورية خلال الرحلة

00:19:47.980 --> 00:19:52.520
هم لا يضعون الاستراتيجية فحسبه بل يتتبعون المقاييس ويفرضون تقارير الانتثال

00:19:52.520 --> 00:19:54.360
هذا الإيقاع يبني المرونة

00:19:54.360 --> 00:19:57.540
تطبط دورات الاختبار ومؤشرة الأداء الرئيسية للعدالة

00:19:57.540 --> 00:20:02.320
ومراجعة الانحراف الإيقاع لتبقى حواجز الحماية نشطة بدلا من أن تتلاشى بعد النشر

00:20:02.320 --> 00:20:07.100
من خلال هذه التقوس تتوقف الرقابة عن كونها مجرد خانة للاختيار لمرة واحدة وتصبح عملية حية

00:20:07.100 --> 00:20:09.980
يقدم الذكاء الاصطناعي في التوظيف قصة تحذيرية

00:20:09.980 --> 00:20:13.160
نماذج تدربت على بيانات معيبة انقصة التحيز بصمت

00:20:13.160 --> 00:20:17.220
فخفضت تقييم مرشحين من مجموعات معينة دون أي قصد من المطورين

00:20:17.220 --> 00:20:21.660
وبسبب عدم ملاحظة ذلك انتشر التمييز على نطاق واسع حتى أدى إلى رفع دعاوة قضائية

00:20:21.660 --> 00:20:27.120
كان بإمكان مجلس حوكمة مسلح بعمليات تدقيق العدالة وفحص المصادر ملاحظة هذا الانحراف قبل الانتاج بوقت طويل

00:20:27.120 --> 00:20:30.960
هذا الفرق الوقاية مقابل الكشف هو سبب وجود هذه المجالس

00:20:30.960 --> 00:20:34.860
لذا مجالس الحوكمة ليست مشاريع جانبية وليست لجانا تجميلية

00:20:34.860 --> 00:20:37.980
إنها خط الدفاع الأخير بين التوجيه المستقر والفوضى التي يمكن تجنبها

00:20:37.980 --> 00:20:41.420
وهي الطاقم المكلف بتحويل شعارات الذكاء الاصطناعي المسؤول إلى ممارسات واقعية

00:20:41.420 --> 00:20:43.760
من خلال الحفاظ على الهيكل والمقاييس والمساءلة

00:20:43.760 --> 00:20:46.160
يضمنون تقدم السفينة مع بقاء ثقة سليمة

00:20:46.160 --> 00:20:48.140
وهذا يعيدنا إلى نقطة البداية

00:20:48.140 --> 00:20:50.900
بوجود المجالس تصبح الرقابة ثقافة لا مجرد ترقيع

00:20:50.900 --> 00:20:53.400
وهو ما يطرح الحقيقة الأكثر حدة التي نختتم بها

00:20:53.400 --> 00:20:56.600
الذكاء الاصطناعي المسؤول ليس إعدادا إضافيا تشغله للعرض

00:20:56.600 --> 00:21:00.460
إنه جهاز الأمان الذي يحدد ما إذا كنت ستنجو من الاضطرابات القادمة

00:21:00.460 --> 00:21:02.700
الذكاء الاصطناعي المسؤول ليس اختياريا

00:21:02.700 --> 00:21:06.420
إنه ما يفصل بين مؤسسة مسيطرة وأخرى تنجرف نحو الفوضى

00:21:06.420 --> 00:21:08.820
به أن تبني ثقة وتقلل المخاطر بشكل كبير

00:21:08.820 --> 00:21:11.840
وتضع مشاريع الذكاء الاصطناعي الخاصة بك على مسار النجاح طويل الأمد

00:21:11.840 --> 00:21:13.160
بدلا من النجاحات قصيرة الأجل

00:21:13.160 --> 00:21:15.020
إذن إليك خطوتك التالية

00:21:15.020 --> 00:21:16.980
جلد حالات استخدام الذكاء الاصطناعي لديك

00:21:16.980 --> 00:21:19.340
وفعل وسائل الحماية المتاحة بالفعل في منصتك

00:21:19.340 --> 00:21:21.120
وأنشئ مجلس حوكمة لمراقبتها

00:21:21.120 --> 00:21:23.320
تعامل مع هذه الخطوات كمركز قيادة للمهمة

00:21:23.320 --> 00:21:24.360
لا كمهام جانبية

00:21:24.360 --> 00:21:27.640
تتضمن ملاحظات الحلقة قائمة مراجعة وروابط للأدوات التي غطيناها

00:21:27.640 --> 00:21:28.840
حتى تتمكن من البدء فورا

00:21:28.840 --> 00:21:30.600
إذا شحنت هذه الحلقة طاقة ذكائك

00:21:30.600 --> 00:21:33.140
فاض بالتطبيق البودكاست الخاص بك على التحميل التلقائي

00:21:33.140 --> 00:21:34.380
اضغط على متابعة

00:21:34.380 --> 00:21:38.080
أرسل أسئلتكم إلى ورشوات وسأقرأ أفضلها في المرة القادمة