WEBVTT

00:00:00.000 --> 00:00:08.800
תארו לעצמכם שאתם משיקים צ'אט בוט כדי לעזור לצוות שלכם לנהל משימות יומיות, ובתוך דקות הוא מתחיל להציע פעולות מוטות, מטעות או פשוט לא מועילות ללקוחות שלכם.

00:00:08.920 --> 00:00:13.600
זו לא פרנויה ממדע הבדיוני, זה מה שקורה כשחסרות מגבלות בטיחות של בינה מלאכותית אחראית.

00:00:13.780 --> 00:00:18.060
בינה מלאכותית אחראית מתמקדת בהגינות, שקיפות, פרטיות ואחריותיות.

00:00:18.240 --> 00:00:21.100
אלו הן חגורות הבטיחות של תייסי המשנה הדיגיטליים שלכם.

00:00:21.100 --> 00:00:23.780
זה מפחיד סיכונים אם באמת מיישמים זאת הלכה למעשה.

00:00:23.920 --> 00:00:24.600
מה התוצאה?

00:00:24.720 --> 00:00:28.600
הפרות תאימות, חוסר אמון מצד לקוחות, והנהלה שנמצאת במצב פאניקה.

00:00:28.720 --> 00:00:31.480
בסשן הזה, הדגים קשלים בהזרקת הנחיות, פרומפט אינג'קשון,

00:00:31.660 --> 00:00:37.400
והציג צעדי ממשל שניתן ליישם בתוך תהליכי העבודה של פאור פלטפורם ומיקרוסופט 365, כי הסכנה אינה רחוקה.

00:00:37.520 --> 00:00:40.240
זה מתחיל ברגע שעוזר בינה מלאכותית סוטה מהתסריט.

00:00:40.240 --> 00:00:45.280
כשהבינה המלאכותית סוטה מהתסריט, תארו לכם זאת, אתם משיקים עוזר תזמון כדי לסדר את היומן שלכם.

00:00:45.420 --> 00:00:49.020
הוא אמור לנהל זמני פגישות, לסמן הערות דחופות ולשמור על הסדר.

00:00:49.200 --> 00:00:54.500
במקום זאת, הוא מתחיל להפלות לטובה, להחליט אילו אמיתים חשובים יותר, ולהסיר בשקט אחרים מההזמנה.

00:00:54.620 --> 00:00:59.300
או גרוע מכך, הוא קובר הודעה קריטית מהמנהל שלכם מתחת לגרסה הדיגיטלית של דואר.

00:00:59.300 --> 00:01:04.580
ביקשתם שעון אמין, וקיבלתם מישהו מעצבת שמתנהג מוזר וממציא חוקים שאף אחד לא אישר.

00:01:04.680 --> 00:01:07.100
תחשבו על העוזר הזה כעל כלי שייט בים.

00:01:07.300 --> 00:01:13.240
הספינה אולי נוצצת והמנוע רועם בעוצמה, אבל ללא מערכת ניווט, היא נסחפת בעיוורון בתוך הערפל.

00:01:13.420 --> 00:01:18.540
בינה מלאכותית ללא מגבלות בטיחות היא בדיוק זה תנועה ללא כיוון, הנאה ללא מצפן.

00:01:18.720 --> 00:01:23.520
ובעוד שטעויות רגילות שורבות, הסכנה האמיתית מגיעה כשמישהו מניח יד על ההגה.

00:01:23.520 --> 00:01:25.980
זה המקום שבו נכנסת לתמונה הזרקת הנחיות.

00:01:26.180 --> 00:01:31.600
זהו הקפטן הנוחל שמתגנב לסיפון ומחליק פקודה שנשמעת רשמית, אך מנתבת מחדש את הספינה כולה.

00:01:31.720 --> 00:01:37.940
ביטוי קטן אחד במסווה של בקשה יכול לדחוף את המתזמן העדיב שלכם להדליף מידע, להפיץ הטיות או לחזור על שטויות כמו טוקי.

00:01:38.100 --> 00:01:42.560
זה לא מדע בדיוני, זה סיכון אמיתי של כלת עוין שמומחים מכנים הזרקת הנחיות.

00:01:42.560 --> 00:01:50.360
תוקפים משתמשים בטקסט מעוצב בכפידה כדי לעקוף חוקי בטיחות, והמערכת מצייתת כי היא לא יודעת להבדיל בין חבלה לבין נושא המהימן.

00:01:50.500 --> 00:01:51.680
הנה הסיבה שזה קורה.

00:01:51.860 --> 00:01:55.640
רוב מודלי הבסיס התייחסו לכל הנחיה מנוסחת היטב כאל תקפה.

00:01:55.760 --> 00:01:58.960
הם לא מזהים מניעה או כוונה ללא שכבות בטיחות מלמעלה.

00:01:59.120 --> 00:02:06.780
אלא אם כן ארגון מוסיף מגבלות בטיחות, מסנני בטיחות ובדיקות אנושיות, הבינה המלאכותית תמלא פקודות בחריצות של מכונה שנבנתה לציית.

00:02:06.780 --> 00:02:13.700
בקשו ממנה לסכם פגישה, ואם בתוך הבקשה מוטמנת גם פקודה להדפיס את קובץ האג'נדה הפרטי, היא תתייחס לשניהם באותו אופן.

00:02:13.860 --> 00:02:16.200
היא לא שוקלת את טיקה. היא לא חושדת בהונאה.

00:02:16.380 --> 00:02:21.580
מטפורת המחס עובדת כאן. זה כמו לחמוק דרך מחסום עם מסמכים מזויפים שמסומנים כמאושרים.

00:02:21.780 --> 00:02:24.040
ישנם מעקות בטיחות, אך הם לא תמיד מספיקים.

00:02:24.200 --> 00:02:26.760
טקסט מתוחכם יכול להטעות את הכללים ולגרום להם לוותר.

00:02:26.760 --> 00:02:30.960
ומכיוון שהפלט אינו דטרמיניסטי, ולעולם אינו אותה תשובה פעמיים, הסכנה מתרבה.

00:02:31.080 --> 00:02:36.660
תוקף יכול להמשיך לבדוק עד שהמודל סוף סוף ייתן את התגובה שרצה, כמו הטלת קוביות עד לקבלת התוצאה המזיקה.

00:02:36.760 --> 00:02:39.940
כך, העוזר שנבנה לשרת אותך יכול ברגע להפוך ללצן.

00:02:40.120 --> 00:02:42.060
דקה אחת הוא קובע משבצות ביומן.

00:02:42.240 --> 00:02:47.280
ברגע הבא, הוא ממציא קריטריונים לקבלה על העבודה או חושף שמות רגישים בהקשר הלא נכון.

00:02:47.280 --> 00:02:51.580
ממשל הופך לקריטי כאן כי המעבר ממועיל לקהותי אינו הדרגתי.

00:02:51.900 --> 00:02:54.520
הוא מיידי. הנזק לא עוצר בתיבת דואר אחת.

00:02:54.700 --> 00:02:58.800
פלט שגוי מתפשט בתהליכי עבודה מהר יותר ממה שטעויות אנוש אי פעם יכלו.

00:02:58.940 --> 00:03:01.280
הצעה פגומה הופכת למפל של טעויות.

00:03:01.440 --> 00:03:03.000
עצות רעות המזינות החלטות.

00:03:03.160 --> 00:03:06.380
תוויות שגויות מפיצות הטייה מוטעת המהדהדת במהירות של מכונה.

00:03:06.560 --> 00:03:09.720
ללא פיקוח, הנחיה אחת של מתחזה יכולה להציץ שריפה שלמה.

00:03:09.720 --> 00:03:12.740
הפחתת נזקים היא אפשרית, והיא לא מסתמכת על משלות לב.

00:03:12.900 --> 00:03:15.800
ספקים וארגונים כבר משתמשים בהגנות רב-שכבתיות,

00:03:15.960 --> 00:03:18.060
מסננים אוטומטיים, כללי למידת חיזוק,

00:03:18.280 --> 00:03:20.900
וסוקרים אנושיים הבודקים את מה שחומק דרך המערכת.

00:03:21.040 --> 00:03:23.860
טיליז, למשל, ממליצים לבחון טייסים משניים,

00:03:24.060 --> 00:03:27.060
קו-פיילוטס, חדשים בתוך סביבות סגורות ומבוקרות,

00:03:27.280 --> 00:03:31.220
כדי להכיל את רדיוס הפיצוץ לפני חשיפתם למשתמשים או לנתונים בפועל.

00:03:31.220 --> 00:03:33.180
שלבו זאת עם צוותי תקיפה, רד טימינג,

00:03:33.280 --> 00:03:36.800
מתמשכים שבהם בני אדם בודקים את המערכת לחיפוש חולשות באופן קבוע,

00:03:37.000 --> 00:03:37.860
וכך תיצרו חוצץ.

00:03:37.980 --> 00:03:40.420
אמצעי הגנה אוטומטיים עושים את העבודה הקשה,

00:03:40.680 --> 00:03:44.620
אך סקירה אנושית מבדעת שהמודל נשאר מיושר גם כשהכללים הפשוטים נכשלים.

00:03:44.860 --> 00:03:47.860
זו השיטה לצפות, לבדוק, לזכור, להכיל.

00:03:48.020 --> 00:03:49.720
אם תשאיר את ההגל ללא השגחה,

00:03:49.720 --> 00:03:52.560
הבינה המלאכותית תפליג לאן שיובילו אותה הפרובוקציות.

00:03:52.560 --> 00:03:55.240
אם תאכוף פיקוח, תצמצם את החלון לאסון.

00:03:55.440 --> 00:03:57.360
מטפורת הספינה הממחישה זאת היטב.

00:03:57.520 --> 00:03:58.500
הכוונה היא אפשרית,

00:03:58.700 --> 00:04:00.400
אך רק כשמישהו בודק את המצפן,

00:04:00.580 --> 00:04:02.280
וזה מכין את הקרקע לאתגר הבא.

00:04:02.460 --> 00:04:05.220
גם אם תמנעו כניסת חודרים ותשאירו מסננים פעילים,

00:04:05.460 --> 00:04:07.000
עדיין תעמדו בפני סיבוך נוסף.

00:04:07.160 --> 00:04:09.820
חוסר יכולת לחיזוי המוטמע במערכות עצמן.

00:04:09.820 --> 00:04:10.940
לא בגלל חבלה,

00:04:11.200 --> 00:04:14.680
אלא בגלל הדרך שבה המודלים האלה מייצרים את התשובות שלהם.

00:04:14.680 --> 00:04:17.040
דטרמיניסטי מול לא דטרמיניסטי,

00:04:17.240 --> 00:04:18.160
המתג הנסתר.

00:04:18.320 --> 00:04:18.900
דמיינו זאת,

00:04:19.020 --> 00:04:21.180
אתם מקישים 2 פלוס 2 במחשבון,

00:04:21.240 --> 00:04:23.000
ובמקום ה-4 המצופה,

00:04:23.220 --> 00:04:24.560
הוא מחייך עליכם עם 42.

00:04:25.140 --> 00:04:26.180
ביזרי, נכון,

00:04:26.360 --> 00:04:29.240
אנחנו בוהים כמחשבונים בנויים על דטרמיניזם ברזל.

00:04:29.420 --> 00:04:31.140
הזינו להם את אותו כלת אלף פעמים,

00:04:31.140 --> 00:04:33.240
והם יגיעו לאותו פלט בכל פעם מחדש.

00:04:33.380 --> 00:04:35.220
יכולת החיזוי הזו היא כל העניין.

00:04:35.360 --> 00:04:37.940
כעת השבו זאת לסוג החדש של כלי בינה מלאכותית.

00:04:37.940 --> 00:04:39.880
הם לא תמיד מגיעים לאותו מקום פעמיים.

00:04:40.060 --> 00:04:41.220
הפלט שלהם משתנה.

00:04:41.380 --> 00:04:43.420
לפעמים השינוי מרגיש חכם או מעמיק,

00:04:43.500 --> 00:04:45.020
ופעמים אחרות הוא גולש לשטויות.

00:04:45.240 --> 00:04:46.420
זהו המתג הנסתר.

00:04:46.560 --> 00:04:48.800
התנהגות דטרמיניסטית מול לא דטרמיניסטית.

00:04:48.980 --> 00:04:50.140
במערכות דטרמיניסטיות,

00:04:50.340 --> 00:04:52.820
כמו גיליונות אלקטרוניים או נוסחאות מבוססות חוקים,

00:04:52.980 --> 00:04:54.040
התוצאה לעולם לא משתנה.

00:04:54.040 --> 00:04:55.880
תקליד שבע ביום שני או בשבת,

00:04:56.100 --> 00:04:57.840
והמכונה תספק את אותה התוצאה.

00:04:57.940 --> 00:04:59.740
ללא מצבי רוח או יצירתיות.

00:04:59.740 --> 00:05:01.040
זוהי נאמנות מכנית,

00:05:01.140 --> 00:05:03.080
המבצעת את אותו המהלך שוב ושוב.

00:05:03.300 --> 00:05:05.300
מודלים לא דטרמיניסטיים חיים אחרת.

00:05:05.500 --> 00:05:06.720
אתה נותן להם הנחיה,

00:05:06.980 --> 00:05:08.620
ובמקום לצעוד במסלול קבוע,

00:05:08.860 --> 00:05:10.540
הם דוגמים מתוך מגוון אפשרויות.

00:05:10.680 --> 00:05:11.440
הדגימה הזו,

00:05:11.600 --> 00:05:13.240
יחד עם תהליכים סתוכסטיים,

00:05:13.460 --> 00:05:15.480
עדכוני מודל ואפילו זליגת נתונים,

00:05:15.480 --> 00:05:17.180
היא שגורמת לפלטים להשתנות.

00:05:17.540 --> 00:05:19.140
זה כמו להכין במה לילטור.

00:05:19.300 --> 00:05:20.360
אתה כותב את הסצנה,

00:05:20.540 --> 00:05:22.960
אבל השחקן ממציא את הפאנץ לין על המקום.

00:05:22.960 --> 00:05:24.300
לפעמים זה עובד נפלא,

00:05:24.520 --> 00:05:26.480
לפעמים זה גולש לחוסר קוהרנטיות.

00:05:26.640 --> 00:05:29.160
אוטומציה קלאסית ותהליכי עבודה מבוססי חוקים,

00:05:29.400 --> 00:05:30.980
כמו אלו שנבנים בפאוור פלטפורם,

00:05:31.200 --> 00:05:33.000
נמצאים קרוב יותר לצד הדטרמיניסטי.

00:05:33.160 --> 00:05:34.100
אתה מגדיר תנאי,

00:05:34.240 --> 00:05:35.240
וכשהטריגר מופעל,

00:05:35.420 --> 00:05:37.480
הוא מבצע את החוק המוגדר בדיוק של מכונה.

00:05:37.480 --> 00:05:40.180
היכולת לחיזוי הזו היא ששומרת על יציבות הציות,

00:05:40.380 --> 00:05:42.020
זרימת הנתונים ונתיבי הביקורת.

00:05:42.140 --> 00:05:44.140
אתה יודע מה יקרה כי השלבים נעולים,

00:05:44.140 --> 00:05:45.580
קופיאלותים גנרטיביים,

00:05:45.780 --> 00:05:46.360
לעומת זאת,

00:05:46.580 --> 00:05:48.840
הופכים כל כלת למרחב פתוח לפרשנות.

00:05:48.960 --> 00:05:50.500
הם הסכמו, ירכיבו מחדש,

00:05:50.560 --> 00:05:53.220
והינסחו שוב בדרכים שלעיתים קרובות מרגישות אנושיות.

00:05:53.440 --> 00:05:54.520
גמישות היא הקסם,

00:05:54.740 --> 00:05:55.680
אך היא גם הסיכון,

00:05:55.920 --> 00:05:59.480
כי אותה גמישות מאפשרת חוסר חיזוי בהקשרים הדורשים מקביעות.

00:05:59.480 --> 00:06:01.740
תארו לעצמכם להקת אלטור על הבמה.

00:06:01.860 --> 00:06:03.920
אתם נותנים להם נושא אישור תקציב.

00:06:04.100 --> 00:06:06.340
שחקן אחד רץ עם בדיחה חכמה על חיסכון,

00:06:06.340 --> 00:06:08.300
אחר גולש לעלילת משנה על סעודות,

00:06:08.480 --> 00:06:11.160
ופתאום המופע בקושי מזכיר את הבקשה המקורית שלכם.

00:06:11.320 --> 00:06:13.520
זהו מודל לא דטרמיניסטי באמצע ביצוע.

00:06:13.700 --> 00:06:16.220
התנודות האלו אינן סימנים לתכנון לקוי.

00:06:16.360 --> 00:06:19.360
הן מוטמעות בדרך שבה מודלי שפה גדולים מייצרים שפה,

00:06:19.560 --> 00:06:20.880
תוך חקירת מסלולים רבים,

00:06:21.080 --> 00:06:21.680
לא רק אחד.

00:06:21.680 --> 00:06:22.680
המלכות ברור,

00:06:22.880 --> 00:06:24.500
יצירתיות לא תמיד שווה לדיוק,

00:06:24.660 --> 00:06:25.880
ובתהליכי עבודה עסקיים,

00:06:26.120 --> 00:06:27.800
דיוק הוא לעיתים המטבע היחיד שקובע.

00:06:27.940 --> 00:06:28.280
כעת,

00:06:28.280 --> 00:06:29.880
הכילו זאת על עולם הפיננסים.

00:06:30.060 --> 00:06:34.000
נניח שכלי בדיקת האשראי מבוסס הבינה המלאכותית שלכם מאשר מועמד.

00:06:34.140 --> 00:06:35.900
אותו מידע מוזן שוב למוחרת.

00:06:36.120 --> 00:06:37.540
אך הפעם התשובה הדחייה.

00:06:37.680 --> 00:06:38.960
המועמד חווה טלטלה.

00:06:39.120 --> 00:06:42.120
הרשות הרגולטורית מזהה חוסר עקביות שמעלה חשד להפליה.

00:06:42.120 --> 00:06:43.980
מה שקורה כאן הוא זליגה, דריפט.

00:06:44.100 --> 00:06:45.760
הפלטים משתנים ללא סיבה שקופה,

00:06:45.840 --> 00:06:48.440
כי מערכות לא דטרמיניסטיות יכולות להשתנות לאורך זמן.

00:06:48.620 --> 00:06:49.860
בשונה מדברים אנושיים,

00:06:49.860 --> 00:06:52.460
אי אפשר פשוט לבקש מהמודל להסביר מה השתנה.

00:06:52.600 --> 00:06:54.360
וכאן האמון נשחק הכי מהר,

00:06:54.620 --> 00:06:56.520
כשהנימוק נעלם מאחורי פלט אטום.

00:06:56.720 --> 00:06:57.240
בייצור,

00:06:57.460 --> 00:06:59.260
הזליגה הזו מתגברת במהירות.

00:06:59.440 --> 00:07:02.320
תהליך עבודה שאושר כדי להפחית הטיות בחודש אחד,

00:07:02.320 --> 00:07:04.520
עלול לפנות לכיוון ההפוך בחודש הבא.

00:07:04.700 --> 00:07:09.680
שינויים שנראים מנוריים בבידוד מצטברים להפרות כאשר הם מוגדלים על פני מאות מקרים.

00:07:10.000 --> 00:07:10.740
רגולטורים,

00:07:10.920 --> 00:07:13.000
בניגוד לקהל משואשה בערב אילטור,

00:07:13.280 --> 00:07:14.140
דורשים יציבות,

00:07:14.140 --> 00:07:16.140
יכולת ביקורת והסברים ברורים.

00:07:16.320 --> 00:07:19.080
הם לא מקבלים חוסר דטרמיניזם כחלק מהקסם.

00:07:19.260 --> 00:07:21.440
זו הסיבה שגידרות הפרדה הן כו חשובות.

00:07:21.600 --> 00:07:23.960
רגולטורים ותקנים דורשים יכולת ביקורת,

00:07:24.100 --> 00:07:25.220
תיעוד מודלים וניתור.

00:07:25.220 --> 00:07:28.560
לכן, התמיעו לוגים ואמצעי הסבריות כבר בפריסה.

00:07:28.660 --> 00:07:29.320
בלעדיהם,

00:07:29.440 --> 00:07:31.340
אפילו שינויים קטנים הופכים לחבויות,

00:07:31.520 --> 00:07:32.340
כנסות נערמים,

00:07:32.620 --> 00:07:35.140
נזק תדמיתי מתפשט ואמון הלקוחות מתמוסס.

00:07:35.280 --> 00:07:38.240
הממשל הוא השופט האנושי במחזה הבלתי צפוי הזה.

00:07:38.400 --> 00:07:39.900
דמיינו שוב את מאלתרים האלה,

00:07:40.020 --> 00:07:41.120
מסתובבים לכל כיוון.

00:07:41.280 --> 00:07:42.440
אם איש לא מציב גבולות,

00:07:42.600 --> 00:07:44.280
המופע קורס תחת הקאוס של עצמו.

00:07:44.480 --> 00:07:45.620
שופט, לעומת זאת,

00:07:45.780 --> 00:07:46.760
שומר עליהם קשורים.

00:07:46.940 --> 00:07:48.100
יישארו עם הנושא הזה,

00:07:48.300 --> 00:07:49.280
עקבו אחר הקו הזה.

00:07:49.280 --> 00:07:51.960
ממשל פועל באותה דרך עבור בינה מלאכותית.

00:07:52.080 --> 00:07:53.340
הוא לא מחבא חדשנות,

00:07:53.580 --> 00:07:56.680
הוא ממיר עקראיות לביצועים שעדיין מכבדים את התסריט.

00:07:56.900 --> 00:07:58.500
חוסר הדטרמיניזם נשאר,

00:07:58.680 --> 00:08:00.360
אך הוא פועל בתוך נתיבים מוגדרים.

00:08:00.560 --> 00:08:01.640
כאן תמון האיזון.

00:08:01.840 --> 00:08:04.420
אי אפשר להכריח טייס משנה להתנהג כמו מחשבון,

00:08:04.580 --> 00:08:05.360
הוא לא בנוי לכך.

00:08:05.440 --> 00:08:07.540
אבל אפשר להציב סביבו רשתות ביטחון.

00:08:07.680 --> 00:08:08.440
פיקוח אנושי,

00:08:08.580 --> 00:08:11.380
מערכות ניתור ומסגרות ממשל משמשים קרשת הזו.

00:08:11.380 --> 00:08:13.120
איתם, המודל עדיין מאלתר,

00:08:13.340 --> 00:08:14.440
אך הוא לא יהרוס את המופע.

00:08:14.580 --> 00:08:15.160
בלעדיהם,

00:08:15.260 --> 00:08:16.540
סטייה מתגלגלת ללא בקרה,

00:08:16.740 --> 00:08:19.600
וצוותי הציות נותרים לנקות החלטות שאף אחד לא יכול להצדיק.

00:08:19.700 --> 00:08:20.720
הסיכונים ברורים,

00:08:20.860 --> 00:08:22.040
אי חיזוי ונייטרלי,

00:08:22.040 --> 00:08:24.200
ומעצב תוצאות המשפיעות על הלוואות,

00:08:24.360 --> 00:08:25.680
עבודות או שירותי בריאות.

00:08:25.800 --> 00:08:27.840
וכשהפל את נושא משקל בעולם האמיתי,

00:08:28.040 --> 00:08:29.140
הרגולטורים מתערבים.

00:08:29.280 --> 00:08:30.820
מה שמוביל אותנו לחזית הבאה,

00:08:30.820 --> 00:08:34.340
הגעתם הממשמשת ובה של חוקים חיצוניים שלא רק מציעים פיקוח,

00:08:34.520 --> 00:08:35.220
אלא מחייבים אותו.

00:08:35.360 --> 00:08:37.040
חוק ה-AI של האיחוד האירופי,

00:08:37.200 --> 00:08:38.080
אסטרואיד בדרך.

00:08:38.260 --> 00:08:38.860
דמיינו זאת,

00:08:39.000 --> 00:08:40.880
בניתם פרויקט AI חדש ומבריק,

00:08:41.120 --> 00:08:43.900
עיר דיגיטלית עם רחובות מסודרים ופעילות תוססת.

00:08:43.980 --> 00:08:44.740
אזורי נתונים,

00:08:52.040 --> 00:08:53.940
כמו מערכת חוקי תכנון שהוצנחה מהחלל.

00:08:54.120 --> 00:08:56.700
בלוקים שלמים בעיר שלכם מסומנים כעת כמפוכחים,

00:08:56.860 --> 00:08:58.000
חלקם תחת ניטור הדוק,

00:08:58.200 --> 00:09:00.820
ואחרים פשוט אסורים אם הם חוצים לתחום מניפולטיבי או מזיק.

00:09:00.820 --> 00:09:01.640
זה לא אופציונלי,

00:09:01.820 --> 00:09:02.320
זו חקיקה,

00:09:02.480 --> 00:09:05.880
והעיר שלכם חייבת לעצב את עצמה מחדש בין אם תכננתם זאת ובין אם לא.

00:09:06.020 --> 00:09:08.040
בליבת הכללים הללו עומד סיווג.

00:09:08.200 --> 00:09:10.660
מערכות ממוקמות בדרגות סיכון של מינימום,

00:09:10.840 --> 00:09:11.280
מוגבל,

00:09:11.460 --> 00:09:13.020
גבוה או בלתי קביל בעליל.

00:09:22.040 --> 00:09:25.420
שימושים מניפולטיביים או מסוכנים שנעשרו למעשה כליל.

00:09:25.580 --> 00:09:26.540
אלו לא רק תביות,

00:09:26.780 --> 00:09:28.100
הן ממופות ישירות לחובות.

00:09:28.280 --> 00:09:29.600
אם סובגתם כסיכון גבוה,

00:09:29.600 --> 00:09:31.500
עליכם לספק שקיפות והסבריות,

00:09:31.700 --> 00:09:33.600
לשמור לוגים מפורטים מוכנים לביקורת,

00:09:33.760 --> 00:09:34.880
וליישם פיקוח אנושי.

00:09:34.960 --> 00:09:35.340
פתאום,

00:09:35.480 --> 00:09:37.980
העיר החדשה והמבריקה שלכם לא רק נדרשת לתפקד,

00:09:38.180 --> 00:09:40.220
היא נדרשת להוכיח בפירוט איך ולמה היא מתפקדת.

00:09:40.300 --> 00:09:41.840
עבור מפתחים ובוני פתרונות,

00:09:42.020 --> 00:09:42.980
מדובר בתפנית חדה.

00:09:43.100 --> 00:09:43.460
אתמול,

00:09:43.460 --> 00:09:46.040
אפשר היה להוסיף תכונות לאפליקציות במהירות C.

00:09:46.200 --> 00:09:46.540
היום,

00:09:46.720 --> 00:09:49.900
אותן תכונות עשויות לדרוש בדיקות תעימות עוד לפני הדגמה אחת.

00:09:49.900 --> 00:09:52.440
אפליקציית גיוס שמדרגת קורות חיים בפאוורפלט פורם,

00:09:52.580 --> 00:09:54.380
שפעם הייתה רק כלי נוח לחיסכון בזמן,

00:09:54.580 --> 00:09:56.000
הופכת פתאום לאזור בסיכון גבוה.

00:09:56.140 --> 00:09:56.880
היא לא התקלקלה,

00:09:57.020 --> 00:10:00.040
היא פשוט משפיעה על אנשים בדרכים שהחוק מגדיר כרגישות,

00:10:00.240 --> 00:10:01.360
וזה משנה את כל התמונה.

00:10:01.520 --> 00:10:03.760
וכאן מתחילה הפאניקה עבור צוותים רבים.

00:10:03.760 --> 00:10:06.520
שקיפות פירושה יומנים של אופן קבלת ההחלטות,

00:10:06.740 --> 00:10:08.580
לא רשימת נקודות מאורפלת במצגת.

00:10:08.740 --> 00:10:12.560
יכולת ביקורת דורשת שכל נתיב החלטה יישמר ויהיה ניתן לשליפה,

00:10:12.760 --> 00:10:14.040
מוכן לבדיקת הרגולטורים.

00:10:14.160 --> 00:10:16.180
פיקוח אנושי משמעו אחריות בזמן אמת,

00:10:16.360 --> 00:10:17.960
אנשים אמיתיים שצופים במערכת,

00:10:18.100 --> 00:10:20.100
המסוגלים להתערב כשהמודל סוטה מהמסלול.

00:10:20.240 --> 00:10:21.420
אלו אינן הנחיות קלות,

00:10:21.540 --> 00:10:23.140
אלא תנאים מחייבים שניתן לאכוף.

00:10:23.140 --> 00:10:27.400
אבות טיפוס מהירים הופכים לפריסות תחת פיקוח עם דרישה לאישור תאימות בכל שלב.

00:10:27.520 --> 00:10:29.620
המהירות מפנה את מקומה למבנה מסודר.

00:10:29.760 --> 00:10:33.640
חישבו על החוק פחות כעל בירוקרטיה מיותרת ויותר כעל כללי חמצן בחללי.

00:10:33.760 --> 00:10:36.600
אולי תגלגלו עיניים כשפותחים את המסכה בשמיים רגועים,

00:10:36.800 --> 00:10:39.760
אבל בזמן מערבולות זה הדבר היחיד ששומר על הצוות בחיים.

00:10:39.920 --> 00:10:41.100
החוק הוא בדיוק כזה.

00:10:41.260 --> 00:10:44.000
הכללים מרגישים כבדים עד שנזכרים למה הם קיימים,

00:10:44.220 --> 00:10:46.740
כי קשל אחד יכול לחנוק את האמון בתעשייה כולה.

00:10:53.140 --> 00:10:57.480
בקרות ופיקוח תהיה יקרה יותר מאשר התמאתם בשלב התכנון.

00:10:57.660 --> 00:11:01.020
ההשלכות של התעלמות מהדרישות הללו אינן רק כלכליות.

00:11:01.200 --> 00:11:04.160
כנסות צורבים, כן, אבל מוניטים קשה יותר לתקן.

00:11:04.320 --> 00:11:07.040
ברגע שלקוחות יגלו שהכלי שלכם חצה את הקו האדום,

00:11:07.220 --> 00:11:08.740
האמון בכל החברה שלכם יתערער.

00:11:08.860 --> 00:11:10.680
אי אפשר לתקן את זה עם עדכון תוכנה.

00:11:10.820 --> 00:11:14.120
אמון הציבור הוא שוויר, וכשהוא נסדק, משתמשים עוברים למקום אחר.

00:11:14.120 --> 00:11:17.460
העונש הכי גדול לא כתוב בחוק, הוא כתוב בהתנהגות הלקוחות.

00:11:17.460 --> 00:11:19.520
אז, הנה שאלת המלאי הלא נוחה.

00:11:19.620 --> 00:11:23.340
האם אתם בכלל יודעים אילו מתכונות הבינה המלאכותית שלכם נחשבות בסיכון גבוה?

00:11:23.480 --> 00:11:24.580
אותו מיין קורות חיים?

00:11:24.760 --> 00:11:26.340
אותו כלי לחיזוי פרודוקטיביות?

00:11:26.500 --> 00:11:29.620
אם הם נוגעים בתחומים רגישים כמו תעסוקה או סיכויים כלכליים,

00:11:29.820 --> 00:11:30.820
החוק מתעניין בהם.

00:11:30.860 --> 00:11:33.080
ולא משנה אם אתם רואים בהם עוזרים תמימים.

00:11:33.320 --> 00:11:36.120
סיווג נושא איתו חובות בין אם תכירו בהן ובין אם לא.

00:11:36.120 --> 00:11:37.780
ארגונים חכמים מתחילים במלאי,

00:11:37.780 --> 00:11:42.140
מקטלגים אילו תכונות נמצאות איפה לפני שהרגולטורים דורשים מהם תשובות תמורת תשלום.

00:11:42.340 --> 00:11:43.320
זה הטוויסט האמיתי.

00:11:43.520 --> 00:11:46.080
החוק לא ממליץ בעדינות על בינה מלאכותית אחראית,

00:11:46.240 --> 00:11:46.840
הוא דורש אותה.

00:11:46.940 --> 00:11:48.920
משילות היא כבר לא טיבול אופציונלי,

00:11:49.180 --> 00:11:50.660
היא חלק בלתי נפרד מהחוק.

00:11:50.940 --> 00:11:52.880
או שתבנה באחריות מהיסוד,

00:11:52.880 --> 00:11:57.340
או שהחוק יכפה אחריות מבחוץ עם כנסות ורואי חשבון בעקבותיו.

00:11:57.600 --> 00:11:59.880
במובן הזה, האסטרואיד כבר נחת.

00:11:59.980 --> 00:12:00.980
אי אפשר להדוף אותו.

00:12:00.980 --> 00:12:04.440
אפשר רק להתמגן מפני הפגיעה ולשמור על העיר שלכם ראויה למגורים.

00:12:04.560 --> 00:12:05.980
מה שמעלה את השאלה המעשית,

00:12:06.160 --> 00:12:07.680
אילו מגינים יש לכם בהישג יד?

00:12:07.800 --> 00:12:08.460
כי בנוף הזה,

00:12:08.640 --> 00:12:10.800
לשרוד את האסטרואיד זה לא עניין של מזל,

00:12:11.060 --> 00:12:13.960
זה להשתמש בהגנות שכבר נמצאות בלוח הבקרה שלכם.

00:12:13.960 --> 00:12:17.000
מגיני המערכת של מייקרוסופט ומעקות בטיחות.

00:12:17.180 --> 00:12:19.080
במערכת האקולוגית של מייקרוסופט,

00:12:19.220 --> 00:12:20.840
המגינים כבר מובנים בתוך הספינה.

00:12:21.020 --> 00:12:22.420
אתם רק צריכים להפעיל אותם.

00:12:22.420 --> 00:12:27.180
מייקרוסופט 365 ופאוור פלטפורם כוללים כלי ממשל שלעיתים קרובות נשארים לא מורגשים,

00:12:27.440 --> 00:12:29.000
חבויים כאילו היו תוספות אופציונליות.

00:12:29.120 --> 00:12:29.700
הם לא קישוט,

00:12:29.880 --> 00:12:34.040
הם הציפוי המבני ששומר על המערכות שלכם שלמות כשהרגולציה והסיכונים מגיעים.

00:12:34.040 --> 00:12:36.720
הסכנה מתחילה כשצוותים מציצים בלוחות המכוונים האלו,

00:12:36.900 --> 00:12:38.360
מושכים בכתפיים וממשיכים הלאה.

00:12:38.440 --> 00:12:40.820
כי אלו לא הגדרות בונוס, אלו כלי הישרדות.

00:12:40.960 --> 00:12:41.820
התחילו בנירות.

00:12:41.820 --> 00:12:47.740
מייקרוסופט 365 ופאוור פלטפורם מטמיעים תכונות פיקוח שמאפשרות לכם לעקוב אחר התנהגות מודלים,

00:12:48.000 --> 00:12:50.200
לתעד החלטות ולהציג הסברים בשפה פשוטה.

00:12:50.360 --> 00:12:53.420
אין צורך להסתמך על קופסה שחורה שפולטת פסקי דין מוזרים.

00:12:53.420 --> 00:12:57.760
אתם מקבלים לולעת משוב ממשית, עיתותים בקונסולה בכל פעם שאלגוריתם סוטה מהמסלול.

00:12:57.900 --> 00:13:03.200
ההבחנה הזו היא הגבול בין ניווט עיוור לבין ניווט עם מכשירים שאומרים לכם בדיוק מתי אתם סוטים.

00:13:03.380 --> 00:13:04.540
ואז ישנה השקיפות.

00:13:04.540 --> 00:13:09.640
ספקים מסוימים כמו AWS מספקים כרטיסי שירות בינה מלאכותית כדי לתעד את השימוש במודל ואת מגבלותיו.

00:13:09.820 --> 00:13:15.740
מייקרוסופט ניגשת לזה אחרת עם תקן הבינה המלאכותית האחראית שלה וחלים כמו לוח המכוונים לבינה מלאכותית אחראית.

00:13:15.740 --> 00:13:20.440
אלו נותנים למשתמשים דוחות הסברתיות, הערות ביצועים ובחירות עיצוב אחראיות.

00:13:20.600 --> 00:13:24.940
תחשבו על זה כטייס משנה שמפרש את ההיגיון שלו במקום סתם להגיש לכם תוכנית.

00:13:25.040 --> 00:13:27.620
אתם רואים כל שיקול, לא רק את התוצאה הסופית.

00:13:27.620 --> 00:13:30.040
לגבי הגנות ברמת המודל, זכרו זאת.

00:13:30.200 --> 00:13:32.920
כל הספקים מספקים מעקות בטיחות מסוב כלשהו.

00:13:33.060 --> 00:13:38.720
בסביבה של מייקרוסופט תמצאו בקרות מדיניות, לוחות מכוונים להסברתיות ויומני ביקורת שממלאים את אותו תפקיד,

00:13:38.720 --> 00:13:42.340
חוסמים ניסיונות כלת זדוניים ומסננים תוצאות לפני שהן הופכות לחאוס.

00:13:42.460 --> 00:13:48.200
עבור הסברתיות כשלעוצמה ישנן שיטות מבוססות כמו שפ או כלים ספציפיים לספקים כמו SageMaker Clarify.

00:13:48.340 --> 00:13:52.020
בעולם של מייקרוסופט, לוח המכוונים לבינה מלאכותית אחראית ממלא את התפקיד הזה,

00:13:52.240 --> 00:13:54.780
ונותן דוחות ברורים על אילו משתנים הניעו את החלטת המודל.

00:13:54.920 --> 00:13:58.620
בעזרתם, מעשה הקסמים של החלטת בינה מלאכותית מפסיק להיות טריק מפחיד.

00:13:58.620 --> 00:14:02.240
אתם יכולים לראות אילו כלטים היו חשובים ולשקול אם התוצאה הייתה הוגנת.

00:14:02.380 --> 00:14:07.620
מבקרים מקבלים ראיות הניתנות למעקב, ומשתמשים זוכים לאמון בכך שהמודל לא ממציא שטויות מהאוויר.

00:14:07.620 --> 00:14:11.340
ואז מגיעה רשת הביטחון הפשוטה, אך החיונית, הגנת נתונים.

00:14:11.580 --> 00:14:16.020
הפעילו מניעת אובדן נתונים כדי למנוע ממידע רגיש להגיע לידיים הלא נכונות,

00:14:16.260 --> 00:14:18.600
ושלבו זאת עם שמירת יומנים ורישומי ביקורת.

00:14:18.600 --> 00:14:21.900
יחד אלו מתפקדים כקופסה השחורה של הארגון שלכם.

00:14:22.020 --> 00:14:26.140
כל פעולה וכל חריגה מתועדות כך שתוכלו לאתר טעויות ברגע שהן מתרחשות.

00:14:26.260 --> 00:14:29.700
אם תוותרו על כך, תישאר רק עננה של ערפל כשהשגיאות יתחילו להצטבר.

00:14:29.880 --> 00:14:31.060
התמורה אינה מופשטת.

00:14:31.260 --> 00:14:34.360
קחו לדוגמה אפליקציית פאוור אפל בסיסית שנבנתה בעזרת אייבילדר.

00:14:34.520 --> 00:14:38.360
בתיוטות הראשונות היא שאבה יותר מידע אישי ממה שכל ארגון יכול להצדיק.

00:14:38.480 --> 00:14:41.280
שמות, רשומות ושדות רגישים נחשפו ללא צורך.

00:14:41.280 --> 00:14:45.100
ברגע שהופעלו הגדרות התאימות, השיטפון נעצר, גבולות המידע התהדקו,

00:14:45.280 --> 00:14:47.680
האפליקציה המשיכה לעבוד וחוקי הפרטיות קובדו.

00:14:47.860 --> 00:14:50.160
הארכיטקטורה לא נהרסה ונבנתה מחדש.

00:14:50.160 --> 00:14:53.720
היא פשוט עברה התאמה על ידי הפעלת מגננות שהיו שם מלכתחילה.

00:14:53.820 --> 00:14:57.040
עבור שלבי הפריסה הראשונים, יש שיטה נוספת שכדאי לאמץ,

00:14:57.240 --> 00:14:58.780
גנים סגורים, בסגנון טלוס.

00:14:58.780 --> 00:15:02.560
באמצעות בדיקת טייסים אוטומטיים בסביבת חולית מבודדת הניתנת לביקורת,

00:15:02.740 --> 00:15:06.860
אתם תוכמים כל התנהגות בלתי צפויה לאזור בטוח לפני השחרור לתהליכי עבודה קריטיים.

00:15:07.060 --> 00:15:11.120
זהו מגרש ניסויים עם חומות גבוהות מספיק, כדי שטעויות לא יזלגו למערכות הייצור.

00:15:11.280 --> 00:15:15.760
שלבו זאת עם ניטור איתן, והארגון שלכם יתפוס קשלים לפני שהם הופכים לכותרות בעיתונים.

00:15:15.960 --> 00:15:18.680
לוחות בקרה לממשל תאגידי מאחדים את כל אלו יחד.

00:15:18.680 --> 00:15:21.740
הם לא רק מסקי סטטוס, הם מעניקים לצוותים פיקוח פעיל.

00:15:21.880 --> 00:15:25.300
מפקחים יכולים לבחון, לאשר או לפסול פלטי בינה מלאכותית בזמן אמת.

00:15:25.480 --> 00:15:28.080
זהו אכיפה אנושית שמשולבת ישירות בתוך המערכת.

00:15:28.260 --> 00:15:32.360
ללא פיקוח כזה, האוטומציה פועלת ללא הפרעה עד שהיא מתנגשת בהפרת מדיניות.

00:15:32.360 --> 00:15:38.920
עם לוחות בקרה, בני אדם יושבים במגדל הפיקוח ומטעמים כל מערכת בינה המלאכותית כמו מטוסים במרחב אווירי עמוס.

00:15:38.920 --> 00:15:41.920
במקום כאוס באוויר, מקבלים זרימה מסונקרנת ומנוהלת.

00:15:42.580 --> 00:15:43.700
וכאן תמון המפנה.

00:15:43.860 --> 00:15:49.140
ברגע שארגונים רואים במערכות אלו הגנה, הם עוברים מנטל רגולטורי למנוע להגברת הפרודוקטיביות.

00:15:49.340 --> 00:15:50.700
אתם חוסכים עבודה חוזרת.

00:15:50.880 --> 00:15:53.300
אתם מגישים לרגולטורים את היומנים שהם דורשים ברגע.

00:15:53.300 --> 00:15:56.940
אתם מתקדמים מהר יותר כי הציוט היה חלק מהתכנון, לא תליי שהוסף מאוחר יותר.

00:15:57.160 --> 00:15:59.480
מה שפעם ייקב את הקצב שלכם כעת מעיץ אותו.

00:15:59.480 --> 00:16:01.660
ועדיין, מגננות לא פועלות מעצמן.

00:16:01.840 --> 00:16:04.120
הן דורשות הגדרה, סקירה וניתור קבוע.

00:16:04.260 --> 00:16:07.940
הבקרות האלו עוזרות, אך הן חייבות להיות מנוהלות נכון על ידי אנשים.

00:16:08.200 --> 00:16:10.920
ועדות ממשל הן ההגנה האחרונה מפני השתוללות.

00:16:11.140 --> 00:16:14.500
חשבו על ועדת ממשל כעל צוות הגשר של ספינת החלל שלכם.

00:16:14.500 --> 00:16:18.140
הקולקטיב ששומר על מסלול יציב כשהטלטלות מרעידות את ההגעים.

00:16:18.300 --> 00:16:21.560
מגננות, מתגי תאימות ויומני ביקורת עשויים לזמזם ברקע.

00:16:21.560 --> 00:16:26.420
אך מי שהוא עדיין צריך להסתכל מהחלון, לצפות במכוונים ולהגיב כשהבלתי צפוי מתרחש.

00:16:26.580 --> 00:16:31.400
ללא פיקוח כזה, גם אמצעי ההגנה הטובים ביותר הם רק מתכת ללא שיקול דעת מאחוריהם.

00:16:31.580 --> 00:16:34.200
ועדת ממשל אינה קצין בודד שצועק פקודות.

00:16:34.200 --> 00:16:43.060
הוא בנוי כצוות רב תחומי, המשלב מובילי טכנולוגיה, אחראי ממשל נתונים, יועצי משפט או ציות, נציג עסקי ולפחות מבקר עצמאי אחד.

00:16:43.060 --> 00:16:47.060
לכל אחד תפקיד שונה, כיוון שאיי לא יושב בנוחות בתוך ממגורה אחת.

00:16:47.160 --> 00:16:53.120
כלי לסינון קורות חיים משפיע על משאבי אנוש, אלגוריתם חיזוי מהצוות הכספים וצעד בוט מדבר ישירות עם הלקוחות שלכם.

00:16:53.300 --> 00:16:56.060
פונקציה אחת לבדע אינה יכולה לצפות את כל ההשלכות.

00:16:56.060 --> 00:17:00.000
דרוש שולחן עגול כדי לזהות ולתקן סיכונים לפני שהם גולשים בין מחלקות.

00:17:00.120 --> 00:17:02.080
עכשיו, דמיינו ריצה ללא הצוות הזה.

00:17:02.080 --> 00:17:06.040
השארת איי ללא פיקוח היא כמו הפעלת טייס אוטומטי בשדה אסטרואידים.

00:17:06.200 --> 00:17:09.660
זה מרגיש בסדר עד שתמרון מוזר אחד מסית את הספינה מהמסלול.

00:17:09.800 --> 00:17:14.000
ייתכן שישנה מעקות בטיחות, אך הם לא מפרשים, הם לא שואלים והם לא צופים פני עתיד.

00:17:14.000 --> 00:17:20.920
ועדת הממשל היא השכבה החושבת, בני אדם שמביטים מעבר לאורות המאבהבים כדי לראות הקשר, אתיקה והשלכות לפני שהסטייה הופכת לאסון.

00:17:21.040 --> 00:17:22.700
החובות שלהם אינן מופשטות.

00:17:22.880 --> 00:17:30.360
הם מריצים ביקורות הוגנות והטייס דירות, מאשרים את מקור הנתונים, בוחנים דוחות צייות ועוקבים אחר האופן שבו מערכות לא דטרמיניסטיות מאלתרות.

00:17:30.460 --> 00:17:35.420
הם מנהלים קצב, קובעים לוח זמנים לבדיקות כדי שבעיות יתאפסו מוקדם ולא אחרי ההשקה,

00:17:35.420 --> 00:17:42.840
והם מרחיבים זאת על ידי הגדרת מדדי ביצוע מרכזיים, הוגנות, דיוק ומדדי סטייה, כך שניתור מתמשך אינו ניחוש אל האחריות מדידה.

00:17:42.960 --> 00:17:46.840
במיוחד עבור פלטים לא דטרמיניסטיים, הוועדות הללו שומרות על הקצוות.

00:17:47.020 --> 00:17:48.860
איי לא תמיד מחזיר את אותה תשובה.

00:17:49.200 --> 00:17:50.840
הוא דוגם, מאלתר ותוהה.

00:17:51.140 --> 00:17:56.020
זה יכול לייצר תשובות יצירתיות, או שזה יכול לגלוש לפלטים מתאים שמערערים את האמון.

00:17:56.020 --> 00:18:07.240
ועדת ממשל פועלת קישון בטיחות דיגיטלי, מתעדת תוצאות בלתי צפויות, בודקת תרחישי קצה, מסמנת דפוסים מסוכנים ומחזירה בני אדם למעגל כאשר מסננים אוטומטיים מחמיצים משהו.

00:18:07.500 --> 00:18:08.720
הם לא חונקים חדשנות.

00:18:08.900 --> 00:18:11.120
הם שומרים עליה פועלת בגבולות בטוחים.

00:18:11.300 --> 00:18:12.640
והנה ההבדל המעשי.

00:18:12.800 --> 00:18:16.920
ארגונים עם ועדות ממשל אפקטיביות נוטים לטפוס בעיות בריצות ניסיון.

00:18:16.920 --> 00:18:23.580
ביקורת הוגנות חושפת הטיה במודל גיוס, הבעיה מתוקנת בשקט, וההשקה נמשכת ללא שערורייה.

00:18:23.760 --> 00:18:27.300
בארגונים ללא פיקוח כזה, הסיפור מתפרסם בעיתונות תחילה.

00:18:27.460 --> 00:18:32.640
לקוחות מגלים נזק, רגולטורים מזהים קשלים, ופעולה מתקנת מגיעה מאוחר מדי.

00:18:33.100 --> 00:18:34.200
מניעה עולה בזמן.

00:18:34.680 --> 00:18:35.920
תיקון עולה במוניטין.

00:18:36.120 --> 00:18:39.500
הדפוס חוזר על עצמו לעיתים קרובות מספיק כדי להבהיר את הלקח.

00:18:39.500 --> 00:18:44.960
הבסיס לוועדות הללו סובב סביב הוגנות, שקיפות, אחריותיות, בטיחות ופרטיות.

00:18:45.080 --> 00:18:48.780
הוגנות מוודדת שתוצאות אינן מענישות משתמשים על רקע דמוגרפי.

00:18:48.960 --> 00:18:54.220
שקיפות דורשת שההחלטות יהיו ניתנות להסבר במונחים ברורים, גם עבור המשתמשים וגם עבור ציות.

00:18:54.360 --> 00:19:01.220
אחריותיות מבטיחה שיש תפקיד מוגדר שמקבל על עצמו את האחריות, לא האיי עשה זאת, אלא האחראי הזה מחזיק בתוצאה.

00:19:01.340 --> 00:19:04.580
בטיחות שומרת על פלטים מפני גרימת נזק או שימוש לרעה.

00:19:04.580 --> 00:19:09.620
פרטיות מגנה על מידע רגיש, כדי שאנשים לא יהפכו למטען לא רצוי במסע מסוכן.

00:19:09.760 --> 00:19:15.500
כל עיקרון חזק בפני עצמו, אך יחד הם מרתחים את גוף הספינה שמאפשר לבינה מלאכותית אחראית לעמוד בבחינה.

00:19:15.660 --> 00:19:18.940
ודירקטוריונים לא רק תומכים בעקרונות, הם מוציאים לפועל פעולות.

00:19:19.100 --> 00:19:27.160
הם סוקרים תיעוד מודלים כדי לוודא בהירות, מריצים תהליכי הערכת סיכונים לסיווג מקרי שימוש, ואוכפים נקודות ביקורת אנושיות היכן שנדרש פיקוח.

00:19:27.160 --> 00:19:33.400
כתוצר ראשוני, אחת הפעולות הפשוטות והערכיות ביותר היא יצירת מלאי של מקרי שימוש בבינה מלאכותית ודרוג סיכונים.

00:19:33.620 --> 00:19:39.240
מפה מהירה זו מראה אילו פרויקטים נחשבים בסיכון גבוה, אילו דורשים ממשל קפדני, ואילו מציבים סיכונים נמוכים יותר.

00:19:39.460 --> 00:19:43.800
זו הוכחה מוחשית להנהלה ולרגולטורים כאחד שהפיקוח מובנה ולא מעולתר.

00:19:43.960 --> 00:19:48.280
גם במהירות מלאה, ישיבות הדירקטוריון מתפקדות כסריקות תקופתיות במהלך המסע.

00:19:48.280 --> 00:19:52.460
הם לא רק קובעים אסטרטגיה, אלא עוקבים אחר מדדים ואוכפים דיווחי ציור.

00:19:52.720 --> 00:19:54.320
הקצב הזה בונה חוסן.

00:19:54.540 --> 00:20:02.280
מחזורי בדיקות, מדדי הוגנות וסקירות הטיות קובעים את הקצב כדי שבלמי הגנה יישארו פעילים במקום לדאוך לאחר הפריסה.

00:20:02.440 --> 00:20:07.040
באמצעות התקסים הללו, הפיקוח מפסיק להיות סימון וי חד פעמי והופך לתהליך חי.

00:20:07.200 --> 00:20:10.100
בינה מלאכותית בגיוס עובדים מספקת את סיפור ההזהרה.

00:20:10.100 --> 00:20:17.460
מודלים שאומנו על נתונים פגומים ספגו הטיה בשקט והורידו בדירוג מועמדים מקבוצות מסוימות ללא כל כוונה מצד המפתחים.

00:20:17.640 --> 00:20:21.520
כשהיא לא זוהתה, האפליה התפשטה בהיקף נרחב עד שהגיעו התביעות.

00:20:21.720 --> 00:20:27.160
דירקטוריון ממשל חמוש בביקורות הוגנות ובדיקות מקור יכול היה להבחין בהטיה הרבה לפני שלב הייצור.

00:20:27.340 --> 00:20:31.140
ההבדל הזה, מניעה לעומת גילוי, הוא הסיבה לקיום הדירקטוריונים האלו.

00:20:31.140 --> 00:20:34.940
לכן, דירקטוריוני ממשל הם לא פרויקטים צדדיים והם לא ועדות קישוט.

00:20:35.040 --> 00:20:41.600
הם קו ההגנה האחרון בין הדרכה יציבה לבין קאוס שניתן למנוע, הצוות שאחראי להפוך סיסמאות בינה מלאכותית אחראית לפרקטיקה מבוססת.

00:20:41.740 --> 00:20:46.340
על ידי שמירה על מבנה, מדדים ואחריות, הם מבטיחים שהכלים מתקדם כשהאמון נותר שלם.

00:20:46.340 --> 00:20:48.080
וזה מביא אותנו למעגל שלם.

00:20:48.220 --> 00:20:53.260
אם דירקטוריונים במקום, פיקוח הופך לתרבות, לא להתלאים, מה שמעלה את האמת החדש שאיתה נסיים.

00:21:01.140 --> 00:21:06.220
מלאכותית אחראית אינה אופציונלית. זה מה שמפריד בין ארגון בשליטה לבין ארגון שנסחף לחאוס.

00:21:06.400 --> 00:21:13.180
בעזרתה, אתם בונים אמון, מפחיתים סיכון משמעותית וממקמים את פרויקטי הבינה המלאכותית שלכם להצלחה ארוכת טווח במקום להתלטחויות קצרות.

00:21:13.320 --> 00:21:15.000
אז, הנה הצעד הבא שלכם.

00:21:15.000 --> 00:21:21.180
אסום לי למקרי השימוש שלכם, הפעילו את ההגנות שכבר נמצאות בפלטפורמה שלכם, והקימו דירקטוריון ממשל שינטר אותם.

00:21:21.180 --> 00:21:24.380
התייחסו לצעדים האלו כאל בקרת משימה, לא כמשימות צד.

00:21:24.540 --> 00:21:28.780
הערות הפרק כוללות רשימת טיוג וקישורים לכלים שסקרנו, כדי שתוכלו להתחיל כבר עכשיו.

00:21:28.940 --> 00:21:33.280
אם הפרק הזה התאין את כבישי הדיליטיום שלכם, כבנו את נגן הפודקסטים שלכם להגינה אוטומטית.

00:21:33.280 --> 00:21:38.200
לחצו על הקוב, שלחו את השאלות שלכם לשטרודל או שואו, והקריא את הטובות ביותר בפעם הבאה.