מודל הרמזור ל-AI
השאלה הראשונה על AI בארגון היא לא איפה להתחיל, אלא איפה השימוש בו ייצור יותר נזק מתועלת. מודל רמזור פשוט מסווג כל שימוש לירוק (AI מבצע), צהוב (AI מסייע, אדם מחליט) ואדום (AI לא מחליט), וחמישה גבולות מגדירים את האזור האדום: פעולות שקשה להפוך, אחריות אנושית, מידע שהארגון לא שולט בו, שיפוט אנשים על בסיס נתונים חלקיים, ותחומים שאין בהם מומחיות שתבדוק את הפלט.
שלושת האזורים
- ירוק — AI יכול לבצע
- מחיר הטעות נמוך
- הפעולה הפיכה
- המידע אינו רגיש במיוחד
- קל יחסית לבדוק את התוצאה
- קיימת הגדרה ברורה למה נחשב פלט טוב
- צהוב — AI מסייע, אדם מחליט — קיימת השפעה עסקית או אנושית משמעותית יותר. כאן AI יכול לארגן מידע, להצביע על דפוסים ולהמליץ. הוא לא צריך לקבל את ההחלטה לבדו.
- אדום — AI לא מקבל את ההחלטה
- מחיר הטעות גבוה
- קשה או בלתי אפשרי להפוך את הפעולה
- ההחלטה משפיעה על זכויות, בריאות, כסף או קריירה
- אין יכולת להסביר כיצד התקבלה ההחלטה
- אין איש מקצוע שמסוגל באמת לפקח על המערכת
חמשת הגבולות של האזור האדום
- החלטות שקשה להחזיר לאחור
- אחריות אנושית
- מערכת שהארגון אינו שולט בה
- שיפוט מציאות שהמערכת לא באמת רואה
- מקום שאין מי שיבדוק בו את המערכת
מהו הנזק המקסימלי שהמערכת יכולה לגרום לפני שמישהו ישים לב?