כלי הרמזור: איפה AI לא צריך להיות

תארו שימוש אחד ב-AI שאתם שוקלים, וענו על השאלות. הסיווג מבוסס רק על הקריטריונים שבמאמר ״איפה AI לא צריך להיות״: כל קריטריון אדום הופך את השימוש לאדום, וירוק מתקבל רק כשכל תנאי הירוק מתקיימים. התשובות לא נשמרות בשום מקום — הן נשארות בדפדפן ובקישור שאתם בוחרים לשתף.

השאלות

1. האם מחיר הטעות גבוה?
2. האם קשה או בלתי אפשרי להפוך את הפעולה?
3. האם ההחלטה משפיעה על זכויות, בריאות, כסף או קריירה?
4. האם אין יכולת להסביר כיצד התקבלה ההחלטה?
5. האם אין איש מקצוע שמסוגל באמת לפקח על המערכת?
6. האם קיימת השפעה עסקית או אנושית משמעותית?
7. האם המידע רגיש?
8. האם קל יחסית לבדוק את התוצאה?
9. האם קיימת הגדרה ברורה למה נחשב פלט טוב?

הסיווגים

• ירוק — AI יכול לבצע — במקרים האלה, אפשר לתת ל-AI לעבוד ולהשאיר לאדם תפקיד של בקרה מדגמית או תיקון בעת הצורך.
• צהוב — AI מסייע, אדם מחליט — כאן AI יכול לארגן מידע, להצביע על דפוסים ולהמליץ. הוא לא צריך לקבל את ההחלטה לבדו.
• אדום — AI לא מקבל את ההחלטה — ברגע שתהליך מסווג אדום, השאלה כבר אינה איך לשפר את המודל אלא איזה חלק מהתהליך בכלל מגיע אליו.

שמונה שאלות לדירקטוריון

1. איזו החלטה או פעולה המערכת מבצעת?
2. מהו הערך העסקי שאנחנו מצפים לקבל?
3. מי עלול להיפגע אם היא טועה?
4. האם ניתן להפוך את הפעולה?
5. האם אפשר להסביר כיצד התקבלה התוצאה?
6. מי מסוגל לבדוק את איכות הפלט?
7. מי הבעלים העסקי של המערכת?
8. באיזה מצב עוצרים או מכבים אותה?

מודל הרמזור ל-AI