אסטרטגיה / AI

איפה AI לא צריך להיות בתוך הארגון

למה אימוץ אחראי מתחיל דווקא בהחלטה איפה לא להשתמש בטכנולוגיה

Lior Romanowsky זמן קריאה: 14 דקות קריאה

איפה AI לא צריך להיות בתוך הארגון

TL;DR

השאלה הראשונה על AI בארגון היא לא איפה להתחיל, אלא איפה השימוש בו ייצור יותר נזק מתועלת. מודל רמזור פשוט מסווג כל שימוש לירוק (AI מבצע), צהוב (AI מסייע, אדם מחליט) ואדום (AI לא מחליט), וחמישה גבולות מגדירים את האזור האדום: פעולות שקשה להפוך, אחריות אנושית, מידע שהארגון לא שולט בו, שיפוט אנשים על בסיס נתונים חלקיים, ותחומים שאין בהם מומחיות שתבדוק את הפלט. אימוץ בוגר נמדד באיכות שיקול הדעת לפני ההטמעה, לא במספר המערכות.

לא כל בעיה צריכה פתרון מבוסס AI

בשנים האחרונות אני שומע כמעט את אותה בקשה, שוב ושוב, בניסוחים שונים:

אנחנו רוצים להכניס AI לארגון. איפה אפשר להתחיל?

זו שאלה לגיטימית. לפעמים היא אפילו מובילה לפרויקט מצוין. אבל היא בדרך כלל לא השאלה הראשונה שצריך לשאול.

השאלה הראשונה צריכה להיות:

איפה AI יכול לייצר ערך, ואיפה עצם השימוש בו ייצור יותר נזק מתועלת?

זה הבדל קטן בניסוח, אבל הבדל גדול בדרך החשיבה.

כי ברגע שטכנולוגיה חדשה נהיית מספיק טובה, כולם עוברים את אותו תהליך. בהתחלה מזלזלים בה. אחר כך מתלהבים ממנה. ובשלב השלישי מנסים להכניס אותה לכל מקום אפשרי.

AI נמצא עכשיו עמוק בתוך השלב השלישי.

כל תהליך צריך סוכן. כל מחלקה צריכה עוזר חכם. כל מוצר צריך שכבת AI. וכל מצגת הנהלה צריכה לפחות שקף אחד עם המילה ״טרנספורמציה״, אחרת כנראה לא התקדמנו.

אני מאמין גדול ב-AI. אני בונה סביבו מוצרים, תהליכים ופתרונות לארגונים. דווקא בגלל זה, אני לא חושב שהוא צריך להיות בכל מקום.

אימוץ בוגר של AI לא נמדד במספר המערכות שהטמענו. הוא נמדד באיכות שיקול הדעת שהפעלנו לפני ההטמעה.

״אפשר״ היא לא סיבה מספיק טובה

אפשר להשתמש ב-AI כדי לכתוב טקסטים.

אבל ״אפשר״ היא שאלה טכנולוגית.

״כדאי״ היא שאלה עסקית, אנושית, משפטית ולעיתים גם מוסרית.

אלה לא אותה שאלה.

בכל פרויקט AI שאני בוחן, אני מנסה להבין לא רק מה המערכת מסוגלת לעשות, אלא גם מה יקרה ביום שבו היא תטעה.

כי היא תטעה.

לא בכל פעם. אולי אפילו לעיתים רחוקות. אבל היא תטעה, בדיוק כפי שעובדים, מנהלים ומערכות אחרות טועים. השאלה היא האם הארגון בנוי להתמודד עם הטעות הזאת.

מודל הרמזור: לפני שמתחילים, מסווגים

לפני שמכניסים AI לתהליך, אפשר לסווג את השימוש לאחד משלושה אזורים.

ירוק — AI יכול לבצע

למשל: סיכום מסמכים, ניסוח טיוטות, סיווג פניות, חיפוש במאגר ידע, יצירת גרסאות ראשוניות, חילוץ משימות מפגישה.

במקרים האלה, אפשר לתת ל-AI לעבוד ולהשאיר לאדם תפקיד של בקרה מדגמית או תיקון בעת הצורך.

צהוב — AI מסייע, אדם מחליט

קיימת השפעה עסקית או אנושית משמעותית יותר.

למשל: הערכת מועמדים, תמחור, בדיקות איכות, ניתוח ביצועי עובדים, מסרים ללקוחות רגישים, המלצות פיננסיות, זיהוי סיכונים.

כאן AI יכול לארגן מידע, להצביע על דפוסים ולהמליץ. הוא לא צריך לקבל את ההחלטה לבדו.

אדום — AI לא מקבל את ההחלטה

למשל: פיטורים אוטומטיים, החלטה רפואית ללא אישור מקצועי, חסימת שירות חיוני, קביעה משפטית, אישור או דחיית אשראי ללא מנגנון ערעור, פעולה כספית מהותית ללא אישור.

ברגע שתהליך מסווג אדום, השאלה כבר אינה איך לשפר את המודל אלא איזה חלק מהתהליך בכלל מגיע אליו.

המודל הזה פשוט בכוונה.

ארגונים לא תמיד צריכים עוד מסגרת מורכבת. לפעמים הם פשוט צריכים לעצור ולומר בקול: זה שימוש ירוק, זה צהוב, וזה אזור שבו אנחנו לא נותנים למערכת להחליט.

גבול ראשון: החלטות שקשה להחזיר לאחור

טיוטת מייל אפשר למחוק. סיכום לא מדויק אפשר לתקן.

גם המלצה עסקית אפשר לבחון מחדש לפני שמישהו פועל לפיה.

אבל יש החלטות אחרות.

במקומות האלה, החיסכון בזמן הוא רק חלק קטן מהמשוואה.

מהו הנזק המקסימלי שהמערכת יכולה לגרום לפני שמישהו ישים לב?

ככל שהפעולה משמעותית יותר וקשה יותר להפוך אותה, כך תפקידו של AI צריך להצטמצם. הוא יכול להכין, לרכז מידע, לסמן חריגות, להעלות שאלות ולהציע אפשרויות. אבל אדם צריך לקבל את ההחלטה.

ולא סתם ״אדם בלולאה״, כי הביטוי הזה הפך לפתרון קסם במסמכי אפיון. צריך אדם שמבין את הנושא, מחזיק בסמכות, יודע להטיל ספק ומוכן לשאת באחריות.

אישור אוטומטי של המלצה אוטומטית אינו בקרה אנושית. זו רק אוטומציה עם עוד קליק.

גבול שני: אחריות אנושית

יש תהליכים שמנהלים רוצים להפוך לאוטומטיים משום שהם חוזרים על עצמם. ויש תהליכים שהם רוצים להפוך לאוטומטיים משום שהם לא נעימים.

אלה שני דברים שונים.

AI יכול לעזור מאוד בהכנה לשיחות כאלה. הוא יכול לארגן את העובדות, לשפר ניסוח, לזהות משפטים תוקפניים ולעזור למנהל להגיע מוכן יותר. אבל הוא לא צריך להחליף את הנוכחות האנושית עצמה.

כאשר אדם מקבל הודעה משמעותית על העבודה, הכסף, הבריאות או העתיד שלו, הוא לא צריך רק מידע. הוא צריך אפשרות לשאול, להגיב, להבין הקשר, ולהרגיש שיש מולו מישהו שלוקח אחריות.

יש רגעים שבהם האדם אינו צוואר בקבוק. הוא חלק מהמוצר. הוא חלק מהשירות. הוא חלק מההחלטה.

יש גם רגעים שבהם ״יעילות״ היא פשוט שם מכובס להימנעות.

מנהל שלא מוכן לנהל שיחה קשה לא צריך בוט טוב יותר. הוא צריך להפוך למנהל טוב יותר.

גבול שלישי: מערכת שהארגון אינו שולט בה

אחת הבקשות הנפוצות ביותר היא לחבר את ה-AI ״לכל המידע בארגון״: למיילים, למסמכים, לשיחות, ל-CRM, למערכות HR, למידע פיננסי ולהתכתבויות פנימיות.

מבחינה טכנולוגית, הרבה מזה אפשרי. מבחינה ניהולית, זו עלולה להיות טעות גדולה.

לפני שמחברים מידע ל-AI, צריך לדעת:

אם הארגון לא יודע לענות על השאלות האלה, אין לו עדיין בעיית AI. יש לו בעיית ממשל מידע.

AI לא מסדר מידע מבולגן מעצם נוכחותו. לפעמים הוא רק הופך אותו לנגיש יותר, מהיר יותר ומסוכן יותר.

אותו דבר נכון לגבי תהליכים.

ארגון מקבל תלונות על שירות, אז הוא מוסיף צ׳אטבוט — אבל אין מדיניות שירות ברורה. מחלקת מכירות לא עומדת ביעדים, אז מחברים מערכת לחיזוי לידים — אבל לא הוגדר קהל יעד חד. הנהלה מתקשה לקבל החלטות, אז מוסיפים Dashboard חכם — אבל אף אחד לא יודע מי אחראי על איזה מספר.

תהליך שבור עם AI הוא עדיין תהליך שבור. הוא פשוט פועל מהר יותר.

לפני שמכניסים AI לתהליך, צריך לבדוק:

לפעמים העבודה המקצועית ביותר בפרויקט AI היא לעצור לפני שבונים. לא משום שהטכנולוגיה לא מסוגלת, אלא משום שהארגון עדיין לא מוכן להשתמש בה נכון.

גבול רביעי: שיפוט מציאות שהמערכת לא באמת רואה

אחד השימושים המפתים ביותר הוא שימוש ב-AI כדי למדוד אנשים.

על הנייר, זה נראה כמו מעבר מניהול לפי תחושת בטן לניהול מבוסס נתונים. אבל נתוני עובדים כמעט תמיד חלקיים.

מספר מיילים אינו מודד תרומה. זמן מחובר אינו מודד השפעה. מספר משימות אינו מודד איכות. השתתפות בפגישות אינה מודדת מנהיגות. וכמות הודעות ב-Slack, למרבה המזל, עדיין אינה מדד לאינטליגנציה.

כאשר מערכת מקבלת נתונים חלקיים, היא אינה בהכרח יודעת שהם חלקיים. היא מייצרת מהם מסקנה מלאה, בניסוח בטוח ומשכנע. וזה בדיוק מה שהופך את התוצאה למסוכנת.

נתון חלש שהוצג בטבלה נראה כמו נתון חלש. נתון חלש שעבר דרך מודל וקיבל המלצה מנוסחת היטב עלול להיראות כמו אמת.

AI יכול לעזור לזהות שינוי, להצביע על חריגה ולהציע שאלה שמנהל צריך לבדוק. הוא לא צריך לקבוע מי עובד טוב, מי נאמן לארגון או מי ראוי לקידום על בסיס תמונה חלקית.

אל תיתן למערכת לשפוט אדם על בסיס מידע שלא היית מוכן לשפוט אותו לפיו בעצמך.

גבול חמישי: מקום שאין מי שיבדוק בו את המערכת

אחת האשליות המסוכנות היא ש-AI יכול להחליף מומחיות שחסרה בארגון.

הוא בהחלט יכול להרחיב יכולת קיימת. הוא יכול לעזור לרופא לסכם מידע, לעורך דין לאתר סעיפים, לאיש כספים לזהות חריגות ולמנהל מוצר לבחון אפשרויות. אבל הוא לא הופך ארגון ללא מומחיות לארגון מומחה.

אם אף אחד בארגון אינו מבין רגולציה, אי אפשר לתת ל-AI לנהל רגולציה. אם אף אחד אינו מבין אבטחת מידע, אי אפשר להניח שמערכת תזהה בעצמה מה מסוכן. אם אף אחד אינו יודע להעריך המלצה רפואית, משפטית או פיננסית, אין מי שיזהה מתי ההמלצה שגויה.

AI יכול להפיק תשובה שגויה שנשמעת מקצועית מאוד. לעיתים זה מסוכן יותר מתשובה חלשה, כי הביטחון הלשוני גורם לאנשים להפסיק לבדוק.

אל תשתמש ב-AI כדי לבצע עבודה שאף אחד בארגון אינו מסוגל להעריך.

לא חייבים לדעת לבצע כל פעולה ידנית. אבל חייב להיות מישהו שיודע לזהות מהי תוצאה טובה, מהי תוצאה מסוכנת ומתי צריך לעצור.

בלי היכולת הזאת, אין פיקוח. יש אמונה.

ואמונה היא מודל ניהול די גרוע למערכות אוטונומיות.

איך נראה שימוש אחראי בפועל?

נניח שארגון רוצה להשתמש ב-AI כדי לשפר תהליך גיוס.

השימוש הלא אחראי הוא לתת למערכת לעבור על קורות חיים, לדרג מועמדים ולפסול את מי שלא עבר ציון מסוים.

השימוש האחראי יותר יכול להיראות כך:

אותה טכנולוגיה. רמת אחריות שונה לחלוטין.

זו הנקודה שרבים מפספסים. השאלה אינה רק האם משתמשים ב-AI. השאלה היא איזה תפקיד נותנים לו בתוך המערכת: יועץ, עוזר, בודק, ממליץ או מבצע.

לא כל תפקיד מתאים לכל תהליך.

אוטונומיה צריכה להיבנות, לא להינתן

סוכני AI מסוגלים לבצע יותר פעולות באופן עצמאי. הם יכולים לקרוא מידע, לקבל החלטות ביניים, לעדכן מערכות, לשלוח הודעות ולהפעיל תהליכים.

זו יכולת חזקה. אבל יש הבדל בין אוטומציה לבין אוטונומיה.

אוטומציה פועלת בתוך כללים מוגדרים. אוטונומיה מקבלת החלטות בדרך.

ככל שמערכת אוטונומית יותר, היא צריכה יותר גבולות, לא פחות.

צריך להגדיר:

במקום לעבור מיד לאוטונומיה מלאה, הדרך הנכונה היא לעלות בשלבים. בהתחלה AI מציע. אחר כך אדם מאשר. לאחר מכן AI מבצע פעולה מוגבלת. בהמשך אפשר לעבור לבקרה מדגמית. ורק לאחר שהמערכת הוכיחה יציבות, אפשר להרחיב את תחום הפעולה.

אמון אינו פיצ׳ר שמפעילים במסך ההגדרות. הוא תוצאה של ביצועים עקביים תחת פיקוח.

שירות לקוחות: לא להפוך את ה-AI לחומה

שירות לקוחות הוא מקום טבעי לאוטומציה. לקוחות רוצים תשובות מהירות, צוותי שירות עמוסים והרבה מהפניות חוזרות על עצמן.

AI יכול לפתור חלק גדול מהן. הוא יכול לזהות כוונה, לשלוף מידע, להסביר תהליך ולהפנות את הלקוח לצעד הבא. אבל הוא לא צריך להיות הערוץ היחיד.

לקוח חייב להיות מסוגל להגיע לאדם כאשר:

ארגון לא צריך למדוד רק כמה פניות נסגרו ללא נציג. הוא צריך למדוד גם כמה תסכול המערכת חסכה וכמה תסכול היא יצרה.

אחוז אוטומציה גבוה נראה טוב בדוח. לקוח שמבלה עשרים דקות בוויכוח עם בוט פחות מתרשם מהדוח.

שמונה שאלות שכל הנהלה צריכה לשאול

לפני שמאשרים שימוש חדש ב-AI, כדאי לענות על שמונה שאלות:

אם אין תשובה לשאלה השביעית, אין בעלות.

אם אין תשובה לשאלה השמינית, אין בקרה.

ואם אי אפשר להגדיר את הערך העסקי, יכול להיות שאין כאן פרויקט. יש כאן התלהבות.

איך אומרים ״לא״ ל-AI בלי לעצור חדשנות?

זו אחת הבעיות הפוליטיות סביב AI. אף מנהל לא רוצה להיות זה שאומר ״לא״ בזמן שכולם מדברים על העתיד.

לכן כדאי לדייק את השפה.

במקום לומר ״אנחנו לא מוכנים ל-AI״, אפשר לומר: ״אנחנו לא מאשרים אוטונומיה בתהליך הזה עד שתהיה יכולת בקרה״.

במקום לומר ״זה מסוכן מדי״, אפשר לומר: ״מחיר הטעות כאן גבוה מהערך שנחסוך כרגע״.

במקום לומר ״נשאיר את זה ידני״, אפשר לומר: ״נשתמש ב-AI להכנה ולהמלצה, אבל נשאיר את ההחלטה אצל בעל התפקיד״.

זה לא עיכוב חדשנות. זו ארכיטקטורה של אחריות.

הסימן לארגון מתקדם

ארגון לא נעשה מתקדם מפני שהכניס AI לכל מחלקה.

הוא נעשה מתקדם כשהוא יודע להבחין בין:

העתיד לא יהיה שייך לארגונים שמשתמשים בהכי הרבה AI. הוא יהיה שייך לארגונים שמשתמשים בו במקום הנכון, במינון הנכון, עם גבולות ברורים ועם אנשים שממשיכים לקחת אחריות גם אחרי שהמערכת נכנסה לחדר.

שאלות נפוצות

איך מחליטים איפה להכניס AI לארגון? מסווגים כל שימוש לאחד משלושה אזורים. ירוק: מחיר טעות נמוך, פעולה הפיכה, קל לבדוק את התוצאה. צהוב: השפעה עסקית או אנושית משמעותית — AI ממליץ, אדם מחליט. אדום: מחיר טעות גבוה, פעולה בלתי הפיכה או השפעה על זכויות — AI לא מקבל את ההחלטה.

מתי AI לא צריך לקבל החלטה? כשקשה או בלתי אפשרי להפוך את הפעולה, כשההחלטה משפיעה על זכויות, בריאות, כסף או קריירה, כשאי אפשר להסביר כיצד היא התקבלה, או כשאין איש מקצוע שמסוגל באמת לפקח על המערכת. השאלה המכריעה: מהו הנזק המקסימלי שהמערכת יכולה לגרום לפני שמישהו ישים לב.

האם אפשר לחבר AI לכל המידע בארגון? טכנולוגית כן, ניהולית לרוב לא. לפני חיבור צריך לדעת למי המידע שייך, מי רשאי לצפות בו, אילו הסכמות ניתנו ומה קורה אם הוא דולף. אם אין תשובות, זו לא בעיית AI אלא בעיית ממשל מידע. AI רק הופך מידע מבולגן לנגיש יותר, מהיר יותר ומסוכן יותר.

האם כדאי להשתמש ב-AI כדי למדוד עובדים? בזהירות רבה. נתוני עובדים כמעט תמיד חלקיים — מספר מיילים אינו תרומה, זמן מחובר אינו השפעה. מערכת שמקבלת נתונים חלקיים מייצרת מהם מסקנה מלאה בניסוח בטוח, וזה מה שהופך אותה למסוכנת. הכלל: אל תיתן למערכת לשפוט אדם על בסיס מידע שלא היית שופט אותו לפיו בעצמך.

איך אומרים לא לפרויקט AI בלי לעצור חדשנות? מדייקים את השפה. במקום ׳אנחנו לא מוכנים ל-AI׳ אומרים ׳לא מאשרים אוטונומיה בתהליך הזה עד שתהיה יכולת בקרה׳. במקום ׳זה מסוכן מדי׳ אומרים ׳מחיר הטעות כאן גבוה מהערך שנחסוך׳. זו לא עצירת חדשנות, זו ארכיטקטורה של אחריות.

סיכום

השאלה החשובה ביותר לגבי AI בארגון אינה מה הוא יכול לעשות. אנחנו כבר יודעים שהוא יכול לעשות הרבה.

השאלה היא אילו החלטות אנחנו מוכנים להעביר אליו, אילו פעולות אנחנו מאפשרים לו לבצע, ואיפה אנחנו מציבים קו ברור.

AI לא צריך להיות במקום שבו:

החלטה לא להשתמש ב-AI אינה בהכרח פחד מטכנולוגיה. לפעמים היא הסימן הברור ביותר לכך שההנהלה באמת מבינה אותה.

חדשנות אמיתית אינה הכנסת הכלי החדש ביותר לכל מקום אפשרי. היא לדעת היכן הוא יוצר ערך, היכן הוא יוצר סיכון, ומתי האחריות הניהולית מחייבת אותנו להשאיר אותו מחוץ לחדר.