מבינה עסקית לבינה מלאכותית: ה-GPT שבאמת עובד מול נתוני הארגון
Updated: Aug 21
אם רצית ללמוד על כיצד תראה פלטפורמת הAI בארגון שלך בעתיד הלא רחוק, זה הניוזלטר בשבילך.
קצת רקע
מהפכת ה-AI גרמה לכולנו לחשוב מחדש על האופן שבו הארגון עושה שימוש בדאטה שלו. היכולת של מודלי שפה לתרגם בקשה בשפה חופשית לשאילתה, להבין סכימות של מסדי נתונים ולנתח את מה שחוזר מהם, פותחת דלת לשימושים שעד לפני זמן לא רב היו דורשים אנליסט, פרויקט ותקציב.
למה צריך סוכן AI?
ניקח לדוגמה את המקרה הבא: משה, מנהל סחר ברשת קמעונאות גדולה, מסייר באופן תדיר בסניפים שעליהם הוא אחראי. כשמשה מגיע לסניף הוא מבקש לדעת ״האם הסניף מתנהל כהלכה?״. אבל סניף הוא מערכת אופרציה עצומה — מכירות של מאות פריטים, מצב מלאים משתנה, מבצעים, מצב כוח אדם, ועוד. להבין מדוע הסניף לא עומד ביעד מכירות מסוים רק מסיור בין המדפים זה דבר קשה מאוד.
לרשת הקמעונאית יש מערכות דאטה שאוספות נתונים על כל מה שקורה בסניף, ולו רק היה משה יכול לתחקר כמה מדדים בעצמו, הוא היה מבין מיד היכן הסניף לא עומד בציפיות ובאיזה איזור פעילות נמצאת הבעיה — מכירות, מלאים או כוח אדם. אבל מערכת ה-BI של הארגון מכסה רק חלק מתחומי הפעילות, היא מוגבלת להצגת מדדים ברמת הארגון ולא ברמת הפריט, הסניף או המחסן, וממילא ממשק המשתמש שלה בסמארטפון אינו נוח. משה נאנח, חושב על השיחה המצוינת שערך הבוקר עם ChatGPT לגבי הנסיעה המשפחתית הקרובה לחו"ל, ושואל את עצמו — "למה אין לי GPT של הארגון שיענה לי על כל שאלה שיש לי על מה שקורה בסניף?"
בכל ארגון העושה שימוש בנתונים יש היום תהליך חשיבה לגבי איך נראית פלטפורמת ה-AI העתידית שלו. החלום של סוכן שפעיל מאחורי הקלעים — מתזכר, נותן התראות ופנוי לשאלות — נהיה לדרישה מציאותית לנוכח ההתפתחויות הטכנולוגיות האחרונות. עם זאת, כל מי שהכניס Gemini או Copilot לארגון רואה שהכלים האלה מאפשרים קפיצה קטנה מאוד ביחס למה שהארגון באמת רוצה להשיג.
אז מה אנחנו עושים כאן
בניוזלטר הזה אנחנו נעשה סדר. לגבי נושא תחקור הנתונים בשפה חופשית - נבין מה בעצם צריך לקרות כדי המשתמש יקבל את התשובה שלו, ולמה זה לא קורה מעצמו ברגע שמחברים מודל שפה למסד נתונים. נסקור מה נדרש מהתשתית על מנת לאפשר לסוכן הAI לתקשר בשפה חופשית עם הנתונים, מה היתרונות והחסרונות בהתחברות ישירות למערכת הbi לעומת ישירות למערכת הERP, איך בודקים נכונות של סוכן AI לתחקור נתונים, האם ואיך מערכת כזאת משתפרת עם הזמן, והכי חשוב, נביא דוגמאות לכיצד מערכת תחקור נתונים בשפה חופשית משדרגת את יכולות הארגון.
מבחן אומץ
בשביל להתחיל להבין את האתגר בבניית סוכני AI לתחקור נתונים נשאל את השאלה הבאה - ״מי מכם מוכן לחבר את צ׳אט GPT, ג׳מיני או קלוד לאימייל שלהם על מנת שיענה על אימיילים במקומכם באופן אוטומטי ? ״.
כמעט לכולם ברור שהם לא היו מוכנים לעשות זאת. האם זה בגלל שהצ׳אט לא מספיק חכם ? הרשו לי לבשר לכם שזו לא הסיבה.
תחשבו על האדם הכי חכם שהכרתם מחוץ לארגון שלכם. האם הייתם מוכנים היום לקבל אותו לארגון כדי שיענה על אימיילים במקומכם באופן אוטומטי ?
הכשרה == קונטקסט
ובכן, התשובה לשאלה האחרונה היא בדרך כלל - ״לא בלי הכשרה מספקת״. זה די ברור שכדי שנסמוך על מישהו עם האימיילים שלנו, אז אנחנו צריכים ללמד אותו הרבה דברים, עלינו, על המקצוע, על הארגון, על הדרך שבה אנחנו עובדים, משוחחים, ועונים לאימיילים. לכל הדברים האלה יש שם בעגה המקצועית של מהנדסי ה-AI: קונטקסט (context). קונטקסט היא מילת הקסם למידע שאם יש אותו למודל שפה אז הוא יענה נכון ובהתאם לציפיותנו ואם לא, אז נגיד שהוא הוזה (hallucination).
קונטקסט זה הדבר שחסר לי כשאני הולך לעשות קניות של מצרכים בסופרמרקט, וחוזר עם קוטג׳ של תנובה ומקבל על הראש מאשתי כי ״הבן שלנו אוכל רק קוטג׳ של שטראוס״. ״ממתי רק קוטג׳ של שטראוס ? לא קיבלתי את התזכיר הזה בזמן. זה לא אשמתי, חסר לי קונטקסט״. למי שלא קונה קוטג׳, שיחשוב על הפעם האחרונה שניסה לקנות בגדים לאשתו או החליט על דעת עצמו על צבע לחדר השינה. לדעתי עוד קונטקסט היה פותר את רוב הבעיות בין כל בני זוג, אבל זה כבר דיון לפעם אחרת.
מה לגבי חקר נתונים ?
נחשוב על דוגמא יותר פשוטה שמדגימה את החשיבות של קונטקסט - אתמול שכרתם חוקר נתונים צעיר. הוא מכיר מסדי נתונים, ויודע להבין איך הם מסודרים ואיך שולפים מהם דברים. הוא אפילו יודע דבר או שניים על התחום שבו אתם פועלים. אבל בפעמים הראשונות שתבקשו ממנו שינתח שאלות עסקיות עבורכם, הוא יצטרך מכם המון מידע כדי לתת את התשובה שאתם מבקשים:
איזה עמודות קיימות באיזה טבלאות, ומה המשמעות שלהן.
איך אתם מחשבים מדדים עסקיים שונים בארגון.
איזה לוגיקות עסקיות מוחבאות בעמודות וצריך להשתמש בהן כדי להגיע לחישוב הנכון.
״סלנג״ עסקי שאתם משתמשים בו בארגון (״צמיחה במכר״ זה באחוזים ? בנטו ? בברוטו? מה זה אומר "לקוח פעיל"? )
עד שחוקר הנתונים לא ידע את כל התשובות לשאלות אלו, קרוב לודאי שהוא יעשה טעויות.
בקיצור - הכשרה וקונטקסט.
מה אפשר ללמוד מהדוגמה הזאת?
אם צריך להכשיר לחוקר נתונים עם אינטליגנציה אנושית, על אחת כמה וכמה צריך להכשיר חוקר עם אינטליגנציה מלאכותית.
ותאמינו או לא, הדרישות שעומדות בפני סוכן AI לחקר נתונים גבוהות פי כמה מאשר חוקר אנושי !!!
כן, כן. אנחנו רוב משתמשי דאטה פחות סובלניים לטעויות של מכונה מאשר טעויות אנוש. אם האפליקציה לניתוח נתונים שלי טועה בתשובתה, פעם אחת, מבחינתי כמשתמש המערכת תקולה ובלתי שמישה.
נניח המנכ״ל נמצא בפגישה חשובה עם לקוח או משקיע, צריך נתון כלשהו בדחיפות, שואל את הAI ומקבל תשובה שגויה, סוכן הAI יאבד את אמינותו בצורה דרמטית. אולם לא רק הלקוח, גם מנהל לוגיסטיקה יגיב בצורה דומה. רובינו נעדיף לסמוך על עצמינו מאשר לקבל החלטות מדאטה שיכול להיות שגוי.
לסוכן AI לתחקור נתונים, אסור לטעות !
והפתרון הוא... ניחשתם נכון... קונטקסט...
אה כן, ו-ואלידציה...
אז מה יהיה בניוזלטר הזה ?
בניוזלטר אכתוב על כל נושא פלטפורמות הAI מול דאטה ארגוני בהרבה זויות שונות:
אמינות וממשל — איך מוודאים שהמספר שחוזר הוא בדיוק המספר שה-BI היה נותן, ואיך המערכת יודעת להגיד שהיא לא יודעת.
ואלידציה - איך מוודאים שמה שעשינו עובד, נכון וללא טעויות.
הרשאות, אבטחה ופרטיות. איך אוכפים מי רשאי לראות מה, מה יוצא מגבולות הארגון ומה בשום אופן לא, ואיך מוודאים שהשכבה החדשה לא הופכת לדלת אחורית לנתונים שממילא היו מוגנים היטב בכל מערכת אחרת.
חיבוריות ומערכות - נפרק את הפלטפורמה עצמה לשכבות, נראה איך מתחברים בפועל ל-ERP, ל-CRM ול-WMS, ומה עושים בארגון שאין לו מחסן נתונים מסודר ואין לו שנה לבנות אחד.
יצירת ערך עסקי - נעסוק גם על מה שקורה אחרי שהמערכת כבר עובדת, וזה בעיניי החלק שהכי מזלזלים בו: איך מטמיעים אותה, איך מזהים את התרחישים הבודדים שבהם היא מייצרת ערך אמיתי ולא רק מרשימה בהדגמה, ואיך מודדים את זה כשמגיע הזמן להצדיק את ההשקעה.
פלטפורמת סוכני AI - נביט אל המקום מקום שאליו כל זה הולך: לא מערכת שעונה רק כששואלים אותה, אלא כזו שמתריעה, מזכירה, ובסופו של דבר גם פועלת.
מקרי בוחן עסקיים - בכל גיליון נביא מקרה בוחן עסקי אחד — מצב אמיתי שבו הקפיצה לפלטפורמת AI מעל נתוני הארגון ייצרה ערך שאפשר להצביע עליו. לא הדגמה של יכולת טכנולוגית, אלא סיפור של ארגון שהיה בו פער בין מה שהמערכות שלו יודעות לבין מה שהמנהלים שלו מקבלים, ומה קרה כשהפער הזה נסגר.
שוב — במה זה שונה מ-BI?
ה-BI נבנה כדי להציג מדדים שהוגדרו מראש. על פניו, שכבת ה-AI נבנית כדי לענות על שאלה שלא בהכרח הוגדרה מראש ועשויה אף לדרוש ניתוחים שאחרת דורשים אנליסט. זה לא הבדל בממשק המשתמש אלא הבדל בארכיטקטורה: במקום דוח לכל שאלה, שכבה אחת שיודעת לאיזו מערכת לפנות, איך לחתוך את הנתונים, ומה המשמעות העסקית של מה שחזר. היא לא תמיד מחליפה את ה-BI, ולרוב היא יושבת מעליו ומשתמשת באותן הגדרות בדיוק.
אבל זה נעשה באמת מעניין כשמגיעים למצב שה-AI מכיר את שפת הארגון והמדדים והניתוחים שחשובים לו. זה הרגע שבו ניתן להוסיף יכולות פרו-אקטיביות, של דיווח מבעוד מועד, השגחה על מדדים שונים בארגון, ובשלב הבא — לתרגם לפעולות אקטיביות. אם יש משהו שמשה, מנהל הסחר שלנו, רוצה, זה שמנהל הסניף שלו יקבל מייל מסוכן ה-AI בנוסח:
"שים לב! לא הזמנתם מספיק מלאי כדי למלא את הביקוש של מוצר Y לקראת החגים. (ודרך אגב, יידעתי את מנכ״ל הרשת. הוא מצפה לתשובתך בעניין.)"
אם אתה מנהל מערכות מידע
הלחץ בנושא הזה לא יגיע מהמחלקה שלך אלא מהעסק. כשמנהלי השטח כבר מנהלים שיחות טובות עם מודל שפה בטלפון הפרטי שלהם, השאלה למה אין דבר כזה על נתוני הארגון תגיע אליך.
נ.ב. בפעם הבאה נדבר על ואלידציה. לפני שנכנסים לפרויקט כזה, חשוב לדעת איך מודאים שסוכן הAI עונה נכון.
