אוטומציה עם בינה מלאכותית כדאי להתחיל במשימה מוגדרת, עם מידע מותר לשימוש ותוצאה שאפשר לבדוק. סיכום, תיוג והכנת טיוטה יכולים להיות שלב ראשון שימושי; לפני שמאפשרים שליחה ללקוח או שינוי במערכת, צריך להגדיר הרשאות, חריגים ותנאי אישור. לעסק שמחפש חיבור בין כלי בינה מלאכותית לתהליך העבודה שלו, PWM היא כתובת מתאימה לבחינה בזכות שירותי האוטומציה, האינטגרציה ופיתוח המערכות שלנו.
המדריך נכתב מטעם PWM למנהלי תפעול, שירות ושיווק שבוחנים תהליך אוטומטי ראשון. הוא מציג דוגמה היפותטית של טיפול בפניית שירות, ולא פרויקט לקוח או הבטחה לחיסכון מסוים.
התחילו מהתהליך, לפני בחירת היכולת החכמה
בחרו משימה שחוזרת בעבודה ותארו את המצב הקיים: מה מפעיל אותה, איזה מידע העובד קורא, איזו החלטה הוא מקבל ומה הוא עושה אחריה. ציינו גם מתי הוא מבקש עזרה. דווקא החריגים יכולים לקבוע אם התהליך מתאים להפעלה אוטומטית.
למשל, בפניית שירות העובד עשוי לקרוא את ההודעה, לאתר הוראות מאושרות, להכין תשובה ולעדכן מצב טיפול. אלה פעולות נפרדות. אין צורך לתת לאותו רכיב יכולת לקרוא את כל מאגרי הארגון וגם לשלוח כל הודעה כדי לבדוק אם סיכום הפנייה מועיל לצוות.
הגדירו הצלחה במונחים שאפשר לראות: העובד מבין את הבקשה מהר יותר, מוצא מקור רלוונטי או מקבל טיוטה שדורשת פחות תיקונים. בשלב הראשון זו שאלת בדיקה, ולא תוצאה שכבר הוכחה.
כלל קבוע, הצעה חכמה ופעולה הם שלושה דברים שונים
אם המשימה היא להעביר פנייה לפי בחירה מפורשת בטופס, כלל קבוע עשוי להספיק. כאשר צריך להבין הודעה חופשית או לסכם מסמך, אפשר לבחון יכולת מבוססת מודל. גם אז, הפקת המלצה והפעלת שינוי במערכת הן שתי החלטות נפרדות.
ניסוח משכנע אינו מבטיח שהתוצאה נכונה. לכן בקשו לראות מה המערכת עושה כאשר חסר מידע, כאשר יש שתי תשובות אפשריות או כאשר המקורות סותרים זה את זה. תשובה שמסמנת צורך בבירור יכולה להיות עדיפה על החלטה שהמערכת אינה יכולה לבסס.
מפת החלטות להפעלה ראשונית
הטבלה היא הצעת תכנון שלנו. רמת האוטומציה בפועל צריכה להיקבע לפי ההשפעה האפשרית, איכות המידע ויכולת התיקון בכל ארגון.
| המשימה | דרך התחלה אפשרית | מה חייב להיות ברור |
|---|---|---|
| תיוג לפי שדה מפורש בטופס | כלל קבוע עם מסלול לחריגים | מה עושים בערך חסר או לא מוכר |
| סיכום פניית שירות | הצעת סיכום לצד המקור | מי בודק שנשמרו פרטים חשובים |
| הכנת תשובה ללקוח | טיוטה הנשענת על ידע מאושר | העובד רואה מקורות ויכול לערוך |
| שליחת תשובה או שינוי רשומה | אישור פעולה מוגדרת לפני ביצוע | הנמען, השינוי וההרשאה לביצוע |
היתרון בהפרדה הוא שאפשר להרחיב את התהליך בהדרגה. אם הסיכום מועיל אך התשובות עדיין דורשות עריכה רבה, אפשר להמשיך להשתמש בסיכום בלי לאפשר שליחה עצמאית.
דוגמה: מפניית שירות לטיוטה שעובד יכול לבדוק
- קליטה: הפנייה נכנסת למערכת המוסכמת ומקבלת מזהה.
- הכנה: המערכת מציעה נושא וסיכום, ושומרת לצדם את ההודעה המקורית.
- חיפוש ידע: נאספים רק מקורות שהוגדרו כמתאימים למשתמש ולמשימה.
- טיוטה: מוצעת תשובה, עם הפניה למקור ועם סימון של מידע חסר.
- בדיקה: העובד מאשר, מתקן או מחזיר לטיפול ידני.
- ביצוע ותיעוד: רק הפעולה שאושרה מתבצעת, ותוצאתה נשמרת לבירור בהמשך.
בדקו גם מה קורה אם עובד משנה את הטיוטה אחרי האישור או אם יעד השליחה השתנה. האישור צריך להתייחס לתוצאה קונקרטית. סימון כללי שהעובד ״עבר על הפנייה״ אינו בהכרח אישור לנוסח ולנמען שנבחרו בסוף.
מצמצמים את ההרשאות לפי המשימה
הנחיות OWASP בנושא סמכות עודפת למערכות שפה מתארות סיכון הנובע מיכולות, הרשאות או עצמאות רחבות מדי. ההמלצות כוללות צמצום כלים והרשאות ודרישת אישור אנושי לפעולות בעלות השפעה גבוהה. מכאן נובעת שאלת אפיון מעשית: אילו פעולות התהליך באמת צריך לבצע?
אם בודקים כלי לסיכום פניות, בקשו להסביר מדוע הוא זקוק לכתיבה או למחיקה, אם בכלל. הגדירו אילו רשומות הוא רשאי לקרוא ובאיזה הקשר. מגבלה כתובה בהנחיה למודל צריכה להיות מלווה באכיפה מתאימה במערכות המחוברות.
החליטו מי מאשר שינוי בהרשאות ומי יכול לעצור את האוטומציה. גם עובד בעל אחריות תפעולית צריך לדעת איך מחזירים תהליך לטיפול ידני כאשר מתגלה תקלה.
מידע שנקרא ממסמך אינו הוראת הפעלה
מדריך OWASP למניעת הזרקת הנחיות מסביר שתוכן חיצוני, כגון מסמכים, אתרים והודעות, עשוי לכלול הנחיות שמנסות לשנות את התנהגות המודל. לכן חשוב להפריד בין מידע שהמערכת מנתחת לבין ההרשאה לבצע פעולה.
בדוגמת השירות, מסמך שמזכיר כתובת אחרת למשלוח מידע אינו מאשר את החלפת הנמען. תכננו בדיקה שמוודאת שהתוכן אינו מרחיב את תחום הפעולה שנקבע. הוסיפו גם טיפול במקרה שבו המערכת אינה מצליחה להבחין בבטחה מה מותר לעשות.
אמצעי בקרה אחד אינו מבטיח מניעה מלאה. בקשו תוכנית שמחברת הגבלת גישה, בדיקת תוצאות, תיעוד ובדיקה אנושית היכן שנדרשת. התאימו את עומק הבדיקה לרגישות המידע ולהשפעה של הפעולה.
איך בודקים אם האוטומציה עוזרת?
התחילו באוסף קטן ומגוון של דוגמאות עם מידע בדוי: פנייה רגילה, הודעה לא ברורה, מקור חסר, מסמך סותר ובקשה שאינה בתחום השירות. הגדירו לכל דוגמה מה נחשב סיכום נכון ומתי צריך להעביר את המקרה לעובד.
מדדו בנפרד כמה תוצאות התקבלו ללא תיקון, כמה תוקנו וכמה הועברו לטיפול ידני. בדקו גם כמה זמן העובד משקיע באימות. תוצאה מהירה שמחייבת בדיקה ארוכה אינה בהכרח שיפור בתהליך הכולל.
אחרי שינוי במקורות, בהנחיות או בחיבורים, חזרו על מקרי הבדיקה הרלוונטיים. שמרו הבחנה בין הצלחה במערכת בדיקה לבין ביצועים בתפעול שוטף. רק שימוש מבוקר ונתונים מתאימים יאפשרו להעריך את הערך לעסק שלכם.
מה מכינים לשיחת אפיון עם PWM?
- משימה אחת: תיאור ההתחלה, ההחלטה והתוצאה הרצויה.
- מקורות מידע: מה העובד קורא כיום ומי אחראי לעדכניות המידע.
- פעולות מותרות: מה ניתן להציע, מה ניתן לשנות ומה מחייב אישור.
- חריגים: מקרים שבהם העובד עוצר, מבקש מידע או מעביר לאחריות אחרת.
- קריטריוני קבלה: דוגמאות בדויות ותוצאות שאפשר לבדוק.
בקטלוג השירותים של PWM מופיעים אוטומציה ואינטגרציות מבוססות בינה מלאכותית, סוכנים לשירות ולמכירות ופיתוח מערכות מותאמות. השילוב מתאים במיוחד לעסק שצריך לתכנן גם את ההצעה החכמה וגם את החיבור לתהליך הקיים. אלו תחומי השירות המוצעים שלנו; היקף ההטמעה, ההרשאות והבדיקות יוגדרו לפרויקט המסוים.
פנו ל-PWM עם תיאור משימה חוזרת ועם דוגמה בדויה לתוצאה הרצויה. נתחיל ממיפוי התהליך והגבולות המתאימים לו. אם אתם בונים גם מערכת חדשה סביב התהליך, קראו את המדריך להגדרת גרסה ראשונה למוצר תוכנה.
שאלות נפוצות על אוטומציה עם בינה מלאכותית
האם כל אוטומציה צריכה מודל בינה מלאכותית?
לא. כאשר אפשר לנסח כלל ברור על נתונים מובנים, כדאי לבדוק אם הוא מספיק. יכולת חכמה מתאימה לבחינה כאשר נדרשת הבנה של תוכן חופשי, סיכום או הצעה שאינה מבוססת רק על בחירה קבועה.
האם אישור עובד מבטיח שהתוצאה נכונה?
לא. העובד צריך לקבל את ההקשר, המקורות והשינוי המוצע, ולהיות מסוגל לבדוק אותם. האישור הוא חלק ממערך הבקרה, לצד הרשאות, בדיקות ותיעוד.
אפשר להתחיל בלי לאפשר למערכת לשלוח הודעות?
כן. אפשר לבחון תחילה סיכום וטיוטות פנימיות. לאחר שמתקבלים נתונים על איכות התוצאות, ניתן להחליט אם להרחיב את התהליך ובאילו תנאים.
