חמשת הרכיבים של שיחה
סוכן קולי מבוסס AI הוא לא תוכנה אחת, הוא שרשרת. כשהמתקשר מדבר, הקול שלו עובר חמישה שלבים לפני שהוא חוזר בצורת תשובה, והלולאה חוזרת על עצמה בכל תור דיבור.
- הטלפוניה. השיחה מגיעה למספר שמנוהל על ידי מפעיל, שמעביר אותה לסוכן כזרם אודיו. זה הרכיב הוותיק ביותר והמפוקח ביותר: מספר טלפון, מפעיל רשום, ניוד מספרים, העברת שיחה לנייד שלכם, SMS.
- זיהוי הדיבור, או תמלול. זרם האודיו מומר לטקסט, ברציפות, מילה אחר מילה, עם זיהוי של סוף המשפט כדי לדעת מתי המתקשר סיים. רעש של אתר בנייה, מבטא, שם פרטי נדיר או מספר טלפון שמוכתב ספרה אחר ספרה: אלה הקשיים שלו.
- מודל השפה. זה המוח. הוא מקבל את הטקסט של המתקשר, את ההקשר של השיחה ואת כרטיס העסק שלכם, ומחליט על ההמשך: שאלה, תשובה, פעולה. הוא לא ״יודע״ שום דבר על העסק שלכם מעצמו; הוא יודע את מה שהכרטיס אומר לו.
- הפעולות. כשהמודל מחליט לקבוע פגישה, הוא לא עושה זאת בעצמו: הוא קורא לכלי, שבודק ביומן שלכם, מוודא את המשבצת, רושם אותה ושולח את ה-SMS. הכלים האלה הם החלק המכריע ביותר מבחינתכם: שם הסוכן פועל בעולם האמיתי, ושם טעות עולה ביוקר.
- סינתזת הדיבור. טקסט התשובה מומר לקול, ברציפות, כדי שהסוכן יתחיל לדבר לפני שסיים לנסח. איכות הקול חשובה, אבל פחות מהמהירות שבה הוא מגיב.
כל זה חוזר בכל חילופי דברים, והכול צריך להיכנס בפחות משנייה בין סוף המשפט של המתקשר לתחילת התשובה. זו הנקודה הקשה ביותר.
למה זמן התגובה הוא הנושא האמיתי
בשיחה בין בני אדם, השקט בין שני תורות דיבור קצר מאוד, ושקט ארוך מדי מקבל פרשנות: ״הוא לא שמע״, ״הוא מהסס״, ״השיחה נותקה״. סוכן קולי צריך לעמוד בקצב הזה עם שרשרת של חמישה שלבים שכל אחד מהם לוקח זמן. שלוש טכניקות מאפשרות זאת.
- עיבוד בזרימה. התמלול מתחיל בזמן שהמתקשר מדבר, הסינתזה מתחילה כבר מהמילים הראשונות של התשובה. שום דבר לא מחכה שהשלב הקודם יסתיים.
- מודלים מהירים לתשובות פשוטות. לאשר שעה לא דורש את אותה חשיבה כמו להבין בקשה להצעת מחיר בשלושה משפטים. סוכן טוב משתמש במודלים שונים לפי המשימה.
- קרבה בין הרכיבים. שרשרת שהשלבים שלה מתארחים באותו מרכז נתונים כמו הטלפוניה חוסכת הלוך ושוב. זה גם טיעון בעד אחסון בצרפת.
כשאתם בודקים סוכן, מדדו את השתיקות שלו. אם הן עוברות באופן קבוע שנייה אחת, המתקשרים ירגישו בזה, וינתקו.
קטיעות, רעש, מספרים
שלושה מצבים מבדילים בין סוכן שעובד בהדגמה לסוכן שעובד באתר עבודה אמיתי.
- קטיעה. המתקשר קוטע את הסוכן, כדי לתקן או כדי לזרז. הסוכן צריך להפסיק לדבר, להקשיב, ולהמשיך מהמקום שבו השיחה נמצאת, לא מהמקום שבו הוא היה. זה נקרא ניהול חפיפה, וזה אחד הדברים הקשים ביותר לעשות טוב.
- רעש. מנוע, מקדחה, מסעדה בשיא השירות. התמלול צריך לסנן, והסוכן צריך לדעת לומר ״לא שמעתי טוב, אפשר לחזור על זה?״ במקום לנחש.
- מספרים ושמות. מספר טלפון, כתובת, שם משפחה נדיר, מספר רישוי. הסוכן צריך לבקש לחזור עליהם, לאיית אותם, ולנסח אותם מחדש לפני שהוא רושם אותם. Sayelo מאשר תמיד את מספר החזרה ספרה אחר ספרה.
מנגנוני הבטיחות: מה מונע מהסוכן לומר שטויות
מודל שפה יודע לייצר משפט סביר על כל דבר. זה הכוח שלו, וזו הסכנה: בלי מגבלות, הוא היה ממציא מחיר, שעות פעילות, עצה רפואית. מנגנוני הבטיחות הם הכללים שמונעים זאת ממנו.
- כרטיס העסק כמקור היחיד. הסוכן עונה על סמך מה שכתבתם; על מה שלא מופיע שם, הוא אומר שהוא לא יודע ורושם הודעה.
- הפעולות המותרות. הוא עושה רק את מה שהכלים מאפשרים לו: לכתוב ביומן, לשלוח SMS, להעביר שיחה. הוא לא יכול לבטל את כל הפגישות שלכם או לשלוח מייל במקומכם אם אין לו את הכלי הזה.
- נושאים אסורים. ייעוץ רפואי, משפטי, חשבונאי; אישור לצד שלישי של מידע על לקוח; הבטחה למחיר או ללוח זמנים שלא נקבעו מראש.
- כללי הסלמה. מתי להעביר, מתי להתריע, מתי לעצור. סוכן שלא יודע להעביר את השרביט הוא סוכן שבסוף עונה לא טוב.
- ההודעה שזה AI. בתחילת השיחה, תמיד. זו חובה חוקית, וזה מנגנון בטיחות גם עבור המתקשר עצמו. המדריך על AI Act ו-GDPR מפרט את הנקודה הזו.
דרך איפה עוברים הנתונים שלכם
במהלך שיחה, הקול של המתקשר עובר דרך הטלפוניה, התמלול, מודל השפה והכלים. כל רכיב יכול להתארח אצל ספק אחר, במדינה אחרת. לכן השאלה ״איפה הנתונים מאוחסנים?״ דורשת תשובה בכמה חלקים, ולכן צריך לשאול אותה לגבי כל רכיב: הטלפוניה, התמלול, המודל, אחסון הסיכומים וההקלטות, אם יש. ב-Sayelo, הנתונים מאוחסנים בצרפת אצל ספק אחסון בעל הסמכת HDS, והסכם עיבוד הנתונים מתאר את הספקים שאנחנו נעזרים בהם.
מה כדאי לשאול ספק
ההדגמות דומות זו לזו. ההבדלים נמצאים בתשובות לשאלות האלה.
- מה זמן התגובה הממוצע בין סוף המשפט שלי לתחילת התשובה?
- איך הסוכן מתמודד עם קטיעה?
- מה הוא עושה כשהוא לא מבין, או כשהשאלה לא מופיעה בכרטיס?
- אילו פעולות הוא יכול באמת לבצע, ובאילו כלים, בלי מתווך?
- כמה שיחות במקביל הוא מקבל?
- איפה מתארח כל רכיב, והאם השיחות שלי משמשות לאימון מודל?
- האם הוא מציג את עצמו כ-AI? אפשר לבטל את זה? התשובה הנכונה היא לא.
- איך אפשר לחזור ולקרוא את מה שהוא אמר: תמלול, סיכום, הקלטה?
ובפועל, ב-Sayelo
ב-Sayelo, הסוכן הקולי, המספר, ההעברה וה-SMS מאוגדים במינוי אחד. המספרים ושירותי הטלפוניה מסופקים על ידי מפעיל שותף הרשום ב-ARCEP (הרגולטור הצרפתי לתקשורת). הסוכן מציג את עצמו כעוזר קולי, עונה על סמך כרטיס העסק שלכם, כותב ב-Google Calendar, ב-Microsoft 365 או ב-Cal.com, מאשר ב-SMS ושולח לכם את הסיכום של כל שיחה. אפשר לשמוע אותו תוך שלוש דקות, בהדגמה שמתקשרת אליכם, לפני שקוראים משהו אחר. המדריך המלא למזכירות טלפונית מבוססת AI מסביר אחר כך את ההטמעה, והשאלות הנפוצות על סוכנים קוליים עונות על השאלות שהכי הרבה שואלים אותנו.