נתוני אימון
הטקסט שעליו המודל אומן.
מודל שפה גדול
LLM, Large language model
המנוע הסטטיסטי שמאחורי כל הכלים האלה: מודל שאומן על כמויות עצומות של טקסט לנחש את המילה הבאה. הוא אינו "יודע" עובדות אלא מייצר את ההמשך הסביר ביותר, וזה מסביר גם את הכוח וגם את הטעויות.
עודכן:
מכונה שמנחשת את המילה הבאה, ולא יותר מזה
מודל שפה גדול הוא תוכנה שאומנה על כמות עצומה של טקסט למשימה אחת בלבד: לנחש איזו יחידת טקסט צפויה להופיע אחרי מה שכבר נכתב. זה כל המנגנון. אין בפנים מאגר עובדות, אין טבלה של עסקים ומחירים, ואין שלב שבו משהו בודק אם המשפט שיצא נכון. מה שיש הוא מיליארדי משקולות מספריות שמקודדות אילו רצפים של מילים נפוצים ואילו לא, ומהן נגזר בכל פעם ההמשך הסביר ביותר.
הכוח והכשל באים מאותו מקום. המודל למד איך נשמע הסבר טוב על תיבות הילוכים, ולכן הוא מסביר על תיבות הילוכים ברהיטות. הוא גם למד איך נשמע תיאור של מוסך, ולכן כשאין לו מספיק חומר על המוסך שלכם הוא משלים תיאור טיפוסי. שני הדברים הם אותו חישוב בדיוק. ההבדל היחיד הוא כמה טקסט אמיתי עמד מאחורי הניחוש.
מה המודל יודע עליכם, ומאיפה זה הגיע
כשמנוע עונה על העסק שלכם בלי לחפש, התשובה היא הד סטטיסטי של כל מה שנכתב עליכם ברשת עד מועד האימון: האתר, מאגרים עסקיים, פורומים, ביקורות, כתבות. הוא לא שמר את העמוד שלכם. הוא ספג ממנו דפוסים, יחד עם מיליוני עמודים אחרים, ומה שנשאר הוא רושם כללי ולא עותק. עסק שכתבו עליו הרבה ובעקביות מקבל רושם חד. עסק שכתבו עליו מעט מקבל רושם מטושטש, והמודל ממלא את החסר ממה שמקובל בתחום.
זה מסביר תופעה שמבלבלת בעלי עסקים: המנוע מכיר את התחום לעומק ואת העסק בכלל לא. התחום מופיע בעשרות אלפי מסמכים. העסק, בכמה עשרות. עומק הידע הוא פונקציה של נפח הטקסט, לא של חשיבות ולא של איכות.
שני מסלולים לתשובה, ורק אחד מהם נוגע לאתר שלכם היום
למודל יש שתי דרכים לענות. מהזיכרון, כלומר מהמשקולות שנקבעו באימון, או מחומר שהוגש לו ברגע השאלה אחרי חיפוש חי. במסלול הראשון האתר שלכם כפי שהוא היום לא משתתף. שינוי שביצעתם אתמול לא קיים שם, ולא יהיה קיים עד האימון הבא, אם בכלל. במסלול השני האתר משתתף רק אם מערכת חיפוש מצאה אותו ובחרה בו, והפירוט על המסלול הזה נמצא בערכים על יצירה מבוססת אחזור ועל עיגון.
ההבחנה הזו קובעת כמעט כל החלטה. אין טעם לנסות ללמד את המודל. אין לכם גישה לאימון, והאימון הבא ייקח את מה שנמצא ברשת ולא את מה ששלחתם למישהו. מה שכן בידיים שלכם הוא מה שנמצא היום בחיפוש, וכמה מקורות עקביים מדברים עליכם. שתי הנקודות האלה הן הבסיס לעבודה על מה שהמנוע יודע עליכם.
המודל אינו המנוע
ChatGPT, ג'מיני, קופיילוט ופרפלקסיטי הם מוצרים. כל אחד מהם עוטף מודל שפה בשכבות: הנחיית מערכת שקובעת טון וגבולות, חיפוש, סינון, עיצוב של התשובה, ולפעמים זיכרון בין שיחות. אותו מודל בתוך שני מוצרים יענה אחרת. שני מודלים בתוך אותו מוצר יענו אחרת. כשמישהו אומר שה-AI אמר משהו, הוא מתאר את סוף השרשרת ולא את המודל.
לעסק זה אומר שלושה דברים. מודדים מוצר, לא מודל. רושמים איזו גרסת מודל ענתה, כי המוצר מחליף אותה בלי להודיע. ולא מסיקים ממנוע אחד על השני.
איך זה נראה בפועל
נניח מרפאת שיניים בחיפה שמתמחה בהשתלות ביום אחד. מטופל שואל מנוע: איזו מרפאת שיניים בחיפה עושה השתלה עם שיניים זמניות באותו יום, וכמה זה עולה. הבעלים מריץ את השאלה בעצמו ורואה שתי תוצאות שונות בשני ניסיונות.
בניסיון הראשון התשובה נענתה מהזיכרון. היא מזכירה שתי מרפאות גדולות שכתבו עליהן הרבה, מסבירה יפה מהי השתלה ביום אחד, ולא מזכירה את המרפאה שלו. בניסיון השני, בניסוח שכולל מחיר, המנוע הפעיל חיפוש, שלף את עמוד השירות של המרפאה, וציטט ממנו את טווח המחיר ואת התנאי שלא כל מטופל מתאים לפרוטוקול הזה. אותו מודל, אותו עסק, שתי תשובות.
המסקנה של הבעלים אינה שהמודל לא מכיר אותו. המסקנה היא שבתשובה בלי חיפוש הוא לא קיים, ובתשובה עם חיפוש הוא קיים כי בעמוד שלו יש פסקה שעונה. העבודה היא לוודא שהפסקה הזו נמצאת בכל עמוד שירות, ולמדוד רק את התשובות שיש בהן מקורות.
זוויות שונות
לעסק שירותים מקומי
הזיכרון של המודל על עסק מקומי דל כמעט תמיד, ולכן כמעט כל הופעה שלכם תגיע דרך חיפוש חי. זה לא חיסרון. זה אומר שהאתר של היום, ולא ההיסטוריה, הוא מה שקובע, ושתיקון בעמוד מתחיל לפעול ברגע שהעמוד נסרק מחדש.
לחנות מקוונת
המודל זוכר קטגוריות ומותגים, לא מלאי ולא מחיר. כל שאלה שיש בה מחיר או זמינות תעבור דרך חיפוש, ושם עמוד המוצר מתחרה בעמודי השוואה ובזירות מסחר. עמוד מוצר בלי מפרט כתוב בטקסט אינו מועמד, גם אם התמונות מצוינות.
ל-B2B עם מחזור מכירה ארוך
כאן הזיכרון של המודל דווקא יכול להיות מלא, כי על תחומים מקצועיים נכתב הרבה. הסכנה היא שהוא מלא בגרסה של אחרים: אנליסטים, מתחרים, פורומים מקצועיים. שאלת סינון כמו האם המערכת עומדת בתקן מסוים תיענה ממה שנכתב, ואם אתם לא כתבתם, מישהו אחר עשה את זה במקומכם.
מה זה אומר בפועל
הפרידו בין שני סוגי בדיקה. שאלה על העסק בשם מלא בודקת מה המודל ספג באימון, וזו בדיקה שכמעט אין לכם השפעה עליה בטווח הקרוב. שאלה עם מחיר, אזור או השוואה בודקת מה נשלף בחיפוש חי, וזו הבדיקה שמשקפת עבודה שעשיתם. רשמו בכל תשובה אם היו בה מקורות. תשובה בלי מקורות היא דיווח על העבר. תשובה עם מקורות היא דיווח על האתר שלכם היום, וזו היחידה ששווה לעקוב אחריה לפי מדריך המדידה.
איך בודקים את זה לבד
- שאלו את המנוע שאלה כללית על התחום שלכם, וראו כמה הוא יודע. זה קנה המידה של הזיכרון.
- שאלו על העסק שלכם בשם מלא, בחלון נקי, ובדקו אם הופיעו מקורות. אם לא, זו תשובה מהזיכרון.
- שאלו שאלה שלקוח שואל, כזו שיש בה מחיר או אזור, ובדקו שוב אם יש מקורות ואם אחד מהם שלכם.
- השוו בין שתי התשובות. פער גדול ביניהן הוא הדבר הצפוי, ולא תקלה.
- חזרו על הבדיקה בשני מוצרים שונים. אל תניחו שמה שנכון באחד נכון בשני.
המלכודת
המלכודת היא לייחס למודל כוונה או שיפוט. אנשים קוראים תשובה שמתעלמת מהם ומסיקים שהמנוע מעדיף את המתחרה, ואז מנסים לשכנע אותו, למשל בטקסט שפונה למודל ישירות. אין שם אף אחד לשכנע. יש חישוב שבוחר את ההמשך הסביר על סמך מה שנכתב, ואת זה משנים רק בכך שנכתב עליכם יותר, במפורש ובעקביות. הטעות השנייה היא לחשוב שהמודל שמר עותק של האתר. הוא לא, ולכן מחיקת עמוד לא מוחקת דבר ממה שכבר נלמד.
מתי זה לא רלוונטי לכם
אם הלקוחות שלכם מגיעים דרך הפניות אישיות, מכרזים או מערכת יחסים קיימת, מה שמודל שפה חושב עליכם כמעט לא נוגע לעסק, ואין סיבה להתחיל משם. גם מי שעדיין אין לו עמוד שירות אחד שעונה על שאלה בפירוש לא צריך להעמיק במנגנון. הסדר הוא קודם עמוד שאומר דבר, ורק אחר כך השאלה איך מודל בוחר בו.
שאלות נפוצות
אם המודל לא יודע עובדות, איך הוא עונה נכון כל כך הרבה פעמים?
כי ברוב הנושאים ההמשך הסביר ביותר לטקסט הוא גם הנכון. כשאלפי מסמכים אומרים אותו דבר, הניחוש נופל עליו. הבעיה מתחילה בפרטים שמעטים כתבו עליהם, ושם הניחוש נראה בטוח בדיוק כמו העובדה.
אפשר לשלוח לחברה מידע על העסק כדי שהמודל ילמד אותו?
לא. אין ערוץ כזה לעסקים, והאימון הבא ייקח את מה שקיים ברשת. הדרך היחידה להשפיע על מה שייספג היא שיהיה מה לספוג: מקורות ברורים ועקביים שמדברים עליכם.
למה שני אנשים ששואלים אותו דבר מקבלים תשובות שונות?
כי כל תשובה היא הרצה נפרדת עם מידה של אקראיות, וכי המוצר מוסיף שכבות של הקשר אישי. זו הסיבה שבודקים בדגימה חוזרת ולא בשאלה אחת.
האם מודל גדול יותר מכיר אותי טוב יותר?
לא בהכרח. גודל משפיע על היכולת הכללית, לא על כמה נכתב עליכם. עסק שמופיע במעט מקורות יישאר מטושטש בכל מודל, וההבדל בין המודלים יהיה בעיקר באיך הם ממלאים את החסר.
מונחים קשורים
אימון מוקדם
השלב שבו המודל לומד שפה ועובדות מכמויות טקסט, לפני שמכוונים אותו לשיחה.
כוונון לפי משוב אנושי
השלב שבו אנשים מדרגים תשובות והמודל לומד להעדיף את מה שדורג גבוה.
הרצת מודל
הרגע שבו מודל מייצר תשובה לשאלה, בניגוד לשלב האימון.
הזיה
מצב שבו מודל מייצר מידע שנשמע סביר אך אינו נכון, למשל מייחס לעסק שירות שהוא לא מספק.
מנוע תשובות
מנוע שמחזיר תשובה אחת מנוסחת במקום רשימת קישורים.
להרחבה
הערך נבדק מול המקורות הרשמיים של הפלטפורמות. כשמשהו אינו ידוע, כתוב כאן שהוא אינו ידוע. שינויים מתועדים בארכיון העדכונים.
בואו נדבר.
בלי מצגת, בלי התחייבות ובלי שיחת מכירה. עשרים דקות שבסופן תדעו אם יש כאן משהו בשבילכם.
- מה המוצר ומי הלקוח שלכם
- איך נמדדת אצלכם המרה היום
- מאיזה תקציב זה מתחיל להיות הגיוני
לא בקטע של טפסים? info@boostit.co.il