מודלים
הזיה
Hallucination
תשובה שהמודל ממציא בביטחון מלא — עובדה, מספר, או שורת קוד שנראית נכונה ולא קיימת.
נקרא גם: Hallucination · הזיות · הזיות AI · המצאה של המודל
מודל AI לא “יודע” דברים. הוא מנחש מה המילה הבאה הכי סבירה, ורוב הזמן הניחוש הזה נכון להפליא. אבל כשהוא לא יודע — הוא לא אומר “לא יודע”. הוא ממשיך לנחש באותו ביטחון בדיוק, והתוצאה נראית בדיוק כמו תשובה נכונה.
זו הזיה. לא באג שיתוקן בגרסה הבאה — תכונה מובנית של איך שהמודלים האלה עובדים. הם משתפרים, אבל זה לא נעלם.
דוגמה מהחיים#
שלוש הזיות שתפגוש, בסדר עולה של כמה הן עולות לך:
| מה קרה | איך זה נראה | מתי תגלה |
|---|---|---|
| עובדה מומצאת | “המחיר של הכלי הוא $19 לחודש” — כשהוא $25 | כשתשלם |
| קוד שנראה נכון | פונקציה שקוראת לשירות שלא קיים, בשם שנשמע הגיוני | כשהאפליקציה תקרוס אצל לקוח |
| תיקון שלא תיקן | “תיקנתי את הבאג” — והבאג עדיין שם, רק במקום אחר | אחרי שכבר שילמת על סבב התיקון |
השורה השלישית היא הכי יקרה, כי היא נראית כמו התקדמות. אתה מקבל הודעה ש”טופל”, סוגר את המשימה, ומגלה אחרי שבוע.
איך זה משפיע על הכסף שלך#
הזיה עולה כסף בשני מקומות: בקרדיטים על סבבי התיקון, ובלקוח שראה את הטעות לפניך.
- כל מספר שהמודל נותן — תאמת מול מקור. מחיר, תאריך, שם של חוק. במיוחד בטקסט שיוצא ללקוחות. זו הסיבה שהאתר הזה מאמת כל מחיר מול דף התמחור, ולא סומך על מה שמודל “זוכר”.
- “תיקנתי” הוא לא ראיה. תבדוק בעצמך את המסך שנשבר, כל פעם. סבב תיקון שלא אומת הוא קרדיטיםקרדיטים Creditsמטבע פנימי שכל כלי ממציא לעצמו — ואצל כל אחד הוא סופר משהו אחר.להסבר המלא ← שהוצאת על אמונה.
- תן למודל את המידע במקום לסמוך על הזיכרון שלו. זה כל הרעיון של RAGRAG Retrieval-Augmented Generationשיטה שבה ה-AI מחפש קודם במאגר המידע שלך, ורק אז עונה — במקום לענות ממה שהוא "זוכר" מהאימון.להסבר המלא ←: המודל מחפש במסמכים שלך ועונה מהם — ולא ממה שהוא “זוכר” מהאימון. פחות הזיות, ובמחיר של קצת יותר טוקניםטוקנים Tokensיחידות הטקסט שמודל AI סופר, ולפיהן הוא מחייב אותך — גם על מה שאתה שולח וגם על מה שהוא עונה.להסבר המלא ← לפנייה.
- בקש מקורות בפרומפט. “תציין מאיפה המספר הזה” מוריד הזיות בצורה מדידה — כי כשאין מקור, למודל קשה יותר להמציא אחד.