בינה מלאכותית וארכיטקטורת נתונים
סייען ידע חכם (RAG)
מערכת מבוססת RAG המאפשרת למודלי שפה גישה למאגרי ידע פרטיים ודינמיים בזמן אמת.

סקירה כללית
פיתוח תשתית גנרית המאפשרת להטעין 'גוף ידע' (מסמכים, נהלים, מאמרים או מתודולוגיות) ולהפוך אותו לבר-שיחה בעזרת AI. הפרויקט פותר את מגבלת הידע הסטטי של מודלי שפה והופך דאטה 'מת' לנכס אינטראקטיבי ששואב תשובות אך ורק מתוך מקורות מידע מאומתים.
האתגר
מודלי שפה סובלים משלוש בעיות קריטיות בשימוש עסקי: חוסר במידע עדכני, הלוצינציות (המצאת עובדות) וחוסר גישה למידע פנימי ופרטי. האתגר היה לבנות מערכת שניתן לסמוך עליה שתספק תשובות מבוססות עובדות בלבד מתוך אלפי דפי מידע, ללא צורך באימון מחדש (Fine-tuning) של המודל.
הפתרון
בניית ארכיטקטורת RAG (Retrieval-Augmented Generation) מלאה המפרידה בין שלב אחזור המידע לשלב יצירת התשובה:
- •עיבוד ופירוק נתונים (Chunking): יצירת Pipeline המפרק מסמכים מורכבים ליחידות תוכן סמנטיות קטנות המאפשרות אחזור מדויק.
- •ייצוג וקטורי (Embeddings): המרת המידע לייצוגים מתמטיים ושמירתם ב-Vector Database לצורך חיפוש סמנטי (חיפוש לפי משמעות ולא רק לפי מילים).
- •מנגנון אחזור (Retrieval): פיתוח לוגיקה השולפת בזמן אמת את פיסות המידע הרלוונטיות ביותר לשאילתת המשתמש ומזריקה אותן כ-Context.
- •בקרת איכות (Prompt Engineering): הגדרת הנחיות קשיחות המונעות מהמודל להסתמך על ידע כללי ומחייבות אותו לצטט מקורות מתוך המאגר בלבד.
תוצאות
דיוק עובדתי (מניעת הלוצינציות)
99%
זמן אחזור (Latency)
< 2s
חיסכון בזמן חיפוש מידע
85%
קיבולת מסמכים
ללא הגבלה
טכנולוגיות
OpenAI APIPinecone / Vector DBn8nPythonSemantic SearchJSONPrompt Engineering