על מודלי שפה גדולים בפרודקשן עם איתי ציטבר

בפרק זה אירחנו את איתי ציטבר רש”צ מהיירו – לדבר על מודלי שפה בפרודקשן.
המודלי צ’אט כ”כ חזקים – האם בכלל נשאר מה לעשות חוץ מאשר לחבר את הAPI לאתר ?
מצד שני, זה נראה כאילו כולם משתמשים בLLM, גם כאשר קיימים מודלים פשוטים יותר.
נדבר על מה קורה כשהמלצת המודל מתנגשת עם נהלים רפואיים, מה קורה שהמודל נותן הנחיות שגויות למטופל, ואין אפשר לצמצם את התופעה עם Retrieval augmented generation.