מפגש שביעי- 24.5.26

JEPA, Contrastive Learning ו־Sentence Transformers בהקשר הביולוגי

את המפגש הוביל דן עופר, דוקטורנט לביולוגיה החוקר LLMs.

במהלך המפגש דן הרצה על כיוונים עכשוויים ב־Self-Supervised Learning - למידה בפיקוח עצמי. ההרצאה עסקה בין היתר ב־JEPA, ב־Contrastive Learning וב־Sentence Transformers, ובחנה את הרלוונטיות של גישות אלו להקשרים ביולוגיים.

דן הסביר כיצד מודלים יכולים ללמוד להבין נתונים גם ללא תיוג מלא, באמצעות השוואה בין דמיון ושוני: קירוב של דוגמאות דומות במרחב הווקטורי, והרחקה של דוגמאות שונות, בלי להסתמך בהכרח על תיוג ידני.

למחקרים נוספים של דן:

https://scholar.google.co.il/citations?user=uDx2ItYAAAAJ&hl=en