מפגש שמיני- 2.7.26

זה היה המפגש המסכם: פתחנו בסיכום הנושאים המרכזיים שעלו לאורך המפגשים, ולאחר מכן דנו בהשפעת הבינה המלאכותית על התקשורת המדעית.
מצד אחד, כלי AI מסייעים לחוקרים בכתיבת מאמרים, ובפרט לחוקרים שאינם דוברי אנגלית כשפת אם, באמצעות שיפור איכות הכתיבה והניסוח.
מצד שני, מודלים אלה עלולים לייצר מאמרים המבוססים על מידע שגוי או על "הזיות" (hallucinations), הכוללות מונחים, תוצאות או הפניות שאינם קיימים. 

תופעה זו תורמת לעומס על מערך הפרסומים המדעיים ועלולה לפגוע באיכות הספרות המדעית.
בהמשך שוחחנו על האופן שבו חברי הקבוצה משתמשים בכלי AI בעבודתם, כיצד הם חווים את השפעתם על תהליך המחקר, ומהם היתרונות והאתגרים שהם מזהים.
לסיום, סקרנו את BioMysteryBench, מאגר מבחנים שפותח על ידי חברת Anthropic להערכת יכולות מודלים בפתרון בעיות ביולוגיות מורכבות, שבעקבותו החליטה החברה להגביל את המענה של המודל המתקדם ביותר שלה לשאלות מסוימות בתחום הביולוגיה, מטעמי בטיחות.