מפגש רביעי-
במפגש הרביעי עסקנו בשאלה של הבנת מנגנונים במערכות נוירונים מלאכותיות ובמערכות עצביות ביולוגיות. באופן כללי, הדיון עסק בשאלה מה נחשב להסבר טוב של מערכת מורכבת, ומהי בכלל המשמעות של "הבנה" בהקשר של רשתות נוירונים ומוח.
שאלות שעלו במהלך הדיון:
- מהו הסבר מספק למערכת עצבית - האם די בתיאור ההתנהגות שלה, או שנדרשת הבנה של המנגנונים הפנימיים המייצרים אותה?
- האם פרשנות של רשת נוירונים צריכה להתמקד ביחידות בודדות, במעגלים חישוביים, או דווקא ברמת המערכת כולה?
- כיצד ניתן להעריך האם הסבר הוא באמת אינפורמטיבי, ולא רק תיאור בדיעבד של תופעה שכבר נצפתה?
- האם קיימים הבדלים מהותיים בין מה שנחשב להבנה במדעי המוח לבין מה שנחשב להבנה בבינה מלאכותית?
- האם מטרת המחקר היא להסביר כיצד מערכת פועלת בפועל, או לבנות מודלים פשוטים יותר המאפשרים לנו לחשוב עליה בצורה שימושית?
- עד כמה ניתן להשתמש בכלים שפותחו להבנת רשתות מלאכותיות כדי ללמוד על המוח, ולהפך?
הדיון הדגיש כי למרות ההתקדמות הרבה בפיתוח כלי פרשנות וניתוח, עדיין קיימת מחלוקת מהותית לגבי מהי "הבנה" של מערכת נוירונית, וכיצד ניתן להבחין בין הסבר מועיל לבין תחושת הבנה בלבד.