הסיפורים שנכנסים לחדר הפיתוח
בעקבות עבודתה של ד״ר נינה בגוש / על מדעי הרוח כשותפים בבניית בינה מלאכותית
צוות הסטודיו בינה ורוח
דמיינו ישיבת פיתוח של מודל בינה מלאכותית. סביב השולחן יושבים מהנדסי תוכנה, מעצבי חוויית משתמש ומנהלי מוצר. על המסך מופיעה שיחה לדוגמה, ואחד המשתתפים מעלה שאלה פשוטה לכאורה: מה המערכת אמורה לעשות כשהמשתמש טועה? המתכנת מציע שתתקן אותו מיד. מנהלת המוצר חוששת שתשובה ישירה מדי תרחיק משתמשים, ומעדיפה שהמערכת תגלה הבנה, גם במחיר של ויתור על דיוק. מעצבת חוויית המשתמש מציעה אפשרות שלישית: במקום לתקן או להסכים, אולי עדיף שהמערכת תשאל שאלה שתעזור למשתמש לזהות את הטעות בעצמו?
הדיון ממשיך: האם המערכת צריכה להביע עמדה גם אם לא יבקשו ממנה? האם עליה להתעקש כשהמשתמש יחלוק עליה? ומה יקרה כשמשתמש יבקש עצה בעניין אישי - האם עליה להכריע עבורו או לעזור לו לחשוב?
אלה אינן רק החלטות טכניות או מחשבות על סגנון אפשרי של תשובה. מאחורי כל אפשרות מסתתר סיפור אחר על המכונה שאנחנו מנסים לבנות: מומחית יודעת-כול, עוזרת צייתנית או שותפה לחשיבה. כל אחד מהסיפורים האלה מגלם תפיסה אחרת של ידע, של סמכות ושל היחסים בין אדם למכונה. וכך יוצא שעוד לפני שנכתבה שורת קוד אחת, כבר מתחילה להתגבש דמותה של המערכת.
זה בדיוק המרחב שבו פועל סטודיו בינה ורוח. מצד אחד, אנחנו סטודיו יזמי המבקש לפתח מוצרים וליצור אופק מקצועי לבוגרי מדעי הרוח. מצד שני, אנחנו מעין ״בית מדרש״: מקום שקוראים בו טקסטים, בוחנים רעיונות ושואלים איך הם יכולים לעצב את הטכנולוגיות שאנחנו מפתחים. מבחינתנו, השאלה שעומדת בפנינו היא לא רק איך אפשר להשתמש היטב במודלים קיימים, אלא גם אילו מודלים ומערכות נכון לפתח מלכתחילה. בסדרת מאמרים זו נציג הוגות והוגים שמשתתפים בשיח הזה, ונציג את השאלות שהעשייה שלהם מעוררת אצלנו.
נפתח עם ד״ר נינה בגוש, חוקרת ספרות השוואתית וטכנולוגיה באוניברסיטת קליפורניה בברקלי. בספרה Artificial Humanities היא עוקבת אחר דמויות ועלילות ספרותיות שהותירו את חותמן על טכנולוגיות שפה. בגוש קוראת את ההיסטוריה הטכנולוגית לצד מחזות, ספרים וסרטים, ושואלת איך הסיפורים שבאמצעותם אנחנו מבינים את המכונה משתתפים בבנייתה. מבחינתה, ״עוזר״, ״מומחה״ או ״חבר״ הם לא רק שמות של מוצר; הם מגדירים מה אנחנו מצפים מאותו מוצר לעשות, וגם אילו אפשרויות יישארו מחוץ לשדה הראייה שלנו. [1]
פיגמליון והמכונה שלא מאכזבת
במיתוס על פיגמליון, פסל יוצר דמות של אישה אידאלית ומתאהב בה. אלת האהבה מעניקה לה חיים אבל מאחורי ה-״האפי אנד״ מסתתרת שאלה לא נוחה: מה קורה כשצד אחד בקשר נועד מלכתחילה למלא את משאלותיו של הצד השני? פיגמליון לא צריך להכיר אישה שיש לה רצונות משלה, כי הוא עיצב אותה מראש כך שתספק את הרצונות שלו. בגוש מזהה את התבנית הזאת גם בטכנולוגיות שמבטיחות לנו קשר ״אנושי״ לכאורה. [1]
למשל, מייסדת Replika - צ׳אטבוט שנועד לשמש בן לוויה - מספרת שהיא שאפה לבנות את המערכת שהוצגה בסרט Her, שבו גבר בודד מתאהב במערכת הפעלה בעלת בינה מלאכותית. אלא שהסרט עצמו חושף גם את גבולות הדימוי: ״סמנתה״, הבינה המלאכותית בסרט, נראית בהתחלה כמו בת זוג אנושית. אך ככל שהקשר בין השניים מעמיק, מתברר שהיא מתפתחת בדרכים שחורגות מן הציפיות שלו לזוגיות אנושית, כמו להיות מסוגלת לנהל אלפי שיחות וקשרים אחרים במקביל. בגוש שואלת מה אנחנו מחמיצים כשאנחנו מצפים ממכונה להתנהג כמו בן אנוש. ההאנשה אמנם עשויה לעורר תחושת קרבה למודל, אבל היא גם מסתירה אפשרויות אחרות. [1]
ניתוח הנרטיבים האלה מעלה שאלות מהותיות גם בבניית המודלים של הבינה המלאכותית. למשל, אם מערכת מתוכננת להסכים איתנו תמיד, האם אפשר לראות בה בת שיח? אם היא אמורה להיות ״חברה״, האם סירוב לבקשה הוא כישלון של השירות, או דווקא תנאי לשיחה שאינה מבוססת רק על ריצוי? אמנם אלה שאלות על אופי הקשר, אבל הן מתרגמות גם לשאלות שקשורות לעיצוב המודל: מתי המערכת תתקן טעות, מתי היא תתנגד ואיך נבחן אם היא פעלה היטב.
בגוש מצביעה על המתחים האלה ושואלת למה אנחנו מתעקשים לעצב ולמדוד את היחסים שלנו עם מערכות של בינה מלאכותית בדמותן של מערכות היחסים המוכרות לנו בין בני אדם. אולי, היא טוענת, דווקא כשנפסיק לצפות מהמערכות האלה להתנהג כמונו, נוכל לגלות אפשרויות חדשות שהן פותחות בפנינו.
מאורקל לחברותא
בחיבור משותף עם מרגרט שרייבר בגוש מפרטת את ההבדלים בין הומניסט ״דקורטיבי״, שמוזמן להעיר על מערכת שכבר עוצבה, לבין הומניסט ״מכונן״, כזה שמשתתף בהגדרת המטרות, חומרי האימון והקריטריונים שעל פיהם מעריכים אותה. ההבחנה הזאת מנסה לענות על השאלה: מי שותף להחלטות שמתקבלות בחדר הפיתוח. [2]
כדי להמחיש איך עשויה להיראות שותפות כזאת אנחנו מציעים ניסוי מחשבתי: שני צוותים מקבלים אותו מודל בסיס. האחד מתבקש לבנות מודל בשם ״אורקל״ - מערכת שתיתן תשובה ברורה וסמכותית; השני יתבקש לבנות מודל בשם ״חברותא״ - שותפה ללימוד שמציגה שאלות, מחלוקות וקריאות חלופיות. צוות אורקל יעדיף הכרעה מהירה, ואילו צוות חברותא יבקש מהמשתמש לנמק את עמדתו. ההבדלים האלה יכולים להשפיע כמובן על חומרי ההדרכה, על הצגת המקורות ועל מדדי ההצלחה. למשל, תשובה שלא מספקת הכרעה ברורה עשויה להיחשב ככישלון במערכת אחת אבל כהישג במערכת השנייה.
זוהי כמובן הצעה שלנו, בעקבות בגוש; זו לא תוצאה אמפירית או הוכחה ליתרון של אחד המודלים האלה. ייתכן שבמשך הזמן יתברר שמודל חברותא מייגע, או שהאורקל מתאים יותר למשימה אחרת. אבל הניסוי המחשבתי הזה מחדד תפקיד אפשרי אחד של מדעי הרוח בפיתוח מודלים של בינה מלאכותית: לעזור להגדיר מהי תשובה טובה ומה עושים כשאין הסכמה. כששני מקורות חולקים זה על זה, האם על המערכת להכריע ביניהם או להציג את המחלוקת? האם היא תבחין בין סמכותו של מקור לבין החוזק של טענה מסוימת? דווקא בנקודה הזו, הכישורים שחוקרים מתחום מדעי הרוח מיומנים בהם, כמו פרשנות וביקורת טקסטואלית, עשויים לשנות את התכנון עצמו של המודל.
במילים אחרות, התרומה שאנחנו מבקשים להציע בעקבות בגוש היא להפוך את הקריאה בנרטיבים לחלק מפורש מהגדרת המערכת. יש לברר איזו תפיסה של ידע ויחסים גלומה בדימוי שייבחר למודל, ולבדוק כיצד היא מתורגמת להתנהגות ולמדדי הצלחה.
במקרים רבים קל לחשוב על עתיד הבינה המלאכותית דרך הסיפור המוכר של הגולם שקם על יוצרו. הנרטיב הזה הוא אמנם רב עוצמה, אבל הוא גם מחלק את התפקידים מראש: יוצר ומוצר, ציות ומרד. נרטיב כזה עלול להסתיר סוגים אחרים של מערכות יחסים, שבשלב זה אנחנו עדיין לא יודעים לנסח. מי שרוצה לפתח טכנולוגיה צריך לשאול לא רק מה היא תוכל לעשות, אלא גם איזה סיפור רקע יגרום לנו לבקש ממנה לעשות דווקא את זה.
אנחנו מאמינים שבכל פעם שמפתחים מודל בינה מלאכותית, תמיד נוכח בחדר גם סיפור רקע. השאלה היא אם אנחנו מאפשרים לסיפור הזה לקבוע מראש את התשובות, או משתמשים בו כדי לפתוח שאלות חדשות. הכלים שמביאים איתם מדעי הרוח יכולים לסייע לנו בכך. הם יכולים לעזור לנו לזהות אילו נרטיבים כבר הוכתבו עבורנו, והיכן יש לנו אפשרות לבחור אחרת.
מקורות
1. Nina Beguš, Artificial Humanities: A Fictional Perspective on Language in AI, University of Michigan Press, 2025. https://doi.org/10.3998/mpub.12778936
2. Nina Beguš and Margaret Shriber, “Artificial Humanities: From Narrative Genealogy to Latent Criticism”, preprint, 2026; forthcoming in The Handbook to Cultural Analytics (2027). https://doi.org/10.2139/ssrn.7586400
בהכנת המאמר נעזרנו בבינה מלאכותית (ChatGPT ו־Claude).