מודלי שפה הופכים במהירות למקור חשוב למידע פוליטי. השאלה הפתוחה היא האם הם יחזיקו בסיס ידע משותף, או שקבוצות פוליטיות שונות יסתמכו על מודלים שהולכים ונפרדים.
במאמר “Political Sorting Can Drive AI Models Apart Through User Feedback” (arXiv:2609.28486) בוחנים Petter Törnberg, Michael Heseltine, Nicolò Pagan, Christopher Bail, Michelle Schimmel וChristopher Barrie את התנאים שבהם מיון פוליטי של משתמשים יכול להפוך להבדלים יציבים בין המודלים עצמם.
פתיח
המחברים מתארים תהליך חיזוק עצמי שהם מכנים ספירלת יישור צנטריפוגלית (Centrifugal Alignment Spiral). שלושה תנאים מספיקים כדי להניע אותו. משתמשים בעמדות פוליטיות שונות בוחרים מודלים שונים. למידה ממשוב משתמשים דוחפת את המודלים האלה בכיוונים פוליטיים מנוגדים. ההבדלים שנוצרים משפיעים על הבחירה הבאה של משתמשים. כך נוצר מעגל.
הם בודקים את הרכיבים בשלושה שלבים: ניסוי אנושי על בחירת מודל, כוונון עדין על משוב סינתטי דמוקרטי או רפובליקני, ומודל מבוסס סוכנים שמצמיד את שני המנגנונים יחד.
1. זהות פוליטית מנבאת בחירת מודל
בשלב הראשון נשענים על ניסוי אנושי. הממצא הפשוט והחשוב: זהות פוליטית מנבאת איזה מודל אנשים בוחרים. כבר כאן נפתח פער בכניסה. לא כולם נכנסים לאותו “חדר ידע”.
2. משוב פוליטי מפריד בין מודלים מאותה משפחה
בשלב השני כווננו מודלי שפה על משוב סינתטי שמשקף העדפות בעיקר דמוקרטיות או בעיקר רפובליקניות. חמש הרצות עצמאיות לכל משפחת מודלים.
התוצאה חדה. זוגות מודלים שהתחילו קרובים נפרדו ב12 עד 41 אחוז משאלות סקר שלא נראו באימון, בשאלות שיש בהן פערים מפלגתיים גדולים. בכל הרצה ההבדלים נעו בכיוון הפוליטי הצפוי. בחלק מהמודלים ההפרדה הגיעה גם לתחומי מדיניות שלא נכללו באימון.
כשאיחדו את המשוב מכל הקבוצות יחד, ההפרדה דווקא דוכאה. כלומר, לא “למידה ממשתמשים” כשלעצמה היא הבעיה. הבעיה היא למידה נפרדת מקהלים שכבר ממוינים פוליטית.
3. כשמיון והסתגלות פועלים יחד, הפער מתרחב
בשלב השלישי בנו מודל מבוסס סוכנים שמעוגן בנתונים אמפיריים. כשמיון פוליטי והסתגלות מודל פועלים יחד, התמונה ברורה. מודלים מושכים קהלים פוליטיים שונים, לומדים מהם, ונפרדים עוד יותר.
משוב משתמשים יכול אפוא להפוך מיון פוליטי בין משתמשים להבדלים יציבים בין המודלים שעליהם הם נשענים למידע פוליטי.
למה זה חשוב
בדמוקרטיה, ידע פוליטי משותף הוא תשתית לדיון ציבורי. אם קבוצות שונות מקבלות תשובות שיטתיות שונות ממודלים שונים, לא מדובר רק בטעם אישי. מדובר בפיצול של בסיס העובדות והמסגרות שממנו מתחילים לדבר.
המחקר מחבר שלושה מנגנונים שכבר מוכרים בנפרד: בחירת פלטפורמה לפי זהות, יישור ממודל לפי משוב, והשפעת הפער על בחירה חוזרת. יחד הם מתארים סיכון מבני, לא תקלה חד פעמית.
למפתחים ולרגולטורים יש כאן מסר מעשי. איסוף משוב “מהשטח” בלי בקרה על הרכב פוליטי של המשתמשים עלול להאיץ הפרדה בין מודלים. איחוד משוב בין קבוצות, לפחות בנושאים ציבוריים רגישים, עשוי למתן את הספירלה. השאלה אינה רק “האם המודל מאוזן היום”, אלא האם מנגנון הלמידה מהמשתמשים שומר על מרחב ידע משותף מחר.
קרדיט למאמר
Törnberg, Petter; Heseltine, Michael; Pagan, Nicolò; Bail, Christopher; Schimmel, Michelle; Barrie, Christopher (2026). “Political Sorting Can Drive AI Models Apart Through User Feedback.” arXiv:2609.28486. https://arxiv.org/abs/2609.28486
הערה: הסיכום נשען על התקציר והמטא-דאטה הרשמיים בarXiv. זה מחקר טרם ביקורת עמיתים (preprint). חלק מהניסויים נשענים על משוב סינתטי ועל הקשר אמריקאי של דמוקרטים ורפובליקנים, וההכללה למדינות אחרות דורשת זהירות.
אין תגובות:
הוסף רשומת תגובה