מחקרו של ו’ ניזוב טוען כי בינה מלאכותית אינה רק כלי לניהול ציבורי יעיל יותר, אלא כוח שעשוי לשנות את יסודות הדמוקרטיה הליברלית עצמה. במקום הפרדת רשויות וייצוג פוליטי, עלול להתפתח מודל חדש של שלטון המבוסס על מומחיות אלגוריתמית.
על מה המאמר?
המאמר של ו’ ניזוב עוסק בשאלה רחבה במיוחד: כיצד חדירת הבינה המלאכותית למערכות הממשל תשפיע על מבנה הכוח הפוליטי בטווח הארוך. במקום להתמקד ביישומים נקודתיים של AI במגזר הציבורי, המחבר בוחן את ההשלכות החוקתיות והמוסדיות של המעבר לקבלת החלטות המבוססת על אלגוריתמים. לטענתו, השימוש הגובר במערכות בינה מלאכותית אינו מסתכם בשיפור יעילות בירוקרטית, אלא מערער על עקרונות יסוד של הדמוקרטיה הליברלית – ובהם הפרדת רשויות, אחריותיות (accountability), ריבונות פרלמנטרית וייצוג פוליטי.
לפי ניזוב, ככל שממשלות נשענות יותר על מערכות חישוביות לקבלת החלטות, כך מוקדי הכוח נעים מגופים נבחרים אל מומחים טכנולוגיים, מפתחי מערכות וגורמים המחזיקים בידע ובגישה לנתונים. תהליך זה מוביל להופעתה של צורת שלטון חדשה שהוא מכנה “אלגורוקרטיה” (Algocracy) – משטר שבו סמכות פוליטית נשענת יותר על אלגוריתמים ופחות על מנגנונים דמוקרטיים מסורתיים. המאמר אינו מציג תחזית חד-משמעית, אך מזהיר מפני משבר לגיטימציה עתידי ומעלה את הצורך בגיבוש מודלים חדשים של פיקוח, שקיפות ואחריותיות בעידן הבינה המלאכותית.
הטענות המרכזיות
טענה 1: הבינה המלאכותית מערערת את עקרון הפרדת הרשויות
אחת הטענות המרכזיות של ניזוב היא שהמודל החוקתי הקלאסי של הפרדת רשויות נבנה בעולם שבו בני אדם ומוסדות פוליטיים הם מקבלי ההחלטות המרכזיים. כאשר מערכות AI מתחילות להשתלב בקבלת החלטות ממשלתית, גבולות הסמכות בין הרשות המבצעת, המחוקקת והשופטת מיטשטשים.
לדברי המחבר, מערכות אלגוריתמיות מסוגלות לאסוף מידע, לנתח אותו, להציע מדיניות ואף לבצע פעולות אוטומטיות בקצב ובקנה מידה שאינם אפשריים עבור מוסדות אנושיים. התוצאה היא ריכוז של יכולות שבעבר חולקו בין רשויות שונות. במצב כזה, מנגנוני האיזון והבלמים שעליהם נשענות דמוקרטיות מודרניות עלולים להיחלש.
מנקודת מבט דמוקרטית, מדובר באתגר משמעותי. אם ההחלטות מתקבלות באמצעות מערכות טכנולוגיות מורכבות שקשה להבין או לבקר, יכולת הפיקוח של הציבור ושל נבחריו עלולה להצטמצם באופן ניכר.
טענה 2: “אלגורוקרטיה” מחליפה בהדרגה את הדמוקרטיה הייצוגית
ניזוב מציע את המושג “אלגורוקרטיה” כדי לתאר משטר שבו סמכות פוליטית נשענת על אלגוריתמים ועל מומחים המפעילים אותם. הוא משווה מגמה זו לרעיון ה”אפיסטוקרטיה” – שלטון המבוסס על ידע ומומחיות – אך טוען שבמקרה של AI מדובר במעבר עמוק עוד יותר.
במסגרת זו, הלגיטימציה של השלטון כבר אינה נובעת בעיקר מבחירות, ייצוג ציבורי או דיון פוליטי, אלא מיכולת המערכת לייצר החלטות הנתפסות כיעילות, רציונליות ומבוססות נתונים. מבחינה טכנולוגית, מדובר במעבר מהיגיון פוליטי להיגיון חישובי.
הסכנה, לפי המחבר, היא שדיון ציבורי, מחלוקת פוליטית ופשרות בין קבוצות שונות באוכלוסייה יוחלפו בתפיסה שלפיה קיימת תשובה “אופטימלית” אחת שאותה האלגוריתם מסוגל לזהות. מצב כזה עשוי לצמצם את המרחב הדמוקרטי ולהפוך שאלות ערכיות לשאלות טכניות בלבד.
טענה 3: הפרלמנטים עלולים לאבד את מרכזיותם
לטענת ניזוב, מוסדות חקיקה עלולים להיות בין הנפגעים המרכזיים של המעבר לממשל מבוסס AI. היסטורית, פרלמנטים שימשו זירה לדיון ציבורי, לפיקוח על הממשלה ולהבטחת אחריותיות של מקבלי ההחלטות.
אולם כאשר מערכות מורכבות של ניתוח נתונים ואלגוריתמים מתחילות למלא חלק מתפקידי קבלת ההחלטות, מוקד האחריות עובר בהדרגה מגופים פוליטיים נבחרים לגורמים טכנולוגיים. במצב כזה, גם אם הפרלמנט ממשיך להתקיים באופן פורמלי, יכולתו להשפיע בפועל על המדיניות עלולה להיחלש.
המחבר מתאר תהליך שבו הפיקוח הדמוקרטי מוחלף בפיקוח טכני, המתבצע בידי מומחים ולא בידי נציגי ציבור. מבחינת אזרחים, משמעות הדבר היא הגדלת המרחק בין מקבלי ההחלטות לבין הציבור שאותו הם אמורים לשרת.
טענה 4: אין דבר כזה בינה מלאכותית “ניטרלית”
בניגוד לטענה הרווחת שלפיה AI הוא כלי טכנולוגי אובייקטיבי, ניזוב מדגיש כי כל מערכת בינה מלאכותית משקפת ערכים, הנחות ויעדים פוליטיים. הוא מצביע על הבדלים בין גישות שונות בעולם, ובהן הגישה הסינית המבוססת על פיקוח חברתי רחב יותר לבין הגישה האירופית המדגישה זכויות אדם ופיקוח רגולטורי.
לכן, השאלה אינה רק האם להשתמש בבינה מלאכותית, אלא איזה סוג של בינה מלאכותית לאמץ ואילו ערכים היא תשרת. הבחירות הטכנולוגיות הופכות בהכרח גם לבחירות פוליטיות.
הטענה הזו חשובה במיוחד לדמוקרטיות, משום שהיא מזכירה שהחלטות לגבי תכנון אלגוריתמים, איסוף נתונים או מנגנוני פיקוח אינן ניטרליות. הן מעצבות בפועל את יחסי הכוח בין המדינה לאזרחים.
טענה 5: מבנה הכוח העתידי יתבסס על תחומי ידע ולא על רשויות
אחת התחזיות השאפתניות ביותר במאמר היא שהחלוקה המסורתית בין רשות מחוקקת, מבצעת ושופטת עשויה לפנות מקום למודל חדש. במקום חלוקה פונקציונלית של סמכויות, ניזוב צופה חלוקה המבוססת על תחומי מומחיות וידע.
במודל כזה, מוקדי הכוח יאורגנו סביב תחומים רגולטוריים – למשל בריאות, ביטחון, אנרגיה או תחבורה – כאשר בכל תחום יפעלו מערכות מומחים ואלגוריתמים בעלי ידע ייעודי. הסמכות הפוליטית תיגזר מהיכולת להבין ולנהל מערכות מורכבות, ולא מהשתייכות לרשות שלטונית מסוימת.
מדובר בחזון ספקולטיבי, אך הוא מעלה שאלה חשובה: האם מוסדות שנבנו במאה ה-18 וה-19 מסוגלים להתמודד עם מציאות שבה הידע הטכנולוגי הופך למקור הכוח המרכזי?
למה זה חשוב?
המאמר של ניזוב משתלב בדיון רחב ההולך ומתרחב סביב היחסים בין בינה מלאכותית לדמוקרטיה. בעוד שחלק מהמחקרים מתמקדים בהטיות אלגוריתמיות, פרטיות או דיסאינפורמציה, ניזוב מפנה את תשומת הלב לשאלה עמוקה יותר: האם עצם השימוש בבינה מלאכותית בממשל משנה את מבנה המשטר.
גם אם התחזיות במאמר אינן מתממשות במלואן, הוא מצביע על מגמה שכבר ניכרת כיום: קבלת החלטות ציבורית נשענת יותר ויותר על מערכות נתונים, מודלים חישוביים ומומחים טכנולוגיים. עבור דמוקרטיות, המשמעות היא שהוויכוח המרכזי אינו רק כיצד להסדיר את הבינה המלאכותית, אלא כיצד לשמר שקיפות, אחריותיות וייצוג פוליטי כאשר חלק גדל והולך מהסמכות עובר למערכות אלגוריתמיות.
במילים אחרות, השאלה אינה האם AI ישפיע על הדמוקרטיה – אלא איזה סוג של דמוקרטיה יוכל להתקיים בעידן שבו אלגוריתמים הופכים לשחקנים מרכזיים במנגנוני השלטון.
הפניה למאמר המקורי
Nizov, V. (2025). The Artificial Intelligence Influence on Structure of Power: Long-Term Transformation. Academic publication.
אין תגובות:
הוסף רשומת תגובה