האם הבינה המלאכותית תהפוך לכלי שמעמיק את ההשתתפות הציבורית ומחזק את המוסדות הדמוקרטיים, או דווקא למנגנון של מניפולציה, ריכוז כוח ופגיעה בבחירות? מאמר חדש בוחן את שני התרחישים ומציע מסגרת רגולטורית שתאפשר ליהנות מיתרונות ה-AI מבלי לסכן את יסודות הדמוקרטיה.
פתיח
ההתפתחות המהירה של הבינה המלאכותית משנה כמעט כל היבט של החיים הציבוריים – החל מקמפיינים פוליטיים ועד קבלת החלטות בממשל. במאמרה “Artificial Intelligence and Democracy: Towards Digital Authoritarianism or a Democratic Upgrade?” בוחנת פרופ’ פרניקי פנאגופולו כיצד מערכות AI עלולות לערער תהליכים דמוקרטיים באמצעות דיסאינפורמציה, מניפולציה וניצול מידע אישי, אך גם כיצד ניתן לרתום אותן להגברת השקיפות, שיתוף הציבור ושיפור תהליכי קבלת ההחלטות.
הטיעונים המרכזיים
1. דיסאינפורמציה הופכת לאיום מרכזי על הדמוקרטיה
לטענת המחברת, מודלים גנרטיביים מאפשרים יצירת תכנים משכנעים במהירות ובהיקפים שלא היו אפשריים בעבר. שילוב של טקסטים, תמונות וסרטוני Deepfake עלול להשפיע על דעת הקהל, לערער אמון במוסדות ולהטות מערכות בחירות.
המאמר מזכיר את הבחירות לנשיאות ארצות הברית בשנת 2024, שבהן נעשה שימוש נרחב בתמונות וסרטונים שנוצרו באמצעות AI על ידי גורמים משני צדי המפה הפוליטית.
2. מידע אישי הפך למשאב הפוליטי החשוב ביותר
המחברת מתארת את הנתונים כ”זהב החדש”. באמצעות ניתוח כמויות עצומות של מידע, מערכות AI מסוגלות לבנות פרופילים פסיכולוגיים והתנהגותיים של בוחרים ולהתאים לכל אחד מהם מסרים פוליטיים ייעודיים.
לצד היתרונות בניתוח צרכים ציבוריים, היא מזהירה מפני שימוש ביכולות אלה לצורך השפעה פסיכולוגית ממוקדת על מצביעים ומפני ההטיות המובנות הקיימות הן במאגרי הנתונים והן באלגוריתמים עצמם.
3. AI מאפשר מניפולציה פוליטית מדויקת יותר מאי פעם
בהסתמך בין היתר על פרשת Cambridge Analytica, המאמר מתאר כיצד ניתן לנצל מידע אישי כדי לעצב מסרים המעוררים פחד, כעס או הזדהות אצל קבוצות יעד שונות.
לדברי המחברת, הסכנה אינה מסתכמת בפרסום ממוקד, אלא ביצירת מנגנון אוטומטי של השפעה על עמדות פוליטיות, תוך שימוש ב-Deepfakes, חדשות כוזבות והפצת תעמולה מותאמת אישית. היא קוראת להגברת השקיפות האלגוריתמית, סימון תכנים שנוצרו באמצעות AI וחיזוק מנגנוני בדיקת העובדות.
4. כוחן של ענקיות הטכנולוגיה מציב אתגר דמוקרטי
המאמר מדגיש כי מספר מצומצם של חברות שולט כיום כמעט בכל שרשרת הפיתוח של מודלי AI – החל מתשתיות המחשוב ועד למאגרי הנתונים.
ריכוז הכוח הזה מעניק לחברות השפעה משמעותית על זרימת המידע, השיח הציבורי ואף על אופן פעולתם של משטרים דמוקרטיים. המחברת מציעה לבחון מודלים של ממשל משתף ושל בעלות קהילתית על מערכות AI כדי לצמצם את הריכוזיות.
5. אלגוריתמים צריכים לסייע לממשל – לא להחליף אותו
המחברת אינה שוללת שימוש באלגוריתמים בקבלת החלטות ציבוריות. להפך, היא סבורה שהם יכולים לעבד מידע מורכב, לנתח חלופות ולסייע למקבלי ההחלטות.
עם זאת, היא מדגישה כי במשטר דמוקרטי הריבונות חייבת להישאר בידי בני האדם ונבחרי הציבור. אלגוריתמים צריכים לשמש כלי תומך החלטה בלבד, ולא גורם מחליף.
6. לצד הסיכונים, AI יכול גם לחזק את הדמוקרטיה
חלק משמעותי מהמאמר מוקדש דווקא להזדמנויות.
המחברת מציגה שימושים אפשריים כגון:
* סיכום אוטומטי של התייעצויות ציבוריות.
* ניתוח אלפי תגובות של אזרחים.
* סיוע בהפעלת אסיפות אזרחים (Citizens’ Assemblies).
* הנגשת תהליכי קבלת החלטות לקבוצות רחבות יותר.
* תרגום אוטומטי של קמפיינים פוליטיים לשפות רבות.
* צ’אטבוטים פוליטיים המשיבים לשאלות הציבור.
* שיפור התקשורת בין נבחרי הציבור לבוחרים.
לדבריה, שימושים אלה יכולים להגביר את ההשתתפות הציבורית ולחזק את אמון האזרחים במוסדות הדמוקרטיים.
7. דמוקרטיה דיגיטלית יוצרת גם אתגרי ייצוג חדשים
הרחבת ההשתתפות המקוונת אינה בהכרח פתרון מלא.
המאמר מזהיר מפני הדרת אוכלוסיות בעלות אוריינות דיגיטלית נמוכה, לצד שאלות עקרוניות כמו מי רשאי להשתתף בהתייעצויות ציבוריות, כיצד מאמתים את זהות המשתתפים, וכיצד מונעים השתתפות של גורמים שאין להם זיקה אמיתית לנושא הנדון.
בנוסף, המחברת מדגישה כי התייעצות ציבורית אינה יכולה להחליף אחריות פוליטית. בסופו של דבר, ההחלטה חייבת להישאר בידי נבחרי הציבור.
8. הדרך קדימה: רגולציה, שקיפות ואוריינות דיגיטלית
בפרק ההמלצות קוראת המחברת לאמץ מדיניות פרואקטיבית הכוללת:
* חינוך לאוריינות AI ודיגיטל.
* רגולציה המבוססת על זכויות אדם ושלטון החוק.
* פיקוח עצמאי על מערכות AI.
* שקיפות והסבריות של אלגוריתמים.
* סימון ברור של תוכן שנוצר באמצעות AI.
* קידום פלורליזם וצמצום הטיות.
* קביעת סטנדרטים בינלאומיים אחידים.
לטענתה, רק שילוב של רגולציה, חינוך ושקיפות יאפשר למצות את יתרונות הבינה המלאכותית מבלי לפגוע בדמוקרטיה.
סיכום
המסר המרכזי של המאמר אינו טכנולוגי אלא פוליטי. הבינה המלאכותית אינה דוחפת את הדמוקרטיה לכיוון אחד מוגדר; היא יכולה לשמש הן ככלי להעצמת אזרחים ולהרחבת ההשתתפות הציבורית והן כמנגנון למניפולציה, ריכוז כוח ופגיעה בתהליכים דמוקרטיים. השאלה אינה האם להשתמש ב-AI, אלא כיצד לעצב את הכללים, הפיקוח והמוסדות שיבטיחו שהטכנולוגיה תשרת את הדמוקרטיה ולא תחליף אותה.
קרדיט למאמר
Panagopoulou, Fereniki. Artificial Intelligence and Democracy: Towards Digital Authoritarianism or a Democratic Upgrade? 2025. מאמר אקדמי מאת פרופ’ פרניקי פנאגופולו, מרצה בכירה באוניברסיטת פנטיון (יוון), העוסק בהשפעת הבינה המלאכותית על מוסדות דמוקרטיים, תהליכי בחירות, ממשל דיגיטלי ורגולציה של AI.
אין תגובות:
הוסף רשומת תגובה