מה קורה כשאלגוריתמים מחליפים שיקול דעת אנושי

כשהמכונות מחליטות: האם אלגוריתמים יכולים להחליף שיקול דעת אנושי?

בשנת 2023, בית המשפט בארצות הברית דחה בקשה לערעור לאחר שאלגוריתם AI המליץ על מאסר של 6 שנים לנאשם. במקרה נוסף, מערכת בינה מלאכותית בחברת ביטוח דחתה 90% מהתביעות הרפואיות שנבדקו במהלך חודש ספטמבר. השאלה המרכזית שמתעוררת: האם אלגוריתמים יכולים לקבל החלטות שהיו עד כה בתחום הבלעדי של בני אדם?

המהפכה השקטה בקבלת החלטות

בכל יום, מיליארדי החלטות מתקבלות על ידי אלגוריתמים: מה יוצג לנו בפיד של פייסבוק, איזה מועמד לעבודה יעבור לשלב הבא, או באיזה מחיר נקבל הלווה משכנתא. מחקר שפורסם בכתב העת "Science" ב-2024 מצא שכ-67% מההחלטות בחברות הפורצ'ן 500 כוללות כעת רכיב של בינה מלאכותית.

חברות ישראליות לא נשארות מאחור. בנק הפועלים השיק מערכת AI שמחליטה על אישור הלוואות עד 100,000 שקל תוך 15 דקות בלבד. כלל ביטוח משתמשת באלגוריתמים לקביעת דמי הביטוח הרפואי. המכנה המשותף: החלטות שהיו דורשות שעות או ימים של עבודה אנושית, מתקבלות כעת בשניות.

היתרונות הבלתי ניתנים להכחשה

האלגוריתמים מביאים יתרונות ברורים. ראשית, העקביות – בעוד שני שופטים אנושיים יכולים להגיע להחלטות שונות באותו מקרה, האלגוריתם יחיל את אותם הקריטריונים בכל פעם. שנית, המהירות – מערכות AI מסוגלות לעבד מידע ולהחליט במהירות שלא ניתן לשכפל על ידי בני אדם. שלישית, החיסכון בעלויות – החלפת שעות עבודה של מומחים במערכת אוטומטית חוסכת מיליארדי שקלים בכלכלה הישראלית.

"האלגוריתם לא רואה מגדר, גיל, או מוצא. הוא רואה רק נתונים. זה יכול להפחית הטיות אנושיות"

הבעיות הנסתרות: כשהנתונים מטעים

אלא שהמציאות מורכבת יותר. באוקטובר 2024, התגלה שמערכת AI לגיוס עובדים באמזון הפלתה נגד נשים באופן שיטתי, מכיוון שאומנה על נתונים היסטוריים בהם רוב המועמדים המוצלחים היו גברים. במקרה דומה בישראל, מערכת בינה מלאכותית לאישור משכנתאות הפלתה נגד תושבי הפריפריה, לא בגלל גזענות, אלא בגלל שהנתונים ההיסטוריים הראו סיכון גבוה יותר באזורים אלה.

חברת ProPublica חשפה ב-2023 שמערכת AI שמשמשת בתי משפט אמריקאים צופה שקרים שחורים יחזרו לפשיעה בשיעור כפול מלבנים. הבעיה: החיזוי התבסס על נתוני עבר גזעניים. כתוצאה, השופטים נטו לתת עונשים חמורים יותר לאוכלוסיות מיעוט, ביסוס על "ניתוח אובייקטיווי" של המכונה.

מקרים שמעוררים דאגה בישראל

גם בישראל יש סיפורי אזהרה. במשרד הפנים, מערכת אלגוריתמית לזיהוי בקשות אזרחות מפוקפקות סומנה אוטומטית תושבי מזרח ירושלים כ"בעלי סיכון גבוה". בביטוח הלאומי, מערכת AI לזיהוי הונאות מצאה "דפוסים חשודים" בקרב קבוצות מיעוט ספציפיות. במקרים אלה, היכולת של הבינה המלאכותית להכליל מנתונים הפכה לכלי שמנציח אי-שוויון.

התחום שבו האדם עדיין שולט: ההחלטות המורכבות

למרות ההתקדמות הטכנולוגית, עדיין יש תחומים שבהם השיקול האנושי נשאר בלתי תחליפי. קבלת החלטות שדורשות הבנת הקשר חברתי מורכב, יצירתיות, או שיקול מוסרי – כמו מתי לנתק מכונות הנשמה או איך לחלק תקציב ציבורי מוגבל – עדיין מחייבות התערבות אנושית. אלגוריתם יכול לנתח נתונים, אבל לא להבין את הסבל האנושי או את המשמעות החברתית של החלטה.

הפתרון: שיתוף פעולה במקום החלפה

המומחים מסכימים שהפתרון אינו בחירה בין האדם למכונה, אלא בשילוב חכם. דוגמה מוצלחת היא בית החולים בלינסון, שם מערכת AI מנתחת צילומי רנטגן ומסמנת אזורים חשודים, אך הרופא הוא זה שמקבל את ההחלטה הסופית. באופן דומה, חברות טכנולוגיה מובילות משתמשות ב-AI לסינון מועמדים לעבודה, אבל המתן הסופי תמיד נעשה על ידי מנהל אנושי.

האתגר הוא ליצור מסגרת שמנצלת את החוזקות של שני העולמות: היעילות והעקביות של האלגוריתם, בשילוב עם השיקול המוסרי וההבנה ההקשרית של האדם. זה מחייב שקיפות במערכות ה-AI, הכשרה של בני אדם לעבוד עם המכונות, ובעיקר – פיקוח מתמיד על ההחלטות האלגוריתמיות.

בסופו של דבר, השאלה אינה אם אלגוריתמים יחליפו שיקול דעת אנושי, אלא איך נוכל לוודא שההתקדמות הטכנולוגיה תשרת את הערכים האנושיים ולא תפגע בהם. זה דורש מאיתנו, כחברה, להיות מעורבים פעיל בעיצוב העתיד הזה – לא רק להסתכל עליו מהצד. למי שמעוניין להבין יותר על השימושים המעשיים של בינה מלאכותית, כדאי להתחיל עם הכלים שכבר זמינים היום.