האם בינה מלאכותית באמת יכולה להיות אובייקטיבית?

הוויכוח הגדול: האם בינה מלאכותית באמת יכולה להיות אובייקטיבית?

מחקר חדש של אוניברסיטת סטנפורד חושף כי מודלי בינה מלאכותית מובילים מפגינים הטיות משמעותיות בנושאים פוליטיים, חברתיים ותרבותיים. המחקר, שנערך על פני 6 חודשים ובדק 12 מודלי AI שונים, מצא כי אף מודל לא הצליח לספק תשובות נטולות הטיה במלואן. התוצאות מעוררות שאלות חדות לגבי האמינות של ChatGPT ומערכות דומות בתהליכי קבלת החלטות.

הטיות שנמצאו במחקר

החוקרים זיהו שלושה סוגי הטיות עיקריים במודלים הנבדקים. ההטיה הראשונה היא פוליטית – מודלים שונים הפגינו נטייה לעמדות של שמאל או ימין פוליטי, תלוי בנתוני האימון שלהם. לדוגמה, GPT-4 הפגין נטייה ליברלית קלה, בעוד שמודל אחר של Meta הפגין עמדות שמרניות יותר.

ההטיה השנייה היא תרבותית – המודלים העדיפו תרבויות מערביות על פני אחרות, והפגינו הבנה מוגבלת של הקשרים תרבותיים לא-מערביים. ההטיה השלישית היא לשונית – מודלים שאומנו בעיקר על תוכן באנגלית הפגינו ביצועים חלשים יותר בשפות אחרות, כולל עברית.

המקור להטיות: נתוני האימון

פרופ' מרק טומס, מנהיג המחקר, מסביר כי המקור העיקרי להטיות הוא בנתוני האימון. מודלי הבינה המלאכותית לומדים מטקסטים שנכתבו על ידי בני אדם, שמטבעם מכילים הטיות, דעות ותפיסות עולם שונות. כאשר מודל נחשף ליותר תכנים מסוג מסוים, הוא מפתח נטייה לאמץ את העמדות הרווחות באותם תכנים.

"אין דבר כזה AI נטול הטיה. הטיות הן חלק בלתי נפרד מהתהליך, כי הן נובעות מהנתונים עליהם המודלים מתאמנים"

ניסיונות להקטין הטיות

חברות הטכנולוגיה מודעות לבעיה ומנסות למזער הטיות באמצעות מספר טכניקות. OpenAI משתמשת ב"Constitutional AI" – שיטה שבה המודל לומד לזהות ולתקן הטיות בתשובותיו. Google פיתחה מערכת "Perspective API" שמזהה תכנים שעלולים להיות פוגעניים או מוטים.

עם זאת, מומחים טוענים שהשיטות הקיימות אינן מספיקות. ד"ר שרה חן מ-MIT טוענת כי "אפילו אם נצליח לזהות ולתקן 90% מההטיות, ה-10% שנשארים עדיין יכולים להשפיע על מיליוני החלטות יומיות".

השלכות על קבלת החלטות

הבעיה מתחדדת כאשר מודלי AI משמשים לקבלת החלטות חשובות – גיוס עובדים, אישור הלוואות, או אבחון רפואי. במחקר נפרד שנערך בגרמניה, נמצא כי מערכת AI לסינון קורות חיים הפלתה בצורה שיטתית נשים וקבוצות מיעוט. הבעיה דומה עלתה גם בישראל, כאשר אפליקציות בינה מלאכותית לסינוף רפואי הפגינו הטיות כלפי חולים ממוצא מסוים.

פתרונות אפשריים לעתיד

מומחים מציעים מספר כיוונים לפתרון הבעיה. הראשון הוא שקיפות מלאה – חברות צריכות לחשוף את נתוני האימון ואת השיטות לזיהוי הטיות. השני הוא רגולציה ממשלתית – מדינות רבות כבר מתחילות לחוקק חוקים המחייבים בדיקת הטיות במערכות AI. השלישי הוא פיקוח אנושי מתמשך – החלטות קריטיות צריכות להישאר בידי בני אדם, עם AI כעזר בלבד.

המצב בישראל

בישראל, משרד החדשנות והטכנולוגיה הקים ועדה לבחינת השפעות AI על החברה, כולל בחינת נושא ההטיות. הוועדה מתכננת לפרסם המלצות ראשונות עד סוף השנה. במקביל, אוניברסיטת תל אביב והטכניון מובילים מחקרים בתחום, במטרה לפתח כלים לזיהוי והפחתת הטיות במודלים הפועלים בעברית. התפתחויות אלה חשובות במיוחד למי שמתכנן להשתמש בכלים מתקדמים לצרכי SEO ו-2025.

הדיון על אובייקטיביות AI יימשך ויתעצם בשנים הקרובות, במיוחד כאשר המודלים הופכים חזקים ונפוצים יותר. עד שלא יימצא פתרון מושלם, המלצת המומחים היא להשתמש ב-AI כעזר ולא כמחליף לשיפוט אנושי, במיוחד בהחלטות המשפיעות על חיי אדם. מי שרוצה להבין טוב יותר את הנושא יכול לקרוא את המדריך שלנו על חברות AI ולעקוב אחר ההתפתחויות המתמשכות.