אפל הבטיחה כרטיס אשראי “מסוג חדש”, וקיימה כרטיס שמפלה נשים

אפל קארד, כרטיס האשראי הנוצץ של חברת אפל, מתהדר בהיותו "כרטיס מסוג חדש". החידוש, כפי שמסתמן כעת, הוא אפליה כנגד נשים. בניו יורק נפתחה חקירה רשמית בגין מקרים בהם הליך הבדיקה הפיננסית מעניק לנשים מסגרות אשראי נמוכות עד פי 20 או אף מניעת גישה לכרטיס מלכתחילה.

דייויד היינמאייר הנסון, יזם היי-טק, פרסם בשבוע שעבר כיצד הוא ואשתו, הנשואים זמן רב עברו אותו הליך בדיקה פיננסית לקבלת האפל קארד, אך הוא זכה למסגרת אשראי גדולה פי 20, למרות שנתוניהם הכספיים זהים ומדווחים ביחד.

The @AppleCard is such a fucking sexist program. My wife and I filed joint tax returns, live in a community-property state, and have been married for a long time. Yet Apple’s black box algorithm thinks I deserve 20x the credit limit she does. No appeals work.

— DHH (@dhh) November 7, 2019

הציוץ זכה לכמעט 10,000 שיתופים ולתגובה מרתקת במיוחד של סטיב ווזניאק, ממייסדי אפל, שנתקל בעצמו בתופעה דומה, בו הוא קיבל מסגרת גדולה פי 10 מזו של אשתו, למרות שהזוג לרא מחזיק בחשבונות או נכסים נפרדים.

The same thing happened to us. We have no separate bank accounts or credit cards or assets of any kind. We both have the same high limits on our cards, including our AmEx Centurion card. But 10x on the Apple Card.

— Steve Wozniak (@stevewoz) November 10, 2019

בעקבות הפרסום, נזכרה בוני גיפסון שבקשתה לאפל קארד נדחתה לחלוטין, וביקשה מבעלה לבקש גישה. הוא דווקא קיבל כרטיס בלי בעיה, למרות שדירוג האשראי שלה גבוה משלו ב-40 נקודות.

Same with me I got denied, husband gets approved (very nicely approved) my credit score is 40 points higher then his. We have joint accts and reported the same income on both. I did mine right after the Apple Card came out and we did his tonight after reading this. Unbelievable????

— Bonnie Gipson (@mscookie1968) November 13, 2019

לינדה לייסוול, רגולטורית מהמחלקה לשירותים פיננסיים במדינת ניו-יורק הודיעה על פתיחה בחקירה כנגד אפליה מגדרית בנושא. לפי הודעתה, חברות שירותים פיננסיים אחראיות לפרקטיקות מפלות, גם אם הן לא נעשו בכוונה, כפי שכנראה קרה במקרה זה, המבוסס של שימוש באלגוריתם ממוחשב לקביעת הזכאות לכרטיס ומסגרת האשראי. המחלקה פנתה לציבור, וביקשה עדות מכל מי שלדעתה היא קורבן לאפליה בהקשר זה.

ווזניאק כתב שלדעתו, במקרה זה, לא נכון להטיל את כל האחריות על הבנק, ואפל אמורה לשאת בחלק ממנה. דובר מטעם הבנק מסר כי "כמו בכל כרטיס אשראי אחר, הבקשה נבחנת באופן אישי, אנו בודקים את עמידות האשראי של המבקש שכוללת נתונים כמו דירוג אשראי אישי, כמה חוב יש לו, ובאיזה אופן הוא מנוהל. על בסיס גורמים אלו, ייתכן ששני בני משפחה שונים יזכו להחלטות אשראי שונות. בכל המקרים, לא נקבל החלטות על בסיס מגדר" – תגובה אשר מנוגדת לעובדות הפשוטות, כפי שדיווחו הלקוחות ברשת.

לאחרונה, נפתחה חקירה דומה כנגד חברת יונייטד הלת’ גרופ, אשר מספקת שירותים רפואיים, בטענה כי אלגוריתם שהיא מפעילה מפלה לרעה מטופלים שחורים לעומת לבנים. לפי המחקר שהוביל לחקירה, אלגוריתם של החברה, הנמכר לבתי חולים, מעניק דירוג סיכון זהה לחולים שחורים ולבנים, גם כאשר מצבם הרפואי של השחורים חמור יותר, ובכך מסיט את בית החולים מלתעדף את הטיפול בהם.

מהו האפל קארד ומדוע הוא מפלה נשים ?

אפל קארד, הוא כרטיס אשראי מתוצרת אפל שהשוק בספטמבר האחרון, שמשווק כ"כרטיס מסוג חדש, שנוצר על ידי אפל, לא על ידי בנק". כעת, כאשר מתגלות הפרקטיקות של אפליה נגד נשים, בחברה ממהרים להעביר את האחריות לבנק המפעיל של הכרטיס, גולדמן סאקס. הכרטיס אמור לאפשר מעקב נח אחר סוגי ההוצאות ומקודם באמצעות הסדרי החזרים של 1%-3% בגין רכישות שונות וחיבור נח לתשלום באמצעות האייפון.

הסיפור תפס תאוצה לאחר פרסומים באתרים כלכליים כמו בלומברג וביזנס אינסיידר, אך בינתיים לא התברר סופית מי מנהל את הליך בדיקת הבקשות –  חברת אפל או הבנק גולדמן סאקס?

לפי הנסון, הבעיה נעוצה בכך שאותם אלגוריתמים, פועלים כ-"קופסא שחורה", הם לא שקופים ופתוחים לציבור, ובאופן תיאורטי, ייתכן שגם מפעיליהם לא מבינים עד הסוף את שיטת פעולתם, ככל שהם מבוססים על טכניקות של "למידת מכונה", בהן מפתחת אינטילגנציה מלאכותית המאתרת דפוסים חוזרים בקרב כמויות מידע עצומות, ומפתחת לעצמה קריטריונים להערכה, מבלי שאלו הוכתבו מראש.

גם אם היום החברות המפעילות נדרשות לעמוד בכללים ברורים לגבי שירות שוויוני, העברת יותר ויותר החלטות מבני אדם לאלגוריתמים ממוחשבים מגדילה את הסיכון לתוצאות בעייתיות, גם אם לא תוכנתו כך מראש.