זה לא סוד שהאינטרנט עוקב אחרינו על מנת להציע לנו תכנים. הרשתות החברתיות מציפות לנו את הפיד בפרסומות לאוכל דקה אחרי שביקרנו באתר של משלוחים, מציגות לנו 'אנשים שאנחנו עשויים להכיר' בוקר אחרי שראינו אותם במסיבה ומציעות לנו טיסות מוזלות בדיוק אחרי ששוחחנו עם חברים על חופשה.
הרשתות החברתיות, האפליקציות והאתרים עושים ככל שביכולתם כדי לשאוב מאיתנו מידע. ככל שהם יודעים עלינו יותר, כך הם יכולים להציע לנו תכנים מותאמים אישית, לעודד אותנו לרכוש מוצרים ולהשפיע עלינו בדרכים שונות.
כולנו מודעים לכך שאנחנו נתונים במעקב, ורובנו תורמים.ות נתונים לתוך המערכות הללו ולרוב מדחיקים.ות את העובדה שאלגוריתמים של בינה מלאכותית מעצבים את חיינו ואת הדימוי החברתי שלנו. אך מה קורה כאשר אלגוריתמים של בינה מלאכותית מנסים לפענח את הזהות המגדרית שלנו, לתייג ולקטלג את ההעדפות המיניות שלנו, בעולם שבו הקטגוריות המגדריות הופכות לנזילות?
הפרויקט 'פנאופטיקון דיגיטלי מגדרי' שמציג דרור אמסלם חושף טפח מהמנגנון הזה ומזמין אותנו לשאול על מקומנו בתוכו.
במסגרת התואר השני בתקשורת חזותית באקדמית בצלאל, חקר דרור את נושא הבינה המלאכותית תוך שהוא מתמקד בעולם הזהות מגדרית, ובדרכים בהן משתלבים הביטויים המגדריים כמו המין בו נולדנו, המגדר והמשיכה המינית, בתוך הטכנולוגיות השונות.
במסגרת המחקר ערך דרור מספר ניסויים. בניסוי הראשון לקח דרור בינות מלאכותיות ואימן אותן לזהות את הנטייה המינית של האדם על פי תווי הפנים.
"בשלב הראשון אספתי מאות תמונות של אנשים שהסכימו והצהירו בפני מה המגדר שלהם ולמה הם נמשכים. בהמשך לקחתי מספר בינות מלאכותיות של גוגל, IBM ומיקרוסופט ואימנתי אותן לזהות מגדרים ולהבדיל בין הומואים ללסביות. האימון נעשה על ידי הצגת כל תמונה עם ההגדרה המתאימה לה, כאשר הבינה המלאכותית קוראת את הפיקסלים של התמונה ויוצרת איזה שהוא מכנה משותף שמתאים לכל התמונות מאותה ההגדרה. בהמשך שאראה לה תמונה היא תשייך אותה להגדרה שבה יש את מירב המאפיינים הדומים. אם למשל לכל ההומואים שבתמונות שהראיתי לה יש זקן, היא תשייך אדם עם זקן לקטגוריית ההומואים. אבל אם אותו אדם יהיה עם מסכת קורונה שתסתיר את הזקן, היא תשייך אותו לקטגורית הנשים הלסביות.
בשלב האחרון לקחתי אנשים שהסכימו להשתתף בניסוי מקדים והראיתי להם חפצים שמסלילים אותנו כילדים, ועקבתי אחר תנועת האישונים שלהם באמצעות סורק אישונים כדי לראות איזה מגדר נמשך לאיזה אובייקטים ודימויים. מהאובייקטים האלה ייצרתי חוברות, כשכל חוברת מציגה מכנה משותף לשתי קבוצות שונות – בין סטרייטים ללסביות, בין הומואים לנשים סטרייטיות, בקהילה הטרנסית, א-מינים, א-בינאריים ודמי סקסואלים".
מדוע חשבת להתמקד בבינה מלאכותית?
"בעבר עסקתי בעברי במגדר כשהוצאתי את מגזין 'ביד'. מצד שני יש לי רקע בעבודה בעולם הפרסום, שם עסקתי בשימוש בטכנולוגיה על מנת לגרום לצרכן יותר כסף. הגעתי להתמקד בזיהוי פנים ובינה מלאכותית והיה לי מאד חשוב לשלב בזה את המגדר והקהילה הגאה. הגעתי למסקנה שהטכנולוגיה לזיהוי פנים יכולה לזהות אם אתה סטרייט או הומו או לסבית. ואז חקרתי את הקהילה הטרנסית – איך הטכנולוגיה תזהה מישהי שעברה התאמה מגדרית מזכר לנקבה? יש התעלמות מוחלטת מקהילה שלמה".
הטכנולוגיה מכניסה אותנו לתבניות סטריאוטיפיות
שם הפרויקט 'פנאופטיקון' נלקח מעולם האדריכלות, ומתאר מבנה אדריכלי שהגה האדריכל ג'רמי בנתם, שבמרכזו עמוד שבו נמצאים הסוהרים, בעוד האסירים נמצאים במעטפת ומופרדים במחיצות, כך שהם לא יודעים מי מימינם ומשמאלם. מאחורי כל אסיר יש חלון ענק עם אור כך שהסוהר רואה את הצללים שלהם ויכול לראות מה הם עושים ולשלוט בהם מבלי שהם ידעו אם הוא שם או לא.
"הרשתות החברתיות פועלות על אותו עיקרון", מסביר דרור, "התאגידים עוקבים אחרי כל פעולה שלנו שלי שאנחנו בעצם רואים מה הם עושים, ומה קורה עם המידע שהם אוספים עלינו תוך כדי הצפייה בפעולות שלנו. כשאנחנו מעלים פוסט אנחנו רואים מי ראה את הפוסט ומה הגיבו לנו, אבל אנחנו לא רואים מה קרה איתו בהמשך. הפוסט שכתבת מצטרף למידע שתרמנו מיוזמתנו ולכל מה שנאסף עלינו, וכל המידע הזה משמש ליצירת איזה שהו פרופיל וירטואלי שעל פיו מתאימים לי את המידע, הפרסומות, התכנים והחברים. הפרופיל הזה נבנה ע"פ סטטיסטיקה ומבוסס על סטיגמות חברתיות. אם אני מזדהה כמתעניין במכוניות אני מוגדר גם כגבר סטרייט. היום ניתן ברשתות החברתיות לפנות ולפלח קהל סטרייטי, הומואים או קווירים.
מצד אחד זה טוב מצד שני זה מגביר את תרבות הצריכה ויוצר שליטה שהיא לא בשליטתי. אנחנו מקבלים דברים תמורת המידע שאנחנו נותנים, כמו למשל תיבת מייל ענקית חינם מגוגל, אבל בתמורה אנחנו משלמים מחיר שכולל חדירה לפרטיות עד רמת ה-DNA שלנו – איפה אנחנו נמצאים, מה אנחנו עושים ועם מי. גם אדם שפוגש אותך ברחוב יכול לדעת עליך דברים, אבל הטכנולוגיה יכולה לעשות את זה יותר מהר ויותר מתוחכם, לראות מה אתה קורא ולהשתמש בזה. מאזינים ולפי מילות מפתח מציעים פרסום. רואים באיזה מקום היית ומי עוד היה שם ומציעים לך אותם כחברים בפייסבוק".
זה נשמע קצת פרנואידי, האם זה באמת כל כך נורא שבנוסף לכל מה שהתאגידים הגדולים יודעים עלינו הם ידעו בנוסף גם את הנטייה המינית שלנו?
"אם למשל אתה לוקח את הטכנולוגיה הזו ושם אותה בגבול של איראן, אתה יכול להגיע ויפעילו עליך את המצלמה ואז יודיעו לך במקרה הטוב שאתה לא נכנס, או שיעצרו אותך וייקחו אותך לכיסא החשמלי".
מטרת המחקר של דרור היא לא להוכיח לנו שניתן לזהות נטייה מינית דרך תווי הפנים, אלא להעלות למודעות את העובדה שהטכנולוגיות היומיומיות שסובבות אותנו היום כבר מתיימרות לעשות את זה, ובהתאם לכך הן אוספות עלינו מידע ובונות עבורנו פרופיל המשמש את החברות הגדולות.
"המטרה שלי היא להראות לאנשים איפה הם נמצאים ביחס לזה. להדליק נורה אדומה שנבין שאנחנו נמצאים כל היום תחת המעקב הזה, אבל הוא יכול להיות נתון לשליטתנו. אם אתה רוצה לשמור על הפרטיות אתה צריך להבין איך שולטים, איך משתמשים בה לשפר את חיינו ולא למסור אותם לתאגידים".
להפוך מצופים לנצפים
אז איך זה מרגיש להיות נצפה, מאובחן ומנותח על ידי בינה מלאכותית? אם עוד לא הרגשתם את זה בדרך שהרשתות החברתיות פונות אליכם, תוכלו לעבור את התהליך הזה בצורה מואצת בתערוכת הבוגרים, בה יוצג הפרויקט של דרור.
"כל מי שמגיע לתערוכה יעבור ניסוי שהוא חוויה. התערוכה תהיה בנויה משני חללים, החלל הראשון הוא מעבדה בה ייאסף הדאטא על המבקר ובחלל השני יוכל המבקר לצפות בתהליך שעוברת הדאטה שנאספה עליו, כולל ניתוח הדאטא על ידי בינה מלאכותית שתזהה את המאפיינים המגדריים ותצמצם אותם לתבנית אחת. המבקרים בתערוכה לא מגיעים רק לצפות, ברגע שהם מתחילים לשתף פעולה הם הופכים מצופה לנצפה, שזה בעצם מה שקורה לנו במציאות".
אתה מאמין שאכן ניתן זהות נטייה מינית על פי תווי פנים?
"מטרת העבודה היא לא לחזק את האמונה אלא את הביקורתיות. כל העניין הוא להעניק לאנשים חוויה שתעזור להם להבין את המציאות ולהתמודד מול הטכנולוגיה, לחשוף איך המנגנון שלה פועל ולתת לאנשים להבין שאנחנו נמצאים מול טכנולוגיות כאלה כל היום. הטכנולוגיות טוענות שהן 'יודעות' אבל בסופו של דבר הן מכניסות אותנו לסטטיסטיקה ובהתאם לזה מוכרות לנו דברים, מתאימות לנו תכנים לקריאה ומכניסות אותנו לתבניות. יש לנו היום דור שהוא פלואידי שיום אחד רוצה גבריות וביום השני רוצה לשים לק. התבניות שבהן פועלות הטכנולוגיות מתעלמות מהדור הזה לחלוטין".
EXIT תערוכת בוגרי.ות התכנית לתואר שני בתקשורת חזותית בצלאל | 30.9-13.10 | אלנבי 43 תל אביב
