בין פייזר לווטסאפ.
של מי הנתונים האלה?


פורסם במקור במסגרת המגזין המקוון האהוב עלי מאד ״שיחה מקומית״




שני אירועים פרצו בימים האחרונים לתודעה הציבורית שהקשר ביניהם אולי לא ברור במבט ראשון. הראשון הוא הכותרות על ועדת הלסינקי והכרזותיה בהקשר למבצע החיסונים של פייזר, והשני הוא הסערה סביב אפליקציית ווטסאפ, שהודעתם על שינוי במדיניות הפרטיות גרמה למיליוני משתמשים לעבור ליישום המסרים סיגנל.

למה שני האירועים הללו נוגעים באותה נקודה? ואיך שניהם קשורים לחיים של כולנו בין אם אנחנו מודעים לכך או לא?


״ניסוי בבני אדם!!!!!1!״



המולה והתרגשות, כותרות ראשיות: ״ועדת הלסינקי מכריזה: פייזר עושה בישראל ניסוי על בני אדם ללא אישור.

הו! האם החיסון לא אושר כראוי? האם הפכנו לעכברי מעבדה של פייזר ובקרוב נקרוס כולנו תחת גל של תופעות לוואי איומות ומחלות אוטואימוניות? לא ממש, או ליתר דיוק ממש לא. בסרטון ההבהרה שהוציא פרופ׳ איתן פרידמן, יו״ר ועדת הלסינקי, הוא פותח את דבריו במסר הבא:

״קודם כל אני רוצה להגיד באופן חד משמעי שאינו משתמע לשתי פנים: אני, יחד עם כל הרופאים שהם חברי ועדת הלסינקי העליונה, תומכים, רוצים וקוראים לכל אחד ואחת שאין התווית נגד ללכת ולהתחסן.

החיסון איננו ניסוי קליני. החיסון מאושר. החיסון מבוסס על קליניקה, מבוסס על נסיונות, מבוסס על אישורים.

אין כל קשר בין מבצע החיסונים המופלא, הנפלא, עם ההיענות היוצאת מהכלל של אזרחי מדינת ישראל לקבל את החיסון הזה ולהבין את היכולות ואת התועלת שלו להחזיר את חיינו חזרה, לבין ניסוי קליני ואין אפילו שאלה כאן. מתן החיסון ניתן על בסיס קליני, לא צריך שום אישור אתי, לא צריך שום אישור רגולטורי, לא צריך שום מעורבות של ועדת הלסינקי״.

בהחלט נשמע חד משמעי ולא משתמע לשתי פנים, גם אם ברשתות החברתיות נפוצו השערות על מצבו הנפשי של פרופ׳ פרידמן בזמן צילום הסרט, כולל השוואות לאדמירל ג׳רמייה דנטון, הטייס האמריקאי שאותת את מצוקתו במצמוצי מורס בזמן ששוביו הצפון וויאטנמיים אילצו אותו לדקלם למצלמה טקסטים מוכתבים מראש. מה קרה אם כן? מדוע ועדת הלסינקי סבורה שבכל זאת יש פה בעיה?

כפי שפרופ׳ פרידמן הבהיר היטב, הבעיה מבחינת הועדה אינה עם החיסון עצמו אלא עם ההסכם של מדינת ישראל להעברת נתונים לפייזר. הטענה היא שחברת פייזר מקבלת נתונים באופן ההופך את בדיקת יעילותו של החיסון במניעת הדבקה למחקר, ולמחקר נדרש אישורה של הועדה. גם בנקודה הזו היה חשוב לפרופ׳ פרידמן להבהיר שהועדה לא סבורה שיש כל פסול במחקר שכזה. ההיפך. הוא הדגיש שכל העולם כולל אנחנו נרוויח מלדעת לאשורן את תוצאות מניעת ההדבקה כתוצאה מהחיסונים, שמדובר במצב של win-win גם לפייזר וגם לאנושות. דרישתו היחידה הייתה שיהיה פיקוח מקצועי על העברת הנתונים כדי לוודא שאין בעיות אתיות של חשיפת מידע על אזרחים שלא במתכוון. זו הרי הגדרת תפקידה של ועדת הלסינקי – לוודא שניסויים רפואיים יתקיימו לפי כללים אתיים.

עם ההבהרה של פרופ׳ פרידמן מיהרו לתקן את כותרות העיתון. למעשה תיקון אחד לא הספיק ושיפור העמדות לאחור המשיך לאורך הלילה עד שההר ״פייזר עושה בישראל ניסוי על בני אדם ללא אישור״ הוליד את עכבר ״ועדת הלסינקי רוצה לאשר את ההסכם בין ישראל לפייזר״.לא מדובר בכתבות שונות – זו אותה הכתבה, מאת אותו כתב וגם שעת הפרסום המצוינת זהה (12:31).




גרסאות כלכליסט



מעבר לדיווח המזיק והשערורייתי בתקשורת, לא ברור האם נדרש אישורה של ועדת הלסינקי. הרצון במעקב אחר תוצאות מבצע ההתחסנות אינו כרוך במעקב פרטני אחרי המתחסנים עצמם וההגדרה של איסוף הנתונים כניסוי שנויה במחלוקת בין משפטני הוועדה לבין משפטני משרד הבריאות.

נקודה נוספת היא שמבחינת החוזה לא נראה סביר שיועברו נתונים כלשהם שאינם נמצאים כבר כחלק מהנתונים הסטטיסטיים שמשרד הבריאות מעלה לאתרו דרך קבע. גם עורכת הדין תהילה שוורץ-אלטשולר מהמכון הישראלי לדמוקרטיה, מדמויות המרכזיות בהתנעת החלטת הועדה, מעריכה. שסביר שבפועל אין כל בעיה עם הנתונים שיועברו:

״לו היו מבקשים את הסכמתי אני חושבת שהייתי מסכימה. […] על מה כל המהומה? החשש הוא מ׳זיהוי חוזר׳ של מידע, גם מידע שמועבר באופן אנונימי או קבוצתי. […] אם יעבור ׳זיהוי מחדש׳, אז לא רק חברות תרופות ישתמשו בו. זה עלול להגיע לבנקים, חברות ביטוח ולמעסיקים שלנו.״

מדוע עלה חשש כזה אם הוגדר שהנתונים עוברים התממה (אנונימיזציה) ושהם יועברו בצורה אגרגטיבית (כצבירי נתונים ולא כפרטים)? חלק מהדברים שהטרידו את חברי ועדת הלסינקי אפשר למצוא בנספח B סעיף 1.1 לחוזה, המגדיר שחברת פייזר תקבל לפחות את מספר הנשאים, המאושפזים, החולים הקשים, המונשמים ועוד מידע שמשרד הבריאות מפרסם כבר היום על בסיס יומי, ובנוסף נכתב שהמידע יסופק ״בתוספת פילוחים שונים״.




pfizer contract



השאלות שאפשר היה לקרוא ברשתות החברתיות ומן הסתם עלו גם בדיוני הועדה היו:  

  1. אם מדובר במידע המפורסם פומבית, למה יש צורך בחתימת חוזה?
  2. מה משמעות המילה “לפחות״?
  3. מהן אותן ״תת קבוצות״ ואותם ״גורמי פילוח נוספים״?

באשר לשאלה הראשונה, הצורך בחתימת חוזה מובן. אפילו אם המידע ציבורי ומפורסם בשגרה, מובן שחברת פייזר רוצה להיות בטוחה שהנתונים אכן ימשיכו לעבור ולא להיות תלויה בגחמותיו של משרד הבריאות או אנשי אחזקת האתר שלו. גם חברי ועדת הלסינקי לא טוענים שמתבצע כאן משהו שבהכרח אינו כשורה, אלא שבקשתם הברורה היא ללוות את התהליך באנשי מקצוע רלוונטיים.

ובאשר לשתי השאלות הנוספות, מקריאת החוזה כולו ברור למדי שאיסוף הנתונים לא אמור לחרוג מהמידע המפורסם ממילא על ידי המשרד. אפשר גם לראות שבמספר מקומות במסמך מוגדר שמדובר על נתונים מותממים (de-identified). מה שהוועדה דורשת הוא פיקוח נאות על ידי גוף מקצועי האמון על כך כדי לוודא שאין חשש ל״זיהוי חוזר״, מאחר וככל שיש יותר פילוחים עולה הסיכון לבצע הצלבות ביניהם וכך להגיע למידע פרטי.

נקודה מהותית נוספת שראוי להתעכב עליה היא סוגיית הבעלות על המידע. חלקים בחוזה הושחרו, כולל קטעים מסעיף 8 העוסק בבעלות על המידע המועבר. אולי לא רבים יודעים זאת, אבל ממש כמו הגז הטבעי גם מידע הבריאות של ישראל הוא משאב נדיר. השילוב הייחודי של דיגיטציה גבוהה יחד עם 4 קופות חולים המרכזות את נתוני כל התושבים יצרו מאגר דיגיטלי של נתונים רפואיים שאין לו אח ורע בעולם. ב-2010 למשל עבדו 100% מרופאי ישראל באמצעות ממשק דיגיטלי לעומת 25% בלבד בארה״ב. והיכולות שועטות קדימה: בימים אלה מוקם פרויקט פסיפס השאפתני שירכז נתונים רפואיים ודגימות ביולוגיות ממדגם מגוון של מאות אלפי אנשים.

אוסף עצום זה של נתונים מלידה עד מוות, של מיליוני אנשים במשך עשורים, מהווה משאב שלא יסולא בפז למחקרים הזקוקים לביג-דאטה רפואי דיגיטלי. זהו משאב רב ערך גם רפואית וגם כספית – הערכות האנליסטים חוזות ששוק הבריאות הדיגיטלית הגלובלי יזנק מ-86$ מיליארד (ב-2018) ל-640$ ב-2026.

אך של מי בעצם הנתונים? נדרש איזון בין התועלת הבריאותית, המלווה גם בהכנסות של מיליארדי שקלים למערכת, לבין שמירת הסודיות הרפואית של האזרחים. ב-2019 פרסם משרד הבריאות להערות הציבור את טיוטת ״תקנות זכויות החולה (שימוש מחקרי במידע בריאות)״. תגובת המכון הישראלי לדמוקרטיה לטיוטה ציינה בין השאר כי:

״לפי החלטת הממשלה השימושים במידע בריאותי ייעשו בהתאם לחוק ותוך שמירה עלפרטיות וסודיות רפואית. אולם החלטת הממשלה […] מתייחסת לזכות לפרטיות בעיקר כאל מכשול משפטי שיש להתגבר עליו ולא כאל זכות אדם המוגנת בחוק יסוד״, לתפיסתם מדובר בפוטנציאל ל״אחת מהפגיעות הרחבות ביותר בפרטיות של אזרחי מדינת ישראל הקיימות היום. מידע ביומטרי ורפואי שהאפשרות לייצר זיהוי חוזר לגביו עלולה לחשוף את אזרחי ישראל לסיכונים חסרי תקדים, הן מצד רשויות המדינה הן מצד חברות פרטיות״.

ההסכם בין ישראל לחברת פייזר הוא מנוף מרכזי לחילוץ ישראל מהמצב, והפיכתה כנראה למדינה הראשונה בעולם עם כיסוי חיסוני מקיף שמאפשר להיפרד מהתחלואה, מהתמותה ומבתי החולים המתפקעים. ברורים הטיעונים לפיהם מדובר בשעת חירום ו״פיקוח נפש דוחה פרוטוקול״ ומובן החשש מפני האפשרות בה יוכשל הסכם מציל חיים בגלל ״נוקדנות משפטית״ לכאורה. במשחק הדמוקרטי יש אכן איזון עדין בין טובת הפרט לטובת הכלל.

גם ועדת הלסינקי מודעת היטב לחשיבות ההסכם ופרופ׳ פרידמן הדגיש למשל בהודעתו שהכוונתה היא לקדם אישור מיידי. אך תוך ווידוא שיש בקרה הולמת שמוודאת שהמערכת לא לוקחת כמובן מאליו את הנתונים שצברה על משתמשיה.

אין טעם כאן להיכנס לשאלה המשפטית/רפואית האם הועדה פועלת בסמכות או לא. מובטחני שממש ברגעים אלה יועצים משפטיים ואחרים מתפלפלים במשרד הבריאות האם הייתה או לא הייתה חריגה מסמכות בסעיף 7.2 בחוזה, בו המשרד טוען שההסכם ״פטור מאישור ועדת בקרה חיצונית (IRB)״ דוגמת ועדת הלסינקי, והאם אכן מדובר במחקר או ניסוי כטענת הועדה או שמא ההיפך הוא הנכון.



no IRB




בין אם ועדת הלסינקי פעלה בסמכות משפטית או לא, הנקודה המהותית אינה עצם קיום ההסכם ובוודאי שלא החיסון. סלע המחלוקת כאן הוא היחס של המערכת אל משתמשיה והאופן בו היא משתמשת במידע שהיא צוברת עליהם. בתקופה זו של שפל חסר תקדים באמון הציבור בדרג הפוליטי, כאשר מגזרים שלמים סבורים שנציגי הציבור לא רואים דווקא את טובת האזרח לנגד עיניהם אלא פועלים ממניעים לא ענייניים, משפטיים, קואליציוניים ואחרים. בימים כאלה כדאי שהדרג המקצועי ירבה ככל האפשר בשקיפות וימעיט ככל האפשר בהשחרת סעיפים.

כל הנפשות בסיפור, הן מצד משרד הבריאות והן מצד ועדת הלסינקי, פועלות עבור מטרה טובה מאין כמוה ומצער מאד שטיפול תקשורתי סנסציוני וריבוי קונספירציות ברשתות מערערים זאת.



״ווטסאפ תשתף את הנתונים שלנו!״
אה, זה כבר קרה?



מעט לפני הכרזתה של ועדת הלסינקי, הכרזה נוספת שהיכתה גלים הייתה ההודעה של חברת ווטסאפ על עדכון למדיניות הפרטיות שייכנס לתוקף בפברואר.




עדכון מדיניות הפרטיות ווטסאפ



על פניו מחול השדים שהדבר יצר היה תמוה מאחר והעדכון המתוכנן היה חסר משמעות מבחינת רוב מוחלט של המשתמשים (שאינם משתמשים ב Whatsapp Business). רבים פירשו אותו כ״ווטסאפ עומדת להתחיל לשתף את המידע עלינו עם פייסבוק״, אלא שלמעשה כבר מ-2016 משתפת וואטסאפ עם פייסבוק את אותו המידע שהיא תשתף גם בעתיד. השינוי המדובר עמד להשפיע מבחינה זו רק על המשתמשים יחידי הסגולה שבחרו לסרב לשיתוף המידע הזה בתקופה הקצרה ב-2016 בה עוד הייתה אפשרות לעשות זאת.

הניצוץ היה אולי קטן, אבל חומר הבערה היה מוכן. האם היה זה הניסוח של הודעת העדכון של ווטסאפ? העובדה ששמה של פייסבוק הוזכר בה? הסנטימנט הציבורי בעקבות סרטים כמו “The Social Dilemma” או פרשיות כמו זו של Cambridge Analitica? השיח ההולך ומתרחב על המניפולציות שהרשתות החברתיות מבצעות בפיד שלנו והנזק העצום כתוצאה מכך בעולם האמיתי? כך או כך,  העדכון השולי למדי שווטסאפ שלחה למשתמשיה הפך לכדור שלג. עשרות מיליוני משתמשים הפכו מודעים לכך שגם אם תוכן השיחות עצמן מוצפן, ובווטסאפ הוא אכן מוצפן, הרי שהחברות קוצרות ומעבדות את כל המידע ההיקפי אודות השיחה (metadata).

כבר ב-2013, בעקבות החשיפות של אדוארד סנואודן על היכולות החודרניות של ה-NSA בארה״ב, הסבירו מומחים על השימושים הנרחבים שאפשר לעשות ב-metadata גם ללא גישה לשיחה עצמה. אם למשל יודעים שצלצלת לקו של שיחות ארוטיות בשעה 2:24 היום לפנות בוקר ושוחחת למשך 16 דקות, או אם ידוע שצלצלת מהגג של עזריאלי לקו סיוע למתאבדים, זה אומר לא ממש מעט גם בלי תוכן השיחה. באמצעות הצלבות מתוחכמות עם נתונים שנקצרו על משתמשים אחרים איתם אנו בקשר ובעזרת נתוני מיקום אפשר ״רק״ מה-metadata לדעת עלינו הרבה יותר ממה שנדמה לנו. המהומה שגררה הודעת ווטסאפ היה לא פרופורציונלי להודעה כי ההודעה עצמה אכן לא הייתה חשובה כל כך. היא הייתה רק בגדר הצלצול של השעון המעורר. סלע המחלוקת כאן הוא היחס של המערכת אל משתמשיה והאופן בו היא משתמשת במידע שהיא צוברת עליהם (מאיפה המשפט הזה מוכר לי?).

במקרה הזה הפתרון הוא ברור, כי כמעט לכל מוצר הפועל על פי המודל בו אנו מוכרים מידע על עצמנו תמורת מוצרים בחינם יש מתחרה. אלטרנטיבה הפועלת ללא כוונות רווח ומתבססת על קוד פתוח, בשקיפות המאפשרת לכל המשתמשים להיות סמוכים ובטוחים שלא מסתתר כל סוס טרויאני, שאין הפתעות בהתקנה ושהפיתוח אינו כולל אג׳נדות סמויות. כל המוצרים הבאים מפותחים בשקיפות, כאשר הקוד עליו הם מבוססים רובו או כולו גלוי:

  • במקום כרום, אקספלורר או ספארי יש כמה וכמה דפדפנים בקוד פתוח.
  • במקום טוויטר – מסטודון.
  • מנוע החיפוש DuckDuckGo הפגין בתחילת דרכו ביצועים נחותים, אך כיום כבר לדעת רבים מהווה אלטרנטיבה ראויה לאח הגדול גוגל. לא כל הקוד בו פתוח, אך רובו הגדול כן.
  • במקום פייסבוק… בעיה. יש אמנם כמה אלטרנטיבות ובראשן כנראה דיאספורה, אבל אם לא יקרה משהו דרמטי המונופול שנוצר חזק מכדי להתפרק ללא פעולה רגולטורית.
  • ובמקום ווטסאפ יש (בין השאר) את סיגנל. גם היא חינמית כמו שאר האופציות שצוינו לעיל, מבוססת על קוד פתוח וקנאית לשמירה על פרטיות.

בעקבות המודעות שעלתה עם הודעתה של חברת ווטסאפ פתחו כמעט בבת אחת מיליוני אנשים חשבונות סיגנל. בימים האחרונים נפתחו 18 מיליון חשבונות חדשים (גידול של 6,100%) ואילו מספר ההורדות של ווטסאפ ירד כמעט לחצי. אנשים הפכו מעט מודעים יותר לאפשרות לא לחלוק את המידע שלהם עם מי שעשוי אחרי כן לעשות בו שימוש פוליטי, מסחרי או אישי שמנוגד לאינטרסים שלהם.

האם ווטסאפ תפשוט את הרגל וכולם יעברו לסיגנל? קשה להאמין. סביר להניח שרובנו נכבה את השעון המעורר ונמשיך לישון. אבל אולי עליית גל כזה בכל פעם מרמזת על תנועה טקטונית של הלוחות. ווטסאפ מצידה ניסתה להנמיך את גובה הלהבות מבלי לסגת כליל, והודיעה על דחיית שינוי מדיניות הפרטיות ל״אחרי מאי״. המשמעות הפרקטית בשינוי המדיניות לכאן או לכאן הוא כאמור אפסי מבחינת המשתמש הממוצע, אך ההודעה הזו מסמנת עוד סדק באותו יחס אדנותי של המערכת אל משתמשיה ובאופן בו היא משתמשת במידע שהיא צוברת עליהם.




הודעת ווטסאפ דחיית יישום מדיניות פרטיות



לסיום ראוי לציין שדווקא אותה ווטסאפ עליה יצא הקצף היא דוגמה יחסית מתונה ביחס לחודרנות של יישומי מסרים אחרים. בטלגרם למשל ברירת המחדל היא מסרים לא מוצפנים ועבור תקשורת בקבוצות אין אפילו אפשרות לשנות זאת. אפליקציית המסרים המידיים של פייסבוק, מסנג׳ר, לא רק שאינה מצפינה כלל את ההודעות הנשלחות בה, אלא שכפי שמארק צוקרברג חשף מבלי משים בראיון ב-2018החברה אכן קוראת לא רק את המידע ההיקפי של ההודעות אלא גם את התוכן עצמו.




comparison signal whatsapp messenger
השוואה בין המידע המקושר למשתמש שקוצרים שלושה יישומי מסרים מידיים שונים – סיגנל (משמאל), ווטסאפ (באמצע) ומסנג׳ר (מימין). מקור: 
Forbes



מה כבר יש לי להסתיר



למה בעצם חשובה כל כך הפרטיות? לעתים קרובות אפשר לשמוע טיעון נגד מסוג ״לי אין מה להסתיר. מבחינתי זו עסקה מצויינת לקבל את המוצרים האלה חינם תמורת מסירת מידע לא מעניין עלי. שיהיו בריאים, ווטסאפ, פייסבוק וגוגל״. יש אפילו שהולכים רחוק יותר: ״ההיפך, רק לטובתי שידעו עלי כמה שיותר כי משרת את האינטרס שלי לקבל פרסום ככל האפשר ממוקד״.

אכן, יש גם יתרונות, אבל הטיעון מחמיץ את מהות הבעיה. הנושא מצדיק רשימה משל עצמה (אם לא ספר), אבל על קצה המזלג אפשר לאמר שיש שני היבטים מרכזיים שהופכים את מחיר אובדן הפרטיות ליקר מאד.

הנקודה הראשונה היא שבעולם המודרני ידע הוא כוח וככל שיותר ידע מרוכז בידי פחות ידיים המצב מסוכן יותר. האבולוציה הטבעית של מערכות גדולות היא לגדול עוד. אגרגציה. כוחות הביטחון למשל ירצו לצבור עוד יכולות חודרניות ועוד מידע על האזרחים בכדי לשמור על בטחונם (במקרה הטוב) או כדי לשמור על השלטון (במקרה הפחות מוצלח). גם אם כעת המידע נמצא בידיים דמוקרטיות או בידי מי שאנו מצדדים בו, כאשר בונים מנגנוני בקרה המוטיבציה צריכה להיות להיגזר מתסריט בו המצב הפוך. גלן גרינוולד, העיתונאי הראשון שכתב על חשיפותיו של אדוארד סנואודן, דן בזה בהרצאת ה-TED המעניינת שלו.

הנקודה השנייה היא שבהיותנו בני אדם מקודדים לתוכנו מנגנונים שהופכים אותנו חשופים למניפולציה, מה שמזמין צרות כאשר המוטיבציה של האלגוריתמים מתנגשת בזו שלנו. אם למשל אני מכור לאלכוהול, להימורים או לגלילה בפיד שלי, האינטרס שלי הוא להילחם בנטייה הזו ואילו האינטרס של הפיד שלי הפוך. לא מכוונות רעות אלא פשוט מעצם הקוד הגנטי שלו שמיועד לזכות במירב תשומת הלב הצרכנית שלי.

הקו הדק בין פרסום ממוקד לבין מניפולציה מיטשטש בקלות. כבר היום בנוי הפיד כך שייצר מעורבות (engagement) גבוהה ככל האפשר מצד המשתמשים. במורד הדרך, אם טרם הגענו לשם, קל לדמיין מצב בו האלגוריתם מסיק מניתוח הנתונים שידיעה על גדיעת כרמי זיתים של פלסטינים בכפר בורין למשל מעלה ב-2% את ההסתברות שאתעכב מספר שניות נוספות על פרסומת לחופשה בחו״ל. הנוכחות של פורעים מהתנחלות יצהר בפיד שלי תעלה אז, רק במעט, לצד פרסומים לחבילות נופש באיי סיישל. או אולי יסתבר שמינון גבוה יותר של פוסטים העוסקים בדימוי גוף שלילי גורמים לי להביט עוד שניה או שתיים על פרסומות לדיאטה (או לחלופין, לגלידה) והפיד יוסט בעדינות לכיוון הזה. זה המסלול בו אנו נעים, אם טרם הגענו לשם. לא מכוונת זדון כלשהי אלא כי האלגוריתם מחפש לבצע אופטימיזציה ולמקסם פרמטרים מסויימים.

הרגישות שלנו למניפולציות כאלה מפתיעה. למשך שבוע אחד בינואר 2012 ביצעו מדעני המידע של פייסבוק ניסוי במסגרתו הפיד שראו 700,000 משתמשים עבר מניפולציות קלות. לחלקם הוצג פיד חיובי יותר, עם תמהיל גדול יותר של חדשות טובות ושל אנשים שכתבו פוסטים על דברים משמחים שקרו להם, ואילו לחצי השני הוצג תמהיל פסימי יותר. בסוף השבוע בוצע ניתוח של התוכן שיצרו אותם משתמשים ונצפה שאלו שהוזנו תוכן אופטימי יותר גם יצרו תוכן אופטימי יותר וההיפך. הניסוי נחשף במאמר בשנת 2014 בכתב העת המדעי PNAS ועורר מהומה. בעקבות הרעש, אגב, הסתבר שהניסוי חוקי לחלוטין במסגרת תנאי השימוש של פייסבוק, הכוללים הרשאה של המשתמשים ״להשתמש בנתוניהם לצורך ניתוח ומחקר״.



facebook experiment 2012מתוך
מאמר שניתח את הניסוי שערכה פייסבוק על 700,000 איש ללא ידיעתם. חברי קבוצת הביקורת (בכחול כהה) המשיכו להשתמש באותה כמות של מילים חיוביות ושליליות בפוסטים שלהם. חברי קבוצת הניסוי (בתכלת) שנחשפו למילים חיוביות או שליליות למשך שבוע הציגו שינוי דרמטי בכמות המילים החיוביות או השליליות בהם השתמשו, בהתאמה לפיד בו הוזנו.



מאז 2012 התפתחו מן הסתם יכולותיה של פייסבוק להנדס את תודעת המשתמשים. היכולת של האלגוריתמים לנצל את הטיותינו המובנות, כולל אלו שאנחנו עצמנו לא מודעים להם, השתכללה. זה עניין אבולוציוני. התחרות היא על תשומת הלב שלנו ואלגוריתם שמוצלח יותר בכך ייבחר על פני זה שמוצלח פחות. אפילו המהנדסים שיצרו אותן לא תמיד מבינים איך פועלות הקופסאות השחורות שמנתחות כיום את הביג-דאטה.

ההבדל בין השאיפה להימנע ממניפולציות כאלה ובין ״אין לי מה להסתיר״ הוא עמוק. יש לנו אינטרס גדול להיות אדונים לדאטה ולמטה-דאטה שלנו, בין אם יש לנו מה להסתיר ובין אם לא.





משרד הבריאות אינו ווטסאפ ולא פייסבוק. נראה שהבעייתיות האפשרית בהתנהלותו אינה נובעת מחמדנות לנתונינו כי אם בעיקר מחוסר מודעות מספיק לחשיבות שבבקרה חיצונית ומרצון חיובי מאד לקדם את מבצע החיסונים.

למהלך של ועדת הלסינקי כמו גם למעבר של רבים לאפליקציית סיגנל יש אכן גם היבט מסויים של ״מקל בגלגלי הקדמה״, אבל לא פחות מכך הם מסמלים בעיני מודעות הולכת וגדלה למשמעות שיש לשימוש נאות בנתונים ולחשיבות שיש בשקיפות רבה יותר.





whatsapp syringe

Categories: 9. הכל