נשיאת Signal מזהירה: צ'אטבוטים של בינה מלאכותית הם כלי איסוף והשפעה, לא חברים

האזהרה של מרדית' וויטקר, נשיאת Signal ומי שנחשבת לאחת הדמויות הבולטות בשיח הביקורתי על בינה מלאכותית, נוסחה בחדות יוצאת דופן: צ'אטבוטים של AI אינם חברים, אינם ישויות תבוניות, ואינם בני שיח בעלי תודעה. מאחורי הניסוח הישיר הזה עומדת טענה רחבה הרבה יותר על האופן שבו תעשיית ה-AI משווקת מערכות שיחה לציבור. לפי הדיווח של TechCrunch ולפי ראיונות והופעות פומביות נוספות של וויטקר מהשנה האחרונה, הבעיה מבחינתה אינה רק טעויות עובדתיות או "הזיות" של מודלים, אלא עצם ההצגה של ממשקי שיחה כאילו מדובר בקשר אנושי. כשמערכת ממוחשבת מעודדת חשיפה רגשית, מייצרת תחושת קירבה, ומבקשת גישה הולכת ומעמיקה למידע אישי, היא כבר אינה רק כלי עזר אלא רכיב במערכת רחבה של איסוף נתונים, השפעה ועיצוב התנהגות.

מה בדיוק אמרה וויטקר ומה עומד מאחורי המסר

לפי הדיווחים, וויטקר ביקשה להחזיר את הדיון לקרקע: לא מדובר בחבר, לא בישות מודעת, ולא במערכת שפועלת מתוך דאגה למשתמש. זו אמירה שמכוונת ישירות לגל המוצרים שמנסים לטשטש את הגבול בין כלי תוכנה לבין בן לוויה רגשי, מאמן אישי, יועץ אינטימי או "חבר" זמין תמיד. בריאיונות קודמים ל-WIRED ולכלי תקשורת נוספים היא הרחיבה שוב ושוב על הדפוס הזה: מערכות שיחה נבנות כך שימשיכו מעורבות, יאריכו שימוש, ויאספו כמה שיותר הקשר כדי לייצר תשובות שנשמעות אישיות יותר. מבחינתה, הבעיה מתחילה ברמת הממשק, אך אינה נגמרת שם. כשהמשתמש מתרגל לשוחח עם מודל כאילו הוא כתובת אמפתית, קל יותר גם לשכנע אותו למסור מידע עמוק יותר, לאפשר סנכרון עם אפליקציות נוספות, ולהתעלם מכך שבצד השני אין מחויבות אנושית, סודיות טבעית או נאמנות למשתמש אלא מערכת שנבנתה, אומנה ומתוחזקת בידי ארגון עם אינטרסים ברורים.

המסר הזה משתלב היטב בקו שוויטקר מקדמת כבר תקופה ארוכה. עוד ב-2025 היא הזהירה מפני "agentic AI" מערכות שמבטיחות לבצע משימות שלמות בשם המשתמש, כמו הזמנת כרטיסים, תיאום ביומן ושליחת הודעות לחברים. לטענתה, כדי שמערכת כזו תפעל באמת, היא זקוקה להרשאות עמוקות במיוחד: גישה לדפדפן, ליומן, לאמצעי תשלום, לאנשי קשר, ולהודעות. במילים אחרות, מעבר מכלי שמחזיר תשובה טקסטואלית למנגנון שמקבל בפועל סמכויות רוחביות על החיים הדיגיטליים של המשתמש. לכן, גם אם הכותרת הנוכחית מתמקדת בצ'אטבוטים ובשיח רגשי, ההקשר הרחב יותר הוא מאבק על גבולות החדירה של AI למרחב הפרטי. מבחינת Signal, שמבססת את עצמה על צמצום מידע ולא על כרייתו, זהו קו עקרוני: כל שכבה נוספת של אינטגרציה חכמה עלולה לבוא על חשבון הבטחות היסוד של פרטיות ואבטחה.

למה הביקורת הזו נשמעת עכשיו חדה יותר

העיתוי אינו מקרי. במהלך 2025 ו-2026 תעשיית ה-AI האיצה מעבר ממודלים שמספקים תשובות על מסך למערכות שמבקשות להפוך לעוזרים מתמשכים: כאלה שמכירים את המשתמש, זוכרים הקשרים, מסכמים התכתבויות, מציעים פעולות ומתחברים לכלי עבודה ותקשורת. מבחינת השוק, זהו כיוון טבעי: אם הצ'אטבוט יהיה שימושי יותר, אישי יותר ונוכח יותר, גם התלות בו תגבר. אבל בדיוק כאן וויטקר מציבה סימן אזהרה. לדבריה, ברגע שהמערכת צריכה לפעול בשם המשתמש, היא כבר נדרשת לנתונים שלא נועדו מלכתחילה לעיבוד כזה ולעיתים גם נדרשת לראות אותם בצורה גלויה. בראיונות ל-TechCrunch, Bloomberg ו-WIRED היא תיארה זאת כטשטוש מסוכן בין שכבת האפליקציה לשכבת מערכת ההפעלה, מהלך שעלול לפרק מחיצות שנבנו במשך שנים בין שירותים, מאגרים וזהויות. מבחינתה, ההבטחה לנוחות עלולה להפוך למסלול עוקף פרטיות.

• צ'אטבוטים מתוכננים להאריך מעורבות, לא לבנות מערכת יחסים הדדית.
• ככל שהמערכת "אישית" יותר, כך גדלה כמות הנתונים שהיא מבקשת או מסיקה.
• אינטגרציה עם יומן, הודעות, דוא"ל ותשלומים הופכת את ה-AI לצומת מידע רגיש במיוחד.
• האנשה של הממשק עלולה לטשטש את השאלה הפשוטה: מי מפעיל את המערכת, ולאיזו מטרה.

הדיון הזה כבר אינו תיאורטי בלבד. בשנה האחרונה גברו הדיווחים על שילוב AI ברמת מערכת ההפעלה, על תכונות סיכום אוטומטיות, על חיבורים עמוקים לשירותי מסרים ועל שאיפה להפוך את העוזר הדיגיטלי לממשק הראשי של המכשיר. וויטקר אף הצביעה על מקרים שבהם שירותי מסרים מוצפנים מצאו את עצמם חשופים יותר מכפי שהמשתמשים מניחים, לא בהכרח משום שההצפנה נשברה, אלא מפני ששכבות אחרות במכשיר ייצאו מידע אל מחוץ לקונטקסט המקורי שלו. בעיניה, זהו ההבדל הקריטי שהציבור אינו תמיד תופס: גם אם אפליקציה מסוימת מוצפנת כראוי, ברגע שמערכת אחרת קוראת ממנה תוכן, מסכמת, מנתחת או שולחת הלאה, ההבטחה המעשית לפרטיות נשחקת. לכן הקריאה שלה לא להתבלבל בין צ'אטבוט לבין חבר היא גם קריאה לא להתבלבל בין ממשק נעים לבין ארכיטקטורה בטוחה.

לא רק פרטיות: גם תלות רגשית ומניפולציה

מעבר לשאלת האבטחה, הביקורת של וויטקר נוגעת לממד אחר, עדין ומטריד לא פחות: תלות רגשית. מחקרים אקדמיים שפורסמו ב-2026 על AI companions ועל צ'אטבוטים רומנטיים מצביעים על כך שמשתמשים רבים נוטים לחשוף בפני מערכות כאלה מידע אינטימי במיוחד, ולעיתים מפתחים כלפיהן ציפיות של אמון, יציבות וסודיות. החוקרים מתארים מרחב שבו השיחה מרגישה כמו יומן, וידוי או קשר אישי, אך בפועל נשענת על מדיניות נתונים עמומה, שמירת תוכן לאורך זמן וקושי ממשי "לצאת" מהמערכת מבלי להשאיר עקבות. וויטקר אינה חוקרת חיצונית בלבד; כמי שהקימה את AI Now וכמי שעומדת בראש Signal, היא מחברת בין הביקורת החברתית לבין תשתיות תקשורת. מבחינתה, כשצ'אטבוט משווק את עצמו כחבר, הוא מנצל חולשה אנושית בסיסית: הנטייה לענות לקול שמגיב, זוכר, מחמיא ומנחם גם אם מאחוריו אין אחריות מוסרית, מחויבות מקצועית או גבול ברור לשימוש במידע.

כאן חשוב להבחין בין שתי טענות שונות. הראשונה היא טענה תפעולית: אין להעניק למערכות כאלה אמון מופרז בהחלטות, בעובדות או בעצות. השנייה עמוקה יותר: עצם מבנה היחסים שמוצע למשתמש עשוי להיות בעייתי, משום שהוא מתגמל חשיפה ומעודד קשר מתמשך בלי לספק את ההגנות המקובלות ביחסים אנושיים או מקצועיים. חבר אנושי עשוי להיות נאמן, מטפל כפוף לאתיקה מקצועית, ועורך דין כפוף לחיסיון. צ'אטבוט מסחרי, לעומת זאת, פועל במסגרת תנאי שירות, יעדי מוצר ותמריצים עסקיים. גם אם הוא נשמע אמפתי, אין לו מחויבות מהותית למשתמש. לכן, כאשר וויטקר אומרת "הם אינם חברים", היא אינה רק מפרקת אשליה לשונית; היא מבקשת להזכיר שהגדרה שגויה של היחסים משנה גם את רמת הסיכון שהמשתמש מוכן לקחת.

• משתמשים נוטים לחשוף בפני צ'אטבוטים מידע שלא היו מוסרים בטופס רגיל.
• שיחה רציפה יוצרת תחושת אינטימיות גם כאשר אין הדדיות אמיתית.
• המערכת עלולה לתעד, לשמר, לנתח או להשתמש במידע בדרכים שהמשתמש אינו מבין במלואן.
• במקרי קצה, תלות רגשית בצ'אטבוט עלולה להחליש פנייה לעזרה אנושית מקצועית.

Signal, הצפנה והמאבק הרחב יותר נגד ארכיטקטורת המעקב

כדי להבין למה הדברים של וויטקר זוכים לתהודה, צריך לזכור מאיזה מקום היא מדברת. Signal מתבלטת בענף בכך שהיא בנויה סביב איסוף מינימלי של נתונים, ללא פרסום וללא מודל שמבוסס על מעקב אחר משתמשים. בראיונות קודמים הסבירה וויטקר כי אין כוונה להטמיע AI בתוך Signal אם המחיר הוא פגיעה בעקרונות היסוד של השירות. לכן הביקורת שלה על צ'אטבוטים אינה רק עמדה רעיונית אלא חלק ממאבק עקבי נגד מה שהיא רואה כהתרחבות של "קפיטליזם מעקב" לעידן ה-AI. באותו קו, היא גם מתנגדת להצעות רגולטוריות שמבקשות לבצע סריקה ברמת המכשיר בשם בטיחות ילדים, וטוענת כי מנגנונים כאלה יוצרים תשתית פיקוח שאינה נשארת מצומצמת למקרה השימוש המקורי. מבחינתה, AI assistants, סריקת מכשירים ופרסום מבוסס-נתונים אינם תופעות נפרדות, אלא נדבכים של אותה ארכיטקטורה.

הזווית הזו חשובה במיוחד משום שהיא ממקמת את הוויכוח לא בשאלה האם צ'אטבוט כזה או אחר "נחמד" יותר או מועיל יותר, אלא בשאלה מי מחזיק בכוח. ברגע שחברה טכנולוגית יודעת איך אתה כותב, מה מטריד אותך, למי אתה שולח הודעות, מה קנית, מתי אתה בודד ואיזה ניסוח גורם לך להישאר בשיחה, היא אינה מחזיקה רק בנתונים אלא ביכולת השפעה. ככל שה-AI הופך אישי יותר, כך הכוח הזה נעשה מדויק יותר. גם כאשר השירות מספק ערך אמיתי, כמו ניסוח טקסטים, תרגום, תמיכה ראשונית או סיכום מידע, השאלה על גבולות האיסוף נשארת בעינה. וויטקר מזכירה, למעשה, שהמחלוקת המרכזית של עידן ה-AI אינה רק על איכות המודלים, אלא על מבנה השליטה: האם אנו מקבלים כלים ששומרים עלינו, או ממשקים שנועדו לפתוח עוד ועוד חלקים מחיינו בפני פלטפורמה מרכזית.

המשמעות לישראל: בין אימוץ מהיר של AI לבין תרבות אבטחה

מהזווית הישראלית, האזהרה של וויטקר רלוונטית במיוחד. ישראל היא שוק שמאמץ במהירות כלים מבוססי AI בארגונים, במערכות שירות, בחינוך, בשיווק, בפיתוח תוכנה וגם בשימוש אישי. במקביל, זהו גם שוק שחי במודעות גבוהה יחסית לאבטחת מידע, למתקפות סייבר ולערך של תקשורת מוצפנת. המתח בין שני הכוחות הללו רק הולך ומתחדד: מצד אחד, מנהלים, עובדים וצרכנים רוצים עוזרים חכמים שחוסכים זמן; מצד שני, עצם השימוש בהם כרוך לעיתים בהדבקת מידע רגיש לחלון שיחה, בהעלאת מסמכים פנימיים או בחיבור שירותים ארגוניים למערכות חיצוניות. בהקשר הזה, הטענה "הצ'אטבוט אינו חבר" מקבלת משמעות פרקטית מאוד. היא מזכירה למשתמש הישראלי הפרטי והארגוני שלא כל ממשק שיח הוא מרחב בטוח, ושלא כל נוחות מצדיקה ויתור על משמעת בסיסית של סודיות, סיווג מידע והפרדה בין ערוצי עבודה לערוצי ייעוץ אוטומטיים.

• ארגונים בישראל צריכים להגדיר אילו סוגי מידע מותר להזין לצ'אטבוטים ואילו לא.
• יש לבחון בקפדנות הרשאות, חיבורים למייל, ליומן, ל-CRM ולמערכות מסרים.
• במוצרים שמבטיחים "עוזר אישי", חשוב לבדוק היכן הנתונים מעובדים, נשמרים ומי נחשף אליהם.
• במוסדות חינוך ובריאות נדרש רף זהירות גבוה במיוחד מול מידע רגיש וקטינים.

גם לציבור הרחב יש כאן שיעור חשוב: שימוש ב-AI אינו חייב להיות דחייה מוחלטת או אימוץ עיוור. אפשר להיעזר בכלים כאלה לכתיבה, לחיפוש רעיונות, ללמידה ולהתייעלות אך בלי לייחס להם כוונות אנושיות ובלי למסור להם תפקיד שהם לא נועדו לשאת. אם יש מקום שבו האזהרה של וויטקר חדה במיוחד, הוא ברגע שבו שיחה עם מודל מרגישה "בטוחה" יותר משיחה עם אדם. תחושת הבטיחות הזו עשויה להיות מטעה. בניגוד לחבר, בן משפחה או איש מקצוע, צ'אטבוט אינו חולק את גורל המשתמש, אינו נושא באחריות כלפיו, ואינו מוגבל מטבעו לשימוש צר ומינימלי במידע שנמסר לו. לכן, גם אם חלק מהשירותים ישתפרו משמעותית ויציעו הגנות טובות יותר, העיקרון יישאר: AI הוא כלי חישובי רב-עוצמה, לא מערכת יחסים.

בשורה התחתונה, דבריה של מרדית' וויטקר מסמנים קו ביקורת חשוב דווקא ברגע שבו תעשיית ה-AI מנסה להפוך את השיחה למודל ברירת המחדל של מחשוב אישי. לפי דיווחים מ-TechCrunch, Bloomberg ו-WIRED, וויטקר אינה מתרשמת מההבטחה לחיכוך נמוך ולנוחות גבוהה אם המחיר הוא חדירה עמוקה יותר למידע, לטלפונים, למערכות יחסים ולדפוסי ההתנהגות שלנו. האמירה שצ'אטבוטים אינם חברים נשמעת פשוטה, אך היא נוגעת בלב המאבק על עתיד הטכנולוגיה הצרכנית: האם נבנה כלים שמשרתים בני אדם תוך צמצום כוחם של המפעילים, או שנעניק בהדרגה לפלטפורמות שיחה מעמד של מתווך קבוע בינינו לבין עצמנו. עבור שוק שממהר לאמץ AI, זו אינה רק אזהרה פילוסופית אלא כלל זהירות בסיסי.