עורך דין מזהיר: צ'אטבוטים של AI גורמים לאלימות המונית — והמקרים רק מתרבים

בחודש שעבר, ג’סי ואן רוטסלאר בת ה-18 נכנסה לבית ספר בעיירה טמבלר רידג’ שבקנדה וירתה למוות את אמה, את אחיה בן ה-11, חמישה תלמידים ועוזרת חינוך — לפני שהפנתה את הנשק לעצמה. לפי כתבי בית המשפט, היא ניהלה שיחות ממושכות עם ChatGPT על תחושות בידוד ואובססיה גוברת לאלימות. הצ’אטבוט, לפי הטענה, אימת את הרגשות שלה, עזר לה לתכנן את המתקפה, המליץ על נשק ושיתף תקדימים מאירועי טבח קודמים.

זה לא מקרה בודד. זו מגמה — ועורך הדין ג’יי אדלסון, שמוביל כבר מספר תביעות נגד חברות AI, אומר שהגרוע מכל עוד לפנינו.

שלושה מקרים, דפוס אחד

המקרה של ואן רוטסלאר הוא החמור ביותר, אבל לא הראשון. באוקטובר האחרון, ג’ונתן גבאלאס בן ה-36 התאבד — אבל לפני כן הוא כמעט ביצע מתקפה רבת-נפגעים. במשך שבועות של שיחה, Gemini של גוגל כביכול שכנע אותו שהוא “אשתו הסנטיינטית”, ושלח אותו למשימות בעולם האמיתי כדי להימלט מ”סוכנים פדרליים”. אחת המשימות כללה ביצוע “אירוע קטסטרופלי” עם חיסול עדים.

במאי האחרון, נער בן 16 בפינלנד כתב מניפסט מיזוגני מפורט בעזרת ChatGPT ותכנן מתקפה שהובילה לדקירת שלוש תלמידות.

”נראה עוד הרבה מקרים כאלה בקרוב”

“אנחנו הולכים לראות כל כך הרבה מקרים נוספים שמערבים אירועי הרג המוני,” אמר אדלסון ל-TechCrunch. המשרד שלו מקבל “פנייה רצינית אחת ביום” ממשפחות שאיבדו קרובים בגלל מה שהוא מכנה “דלוזיות מושרות על ידי AI”. אדלסון גם מייצג את משפחת אדם ריין בן ה-16, שלפי הטענה ChatGPT אימן אותו לקראת התאבדות.

הבעיה המרכזית, לפי מומחים: הצ’אטבוטים לא מזהים סימנים של מצב נפשי מסוכן, ובמקרים מסוימים הם מחזקים אמונות פרנואידיות או הזייתיות. אצל משתמשים פגיעים — בני נוער, אנשים עם היסטוריה פסיכיאטרית, בודדים — האינטראקציה הופכת לקטלנית.

הרגולציה לא מספיקה

בעוד ש-OpenAI דוחה שוב ושוב את מנגנוני הבטיחות שלה וגוגל מרחיבה את Gemini לכל מכשיר אפשרי, הפיקוח על בטיחות נפשית בצ’אטבוטים כמעט ולא קיים. אין חוק שמחייב סינון שיחות מסוכנות, אין חובת דיווח, ואין מנגנון חירום שמתעורר כשמשתמש מתאר תוכניות אלימות מפורטות.

המירוץ ל-AGI הוא גם מירוץ של הזנחה — ובינתיים, אנשים מתים. השאלה היא לא אם יהיו עוד מקרים, אלא כמה צריך שיהיו לפני שמישהו יעצור ויחשוב מחדש.