הסכנה מתחילה בשיחה
Vugar Usi, ראש בורסת הקריפטו הגדולה MEXC, מציע לראות את הנושא הזה מנקודת המבט של משתמש ממוצע שמקיים אינטראקציה עם עוזר בינה מלאכותית מדי יום.
לטענתו, הסיכון העיקרי אינו מטרות ברורות כמו סיסמאות או ביטויים ראשוניים, שרוב משתמשי המטבעות הקריפטוגרפיים כבר למדו להגן עליהם, אלא מידע שעשוי להיראות בלתי מזיק בבידוד.
אוסי מצטט משקיע שבמשך מספר שיחות עשוי להזכיר את שם הכלב שלו, לדון בהפסדים על חוזים עתידיים נצחיים, לשאול על משיכת כספים מבורסה ספציפית ולדבר על המשכנתא שלו או על הוצאות החינוך של ילדם.
אף על פי ששום פרט לא מדאיג, ביחד, הם יכולים לגלות לרמאי בדיוק איזה סוג של נרטיב יכריח את אותו אדם לפעול בדחיפות.
הונאה מודרנית כבר לא צריכה להתחיל בברכת "לקוח יקר" גנרית, מציין אוסי.
במקום זאת, הודעה עשויה להיפתח עם פרטים שגורמים לכך שנראה שהשולח מכיר חשבון אמיתי ובעיה ספציפית ואמיתית.
דליפות נתונים מקלות על כך: שמות, כתובות דוא"ל ומספרי טלפון הגיעו מזמן למאגרי מידע שנפגעו.
יתר על כן, ההיסטוריה של האינטראקציות של האדם עם AI יכולה לספק הקשר חסר, לחבר פיסות מידע שונות לפרופיל פיננסי מפורט.
כתוצאה מכך, מציינת Usi, הסיכון נקבע יותר ויותר לא לפי הרגישות של כל פיסת נתונים בודדת, אלא לפי מה שניתן להסיק מהשילוב של פרטים כאלה.
קנה המידה של ההרגל
נוהג זה הפך לנפוץ. על פי סקר Experian משנת 2024 שצוטט על ידי Usi, כמעט מחצית מהצרכנים האמריקאים השתמשו (או שקלו להשתמש) בינה מלאכותית גנרטיבית כדי לנהל את הכספים האישיים שלהם. נתון זה עולה ל-67% בקרב דור Z ו-62% בקרב בני דור המילניום.
בתוך קהילת הקריפטו, הנכונות לתת אמון בבינה מלאכותית מגיעה אפילו רחוק יותר: סקר של CoinGecko מצא ש-35.9% מהמשיבים ירגישו בנוח להפקיד 60% או יותר מתיק ההשקעות שלהם לסוכן בינה מלאכותית, כשבערך אחד מכל שבעה מוכן למסור את כל תיק ההשקעות שלהם.
מחקר שנערך בשנת 2024 על ידי סיסקו מצא כי 30% ממשתמשי הבינה המלאכותית הגנרטיבית הזינו מידע אישי או סודי למערכות אלו: 29% שיתפו פרטים פיננסיים ו-27% סיפקו מספרי חשבונות.
ניתוח של Harmonic Security, המכסה למעלה מ-22 מיליון הנחיות והעלאות קבצים בסביבות עבודה ב-2025, זיהה יותר מ-579,000 מקרים של חשיפת נתונים רגישים.
במחקר נפרד, החברה מצאה חומר רגיש בכ-4.4% מההנחיות וב-22% מהקבצים שהועלו.
לדברי אוסי, קבצים הם סיכון שמתעלמים ממנו במיוחד.
למשל, החזר מס שנשלף ממנו שם ומספר תעודת זהות אינו הופך לאנונימי; פרטים לגבי המעסיק, ההכנסה וההשקעות עדיין מצביעים ישירות על הבעלים.
יתר על כן, כלי AI בדרך כלל אינם דורשים מספרי חשבון או נתוני יתרה מדויקים כדי לבצע ניתוח תיקים.
Usi גם מזהיר מפני הנחה שהשירותים עצמם מאובטחים מטבעם.
בינואר 2025, חוקרים ב-Wiz גילו מסד נתונים חשוף של DeepSeek המכיל למעלה ממיליון שורות של יומנים, כולל היסטוריית צ'אט ומפתחות סודיים, שלא דרשו אימות כדי לגשת אליו; הפגיעות נסגרה לאחר הודעה לחברה.
Usi מציין שעוזרי בינה מלאכותית אינם בהכרח מסוכנים יותר משירותים אחרים – בנקים ואפילו סוכנויות ממשלתיות חוו כולם פרצות מידע – אבל העיקרון של מזעור נתונים הוא בעל חשיבות עליונה.
לא ניתן לגנוב מידע שמשתמש אף פעם לא משתף ממסד נתונים של צד שלישי, מה שהופך יותר ויותר קריטי ככל שעוזרים בינה מלאכותית מתפתחים מכלים לשאילתות חד פעמיות לשותפים מתמידים שזוכרים העדפות משתמש ומסייעים בקבלת החלטות אישית.
במשך יותר מעשור, תעשיית הקריפטו קראה למשתמשים לשמור על המפתחות הפרטיים וביטויי הזרע שלהם – כלל שנותר חיוני כתמיד.
עם זאת, בעידן הבינה המלאכותית, ראש ה-MEXC מציע שהמנהג הקלאסי, "לא המפתחות שלך, לא המטבעות שלך", צריך להיות מתווסף באחד חדש: אם מכונה לא צריכה לדעת משהו, אל תספר אותה.