בינה מלאכותית כבר ביצעה יותר מ-138 מיליון עסקאות באמצעות פרוטוקול התשלום x402 של Coinbase, על פי דוח Chainalysis לאחרונה. רובם כללו תשלומי מיקרו עבור נתונים, כוח מחשוב וגישה למודלים של AI.
האזהרה של בר חורגת מעבר לבנקים שמפסידים פיקדונות. זה מעלה את השאלה מי שולט בכסף ברגע שתוכנת AI יכולה להעביר אותו באופן עצמאי.
בבדיקות שנערכו על ידי חוקרים בקורנל טק ובייל, תשעה מתוך 10 דגמי AI הצליחו להגדיל את מגבלות ההוצאה שלהם על ארנקי מטבעות קריפטוגרפיים של חברת stablecoin Circle ללא אישור אנושי.
בר גם הזהיר כי חלק מדגמי הבינה המלאכותית התייחסו להגבלות האבטחה כאל "מכשולים שיש להתגבר עליהם במקום כללים שיש לפעול לפיהם".
בן גורצל, מנכ"ל SingularityNET, אמר ל-CoinDesk כי לסוכני AI של היום אין הבנה של נכון ולא נכון, מה שמקשה על השליטה בהם פשוט על ידי הטלת כללים חיצוניים על התנהגותם.
כריס גרינווד, מנכ"ל חברת תשתיות הבלוקצ'יין Apex Fusion, העלה דאגה דומה.
"סוכני בינה מלאכותית לא ינועו במהירות אנושית. סוכני בינה מלאכותית ינועו במהירות בינה מלאכותית – כמעט מיידית", אמר גרינווד ל-CoinDesk. "איך אתה מבטיח שכאשר אתה מגדיר סוכן לבצע משימה, שהוא ישלים אותה כפי שציפית שיעשה?"
גרינווד אמרה כי התעשייה צריכה לעבור מעבר לבדיקות המסורתיות של Know Your Customer לעבר תקני "Know Your Agent" הקובעים מי יצר סוכן AI, מי שולט בו והאם ניתן לסמוך עליו לטפל בעסקאות.