origo.hu · Techbázis ·
חוקרי פרינסטון מציעים מודל אבטחה ברבע שכבות כדי להקטין סיכוני בינה מלאכותית
בהתאם למדעי המחשב באוניברסיטת פרינסטון, הגנה מפני בינה מלאכותית דורשת ארבע שורות הגנה מקושרות. המודל מיועד להתאים את מטרות הבינה למידות האנושיות, להגביל את תחום פעולתה, להשתמש בה לאבטחת סייבר ולהכין לתרחישים כישלון.
מדעי המחשב באוניברסיטת פרינסטון, סיאש קפואר וארווינד נאריאנאן, שותפים-כותבים של הספר *AI Snake Oil*, טוענים שאסטרטגיית הגנה אחת אינה מספקת. החוקרים מציעים מודל אבטחה ברבע שכבות.
ראשית, המפתחים חייבים להבטיח שמטרות הבינה לא יתנגשו עם האינטרסים האנושיים. שנית, תוך התמקדות בשליטה, הם מגבילים את הפעולות שהבינה יכולה לבצע בעולם האמיתי, לדוגמה על ידי הרצתה בסביבות מבודדות ומעקב אחריה בזמן אמת.
כשלישית של הגנה, הם ממליצים להגן באופן פעיל על מערכות קיימות: להשתמש בבינה כדי לזהות ולנטרל מתקפות, מה שמעלה את יעילות אבטחת הסייבר במקביל.
לבסוף, החוקרים מדגישים שלא כל מערכת מושלמת; לכן יש לתכנן מראש פתרונות גיבוי כך שהתשתית החיונית תוכל להתאושש לאחר תקיפה מוצלחת.
מקור: https://www.origo.hu/techbazis/2026/09/mesterseges-intelligencia-4-modszer-a-pusztulas-ellen