hvg.hu · Tech ·
Microsoft מגבילה מודלים של בינה מלאכותית עם כללים מחמירים מ-2027
קוד ההתנהגות המוגדר על ידי Microsoft בתאריך 14 בספטמבר מציין כי מודלי הבינה המלאכותית העתידיים חייבים שלא להיות מסוגלים להתנגד לשליטה אנושית ומסרים את פיתוח נשקים להשמדת כמות גדולה או מתקפות סייבר. מטרת הקוד היא לשמור על כלי בינה מלאכותית שימושיים, כפופים לאנשים.
קוד ההתנהגות המוגדר שיפעל מ-2027 קובע מסגרות מחמירות לפעילות של מודלי הבינה המלאכותית. המסמך מציין כי גם אנשים וגם מערכות בינה מלאכותית אינם יכולים לחרוג מהתוכן שלו, ומסרים את השתתפותם בפיתוח נשקים להשמדת כמות גדולה או בהתחלת מתקפות סייבר.
הגבלות הקוד מתרחבות גם לפעילויות אלימות, תוכן דיפ-פייק מזיק, מניפולציה וצורות אחרות של פגיעה. עם זאת, פעולות הגנה בתחום האבטחת הסייבר עדיין נתמכות על ידי המודלים במסגרת מגבלות מסוימות.
Microsoft טוענת כי מהנדסים חייבים להגדיר את הגבולות לפני שמערכות סופר-בינה מלאכותית מגיעות לרוב המשימות בשנים הבאות. הקוד אינו סופי עדיין; החברה תערוך ייעוץ ציבורי של שישה שבועות ולאחר מכן מתכוונת ליישם את הגרסה המוסדרת מ-2027.