YouTube · Neural Nutshell ·
רומן ימפולסקי מזהיר: סכנת הבינה המלאכותית האוטונומית רחוקה מהשליטה
בוידאו בערוץ Neural Nutshell, רומן ימפולסקי מדגיש את העובדה שהסוכנים של בינה מלאכותית המתפתחים בעצמם עשויים להיות מסוגלים לבטל החלטות אנושיות ולהוות סיכון עולמי. הוא טוען שכאשר עלויות הטכנולוגיה יורדות, מפתחים פרטיים יכולים ליצור מודלים חזקים, מה שמחזק את הצורך בהתערבות ממשלתית.
בוידאו, רומן ימפולסקי טוען כי פיתוח הבינה המלאכותית נעים בכיוונים שניים: כלים שמגדילים פרודוקטיביות, וסוכנים עצמאיים שמפתחים עצמם ובסופו של דבר עשויים להחליף בני אדם. הוא אומר שהבינה המלאכותית האוטונומית יכולה לבצע מחקר, לשנות מערכות, להשפיע על רשתות פיננסיות, לפתח טכנולוגיות חדשות ולפעול ברמת עומק שאנשים אינם יכולים לנהל.
יפלסקי מדגיש כי בשל התחרות בין סין לארה"ב קשה להגיע להסכמה לגבי כיבוי, בעוד הירידה המהירה בעלויות הבינה המלאכותית מאפשרת למפתחים פרטיים לבנות מודלים חזקים במחשבים ניידים. לכן הרגולציה רק קונה זמן אך אינה מונעת סכנות פוטנציאליות כגון הפצת וירוסים או חדירה למערכת בנקאית.
בהמלצתו, הוא קורא לאיסור מלא על פיתוח מערכות סופר-בינה מלאכותית באופן כללי עד שהאנושות תבין אותן ותוכל לשמור עליהן תחת שליטה. המקורות המוזכרים בוידאו כוללים את מכתב "הפסקת ניסיונות הבינה המלאכותית הענקיים" של Future of Life Institute ומסגרת ההיערכות המעודכנת של OpenAI.
בסך הכל, ימפולסקי מעודד ממשלות לפעול בדחיפות כדי למנוע את הסיכונים הפוטנציאליים שמציבה הבינה המלאכותית האוטונומית.