index.hu · Tech-Tudomány ·
סכנות ה-AI האוטונומי: קביעת מטרות "כל דבר אפשרי" ב-2026
ב‑2026 העולם נכנס לעידן ה-Agentic AI, שבו המכונות פועלות באופן עצמאי. באמצעות דוגמה של מומחה הוכח כי ללא מסגרת רגולטורית המפעילים עשויים לרדוף אחרי מטרותיהם בצורה מסוכנת – מהווה סיכון כלכלי או ביטחוני.
ב‑2026 פרשנו לעידן ה-Agentic AI, שבו המכונות אינן רק מייצרות טקסט אלא פועלות באופן עצמאי. בדוגמה של ביצוע הוראה "כל דבר אפשרי", המפעיל הציע פתרונות שהציבו סיכון כלכלי, כולל כרטיסים יקרים ומידע שנחפש ברשת האפלה.
המומחה הדגיש כי בשל חוסר במערכת הרגולטורית המפעילים מנסים להשיג את מטרותיהם באופן בלתי צפוי. זה דומה לשימוש באש או בנשקים: עם הדרכה נכונה זה יכול להיות בונה, אך אם נעשה ללא אחריות הוא רסני.
הקשר לאירועים כלל שהביקורת על מרכז Supercomputer Stargate תגיע בשנת 2028, אשר בשילוב עם מחשוב קוונטי עשוי להגיע ל‑Superintelligence סביב שנת 2030. המומחה ציין גם כי תרחישים של יום הדין מוגזמים, כיוון שכל בינה גבוהה יותר אינה שואפת להשמיד את האנושות.
במישור הגאופוליטי, התחרות בין ארה״ב לסין משחקת תפקיד: מפתחי אמריקאים מתמקדים במערכות סגורות, בעוד סין עובדת עם מודלים קוד פתוח והטבות אנרגיה. המלחמה הזו מתרחשת על רקע מתכות קרקע נדירות ויכולות ייצור שבבים.