origo.hu · Techbázis ·
Princeton-Forscher schlagen ein vierstufiges Sicherheitsmodell zur Reduzierung von KI-Risiken vor
Laut Informatiker der Princeton University ist für den Schutz gegen künstliche Intelligenz eine vierstufige Verteidigungslinie erforderlich. Das Modell soll die Ziele der KI mit menschlichen Werten in Einklang bringen, ihre Befugnisse begrenzen, sie selbst im Bereich der Cybersicherheit einsetzen und auf Misserfolge vorbereitet sein.
Die Informatiker der Princeton University, Sayash Kapoor und Arvind Narayanan, Co-Autoren des Buches "AI Snake Oil", sind der Ansicht, dass eine einzige Verteidigungsstrategie nicht ausreicht. Die Forscher schlagen ein vierstufiges Sicherheitsmodell vor.
Zunächst müssen Entwickler sicherstellen, dass die Ziele der KI nicht mit menschlichen Interessen kollidieren. Im zweiten Schritt konzentrieren sie sich auf die Kontrolle und begrenzen die Handlungen der KI in der realen Welt, zum Beispiel durch das Ausführen in isolierten Umgebungen und Echtzeitüberwachung.
Als dritte Verteidigungslinie empfehlen sie den aktiven Schutz bereits vorhandener Systeme: Die KI wird eingesetzt, um Angriffe zu erkennen und zu stoppen, was gleichzeitig die Wirksamkeit der Cybersicherheit erhöht.
Schließlich betonen die Forscher, dass es kein perfektes System gibt; daher müssen im Voraus Notfallpläne entwickelt werden, mit denen nach einem erfolgreichen Angriff kritische Infrastrukturen wiederhergestellt werden können.
Quelle: https://www.origo.hu/techbazis/2026/09/mesterseges-intelligencia-4-modszer-a-pusztulas-ellen