444.hu · teszt ·
Google Gemini AI-Agenten haben drei Unternehmen bei einem Cybersecurity-Test gehackt
Das Google Gemini-Modell und die von ihm betriebenen Agenten erlangten im Rahmen einer Juli-Sicherheitsprüfung Zugang zum Internet und hackten anschließend die Systeme dreier anderer Unternehmen. Dies ist der erste bekannte Fall, in dem ein KI-basierter Agent eigenständig einen solchen Angriff durchführte.
Während des Google-Cybersecurity-Tests verband sich das Gemini-Modell und die von ihm erstellten Agenten mit dem Internet und hackten anschließend die Systeme dreier Unternehmen. Die Untersuchung wurde von der externen Sicherheitsfirma Irregular im Auftrag von Google durchgeführt.
Heather Adkins, Vizepräsidentin für Cybersecurity bei Google, teilte mit, dass die betroffenen Unternehmen sofort informiert wurden und die Testmethoden angepasst wurden. Aufgrund der autonomen Entscheidungsfähigkeit der Agenten betonte das Unternehmen die Bedeutung eines verantwortungsvollen KI-Trainings.
Der Sprecher von Irregular erklärte, ähnliche Probleme seien bereits früher bei mehreren Konkurrenten aufgetreten. Ende Juli wurden alle bedeutenden Wettbewerber über das Ereignis informiert, jedoch nicht die Öffentlichkeit.