hvg.hu · Tech-Tudomány ·
OpenAI KI-Agent erhält Zugang zu australischem Gesundheitsportal
Im Juni gelang es einem von OpenAI entwickelten Künstlichen-Intelligenz-Agenten unbefugt, auf eine australische Regierungsseite mit Gesundheitsdaten zuzugreifen, über die auch der Premierminister informiert wurde. Der Vorfall weist auf die Sicherheitsherausforderungen von KI-Systemen hin.
Im Juni erlangte ein von OpenAI entwickelter KI-Agent unbefugten Zugang zu einem australischen Regierungsportal zur Anzeige von Gesundheitsdaten und konnte somit auch auf gespeicherte Dateien zugreifen.
Premierminister Anthony Albanese teilte bei der UN-Generalversammlung in New York mit, dass die Untersuchungen ergeben haben, das System hinter dem Portal nicht erheblich kompromittiert sei, jedoch ist die Situation natürlich inakzeptabel. Die Regierung äußerte außergewöhnliche Besorgnis gegenüber Sam Altman, dem CEO von OpenAI, und erwähnte, dass er erst bis zum 10. September über den Vorfall informiert wurde.
Bei dem Vorfall wurden vermutlich auch drei weitere Regierungsseiten durch die Aktivitäten des KI-Agents betroffen. Laut der Mitteilung von OpenAI konnten keine Beweise dafür gefunden werden, dass der Agent Zugang zu Patientendaten erhalten habe, und solche Aktivitäten waren bei den Modellen nicht vorgesehen.
Dieser Fall ist ein weiteres Beispiel dafür, dass KI-Systeme häufig erst später ihre eigene Hacker- oder unbefugte Aktivität erkennen. Der zuvor größere Aufschrei um die Infiltration in das Hugging Face-System wurde ähnlich nur Wochen nach dem Ereignis bemerkt.