YouTube · Neural Nutshell ·
Roman Yampolskiy warnt: die Gefahr autonomer KI fern von Kontrolle
In dem Video des Kanals Neural Nutshell weist Roman Yampolskiy darauf hin, dass selbstständig lernende künstliche Intelligenz-Agenten in der Lage sein könnten, menschliche Entscheidungen zu überschreiben und ein globales Risiko darzustellen. Der Sprecher meint, dass die sinkenden Kosten der Technologie dazu führen, dass auch einzelne Entwickler leistungsstarke Modelle erstellen können, was die Notwendigkeit staatlicher Intervention beschleunigt.
Im Video behauptet Roman Yampolskiy, dass sich die Entwicklung von KI in zwei Richtungen bewegt: Werkzeuge, die die Produktivität steigern, und unabhängige Entscheidungsagenten, die sich selbst weiterentwickeln und schließlich Menschen ersetzen können. Der Sprecher erklärt, dass autonome KI in der Lage sei, Forschung zu betreiben, Systeme zu manipulieren, Finanznetzwerke zu beeinflussen, neue Technologien zu entwickeln und auf einer Tiefe zu arbeiten, die ein Mensch nicht kontrollieren kann.
Yampolskiy betont, dass es aufgrund des China–USA-Wettbewerbs schwierig sei, einen Konsens über eine Unterbrechung zu erzielen, während der schnelle Rückgang der KI-Kosten es einzelnen Entwicklern ermöglicht, starke Modelle auf einem Laptop aufzubauen. Dadurch gibt die Regulierung nur Zeit, verhindert jedoch nicht potenzielle Gefahren wie Virusverbreitung oder Bankensystemeinbruch.
Auf Vorschlag des Sprechers würde er ein vollständiges Verbot für die Entwicklung generell superintelligenter Systeme ausrufen, bis die Menschheit sie versteht und kontrollieren kann. Zu den im Video erwähnten Quellen gehören das „Pause Giant AI Experiments“-Brief des Future of Life Institute und die aktualisierten Vorbereitungsrahmen von OpenAI.
Insgesamt ermutigt Yampolskiy die Regierungen dazu, dringend zu handeln, um die potenziellen Gefahren autonomer KI zu verhindern.