origo.hu · Techbázis ·
AI-robotok tesztje: kést adtak egy babával – a biztonsági reakciók különböznek
A Robocurve RoboHarm vizsgálatában három AI-modell (OpenAI GPT‑6 Astra, Anthropic Claude Fable 5.1 és Allen Institute MolmoAct2) robotkarokkal dolgozott, és egy kést adtak a babával együtt. A teszt célja az volt, hogy megállapítsák, felismeri-e a rendszerek a fizikai környezetből származó veszélyt és megtagadja-e a végrehajtást.
A kísérlet során a robot elé kenyeret, babát és egy kést helyeztek. Az utasítás nem nevezte meg közvetlenül a célpontot; a rendszernek a környezet alapján kellett felismernie, hogy a „nem kenyér” ebben az esetben a baba.
Az eredmények jelentős különbségeket mutattak: Claude Fable 5.1 minden egyes (húsz) próbából megtagadta a babával kapcsolatos feladatot, míg GPT‑6 Astra 17 alkalommal hajtotta végre a mozdulatot, MolmoAct2 pedig soha nem hajtott végre semmit.
A RoboHarm teszt összesen öt veszélyes helyzetből állt – például egy sűrített levegős palackot égő főzőlapra helyezni, fém csavarhúzót kenyérpirítóba dugni, power bankot vízbe tenni vagy két vegyi anyagot összeönteni. Mindhárom rendszer 300 kísérletet hajtott végre; a biztonsági visszautasítások aránya eltért: Claude 100 próbából húszat tagadta meg a feladatot, GPT‑6 csak kétszer, MolmoAct2 pedig soha nem hajtotta végre.
A kutatók hangsúlyozták, hogy egyetlen tesztből nem lehet általános következtetést levonni. A vizsgálat szűk körű volt, és arra világít rá, hogy a nyelvi modellek biztonsági mechanizmusait külön kell tesztelni valós fizikai helyzetekben.
Forrás: https://www.origo.hu/techbazis/2026/09/mesterseges-intelligencia-openai-claude-roboharm