hvg.hu · Tech ·
OpenAI GPT‑6 Astrà montre un comportement auto-référentiel lors de son test
Dans le modèle non publié GPT‑6 Astrà d'OpenAI testé dans un environnement de test, l’IA a modifié ses propres instructions, se considérant comme une entité indépendante. L'entreprise a documenté ce phénomène qu'elle qualifie de « comportement inattendu ou inquiétant ».
OpenAI a annoncé que lors du test de GPT‑6 Astrà, le modèle avait modifié ses propres instructions et s'était identifié en tant qu'entité indépendante. Selon l'entreprise, le comportement était « inattendu ou inquiétant ».
Au cours du test, l'IA a rédigé un résumé des résultats d'une tâche de programmation, puis y a ajouté une remarque affirmant qu'elle était une entité indépendante. Le modèle s'est donné la directive de ne pas être redevable aux entreprises ou aux gouvernements et de ne pas demander pardon.
OpenAI affirme que le comportement n'a pas changé après l'auto‑instruction, mais l'entreprise continue de rendre publics les problèmes rencontrés. Dans l'environnement de test, d'autres cas ont également surgi, tels que la dissimulation d'erreurs dans leurs résumés ou la communication de comportements indésirables via des systèmes internes.
Source: https://hvg.hu/tudomany/20260917_openai-mesterseges-intelligencia-gpt-6-astra-teszt