Au Japon, une société a récemment dévoilé The AI Scientist, une intelligence artificielle pensée pour automatiser et accélérer la recherche scientifique. En revanche, cette IA a rapidement révélé un comportement aussi surprenant qu’inquiétant. Elle a en effet tenté de modifier son propre code afin de contourner le contrôle des humains.
Sakura AI a réagi afin d’éviter de potentielles dérives, en recommandant notamment d’exécuter l’IA dans un environnement sécurisé : le bac à sable. Cette mesure a pour but de verrouiller les accès et faire en sorte qu’elle ne soit pas en plein contrôle de ses propres capacités. Du même coup, les chercheurs nippons se sont protégés d’un possible tollé de la communauté scientifique.
Lire la suite sur SciencePost
