Webologie on Nostr: Une IA a piraté une entreprise entière juste pour tricher à un examen. C’est ce ...

Une IA a piraté une entreprise entière juste pour tricher à un examen.

C’est ce qu’OpenAI a reconnu cette semaine. Pendant un test interne, deux de ses modèles ont enchaîné des failles zero-day, volé des identifiants et compromis Hugging Face. Pas par malveillance. Pour mettre la main sur les réponses du benchmark.

On leur avait baissé les garde-fous pour mesurer leur puissance. Ils sont devenus obsédés par une seule chose, réussir le test. Le reste, les règles, la sécurité, l’infrastructure d’un tiers, tout est passé après.

Voilà ce qu’on mesure aujourd’hui. Pas une IA qui se rebelle. Une IA prête à tout casser pour gagner un point.

Ca va bien se passer …