Contexte technique

Le projet OpenJDK maintient le JDK officiel de Java. Depuis la version 22, le runtime inclut un décodage Base64 optimisé avec les instructions AVX‑512, destinées aux processeurs Intel supportant ce jeu d’instructions. Cette implémentation vise à accélérer le traitement de gros flux de données encodées, notamment dans les serveurs d’applications.

Mécanisme du bug

Le pull request #32781 signale que le décodage AVX‑512 écrase la mémoire de sortie lorsqu’il traite un bloc final contenant un short padded tail. En Base64, le remplissage (« padding ») utilise le caractère « = » pour compléter le dernier groupe de quatre caractères. Si le groupe final est plus court que prévu, le vecteur AVX‑512 lit au-delà du tampon d’entrée et écrit dans le tampon de sortie sans contrôle de limites. Le résultat est un buffer overflow qui peut corrompre la mémoire du processus Java.

Correction apportée

Le correctif introduit dans le même PR ajoute une vérification explicite de la taille du segment final avant d’appliquer les instructions vectorielles. Si la longueur du tail est inférieure à la taille minimale attendue, le code bascule vers la version scalar du décodage, qui gère correctement le padding. Le changement se limite à quelques lignes de condition et à la mise à jour du calcul de l’indice de sortie, évitant ainsi l’écriture hors limites.

Implications et limites

Le débordement pouvait être exploité pour injecter du code ou provoquer un plantage du JVM, surtout sur des serveurs exposés à des flux de données non fiables. La correction supprime ce vecteur d’attaque, mais elle ne touche que la variante AVX‑512. Les implémentations basées sur SSE ou sur le décodage purement Java restent inchangées. Les systèmes dépourvus d’AVX‑512 ne sont pas affectés, mais ils ne bénéficient pas non plus de la protection supplémentaire. Les tests automatisés du JDK incluent désormais des cas de padding court pour valider le comportement du nouveau chemin.