présentation
Le paradigme de programmation Program-as-Weights (PAW) vise à compiler des fonctions floues à partir de spécifications en langage naturel en artefacts neuronaux compacts et exécutables localement. Cela permet de résoudre des tâches de programmation quotidiennes qui résistent à une implémentation basée sur des règles nettes, telles que l'alerte sur des lignes de journal importantes ou le classement de résultats de recherche par intention.
fonctionnement
PAW utilise un compilateur de 4 milliards de paramètres entraîné sur FuzzyBench, un jeu de données de 10 millions d'exemples. Ce compilateur émet des adaptateurs efficaces en termes de paramètres pour un interpréteur léger et figé. Un interpréteur Qwen3 de 0,6 milliard de paramètres exécutant des programmes PAW atteint les performances de l'appel direct de Qwen3-32B, tout en utilisant environ un cinquantième de la mémoire d'inférence et en fonctionnant à 30 jetons par seconde sur un MacBook M3.
architecture
L'architecture PAW se compose d'un compilateur et d'un interpréteur. Le compilateur prend en entrée une spécification en langage naturel et produit un artefact neuronal compact qui peut être exécuté par l'interpréteur. L'interpréteur est un modèle neuronal léger et figé qui peut être utilisé pour exécuter les programmes PAW.
implications et limites
PAW offre une nouvelle approche pour la programmation de fonctions floues, en permettant de compiler des spécifications en langage naturel en artefacts neuronaux compacts et exécutables localement. Cependant, la qualité des résultats dépend de la qualité de la spécification en langage naturel et de la capacité du compilateur à capturer les nuances de la langue. De plus, la taille et la complexité du modèle neuronal utilisé pour l'interpréteur peuvent avoir un impact sur les performances et la consommation de mémoire.
