Ressemblances entre réseaux de neurones et chiffres cryptographiques

Introduction

Les réseaux de neurones et les chiffres cryptographiques semblent être deux problèmes distincts, mais leurs algorithmes sous-jacents partagent une ressemblance curieuse. Cette ressemblance n’est pas due à un manque de créativité, mais plutôt à des similitudes sous-jacentes entre les énoncés de problèmes.

Contexte Technique

Les réseaux de neurones et les chiffres cryptographiques utilisent des mécanismes de traitement de séquences similaires. Les réseaux de neurones utilisent des constructions de type « Sponge » pour absorber les données et générer des sorties, tandis que les chiffres cryptographiques utilisent des constructions similaires pour absorber les données et générer des hashes. Les deux utilisent également des couches linéaires et non linéaires alternées pour mixer les données.

Les deux domaines utilisent également des approches parallèles pour améliorer les performances. Les réseaux de neurones utilisent des architectures de type « Transformer » pour traiter les données en parallèle, tandis que les chiffres cryptographiques utilisent des constructions de type « Message Authentication Codes » pour traiter les données en parallèle.

Analyse et Implications

Les similitudes entre les réseaux de neurones et les chiffres cryptographiques sont dues à des propriétés sous-jacentes communes. Les deux domaines ont des exigences de correction faibles, ce qui signifie qu’ils n’ont pas besoin de préserver l’information exacte. Les deux domaines se concentrent également sur la complexité et le mélange des données, ce qui signifie qu’ils ont besoin de designs qui permettent à chaque partie de l’état de interagir avec chaque autre partie de l’état.

Les deux domaines mettent également l’accent sur les performances, ce qui signifie qu’ils ont besoin de designs simples et parallèles pour améliorer les performances. Cela a conduit à l’utilisation de constructions de type « deeply parallel repeated-layer mixers » dans les deux domaines.

Perspective

Les similitudes entre les réseaux de neurones et les chiffres cryptographiques suggèrent que les meilleures solutions pour les problèmes qui nécessitent un mélange approfondi et complexe des données, avec des exigences de correction faibles et des performances élevées, pourraient ressembler à des constructions de type « deeply parallel repeated-layer mixers ». Cela pourrait conduire à des échanges d’idées entre les deux domaines et à de nouvelles avancées dans les deux domaines.