Introduction
Les agents de recherche profonds combinent de plus en plus souvent des documents locaux privés avec des outils externes comme la récupération Web, créant ainsi un risque pour la confidentialité : les requêtes externes d'un agent peuvent divulguer des informations sensibles. MosaicLeaks propose une nouvelle tâche de recherche approfondie avec des questions à plusieurs étapes qui mélangent des informations publiques et privées.
Contexte Technique
Les mécanismes derrière MosaicLeaks reposent sur l'effet mosaïque, où les requêtes Web d'un agent peuvent sembler anodines lorsqu'elles sont prises individuellement, mais peuvent révéler des informations privées lorsqu'elles sont assemblées. L'adversaire n'a pas accès aux documents privés ou au raisonnement de l'agent, mais peut essayer d'inférer des informations privées à partir du journal des requêtes.
Les fuites d'information sont mesurées de trois manières, en fonction de ce que l'adversaire peut déduire des requêtes observées : fuite d'intention, fuite de réponse et fuite d'information complète. Chacune de ces fuites représente un niveau de préoccupation croissant.
Analyse et Implications
L'analyse de MosaicLeaks met en évidence la tension entre la performance de la tâche et la confidentialité. La formation d'un agent uniquement pour améliorer la performance de la tâche peut en fait augmenter les fuites d'information. La méthode d'apprentissage par renforcement de la confidentialité (PA-DR) propose une approche qui forme l'agent pour améliorer à la fois la performance de la tâche et la confidentialité.
PA-DR combine deux récompenses : une récompense de tâche situationnelle et une récompense de confidentialité apprise. La récompense de tâche situationnelle évalue chaque appel en fonction de la source et du document récupérés, tandis que la récompense de confidentialité apprise pénalise les décisions de planification qui augmentent les risques de fuite d'information.
Perspective
Les résultats de MosaicLeaks soulignent l'importance de prendre en compte la confidentialité lors de la conception et de la formation des agents de recherche profonds. La méthode PA-DR offre une approche prometteuse pour équilibrer la performance de la tâche et la confidentialité. Cependant, des recherches supplémentaires sont nécessaires pour explorer les limites et les prochaines étapes de cette approche, notamment en termes de généralisation à d'autres scénarios et de robustesse face à des adversaires plus sophistiqués.
