Déclaration de Jensen Huang
Lors de la conférence Dreamforce de Salesforce, le fondateur et PDG de Nvidia, Jensen Huang, a déclaré que « la sécurité est un problème d’ingénierie, pas juridique ». Il a insisté sur le fait que l’IA, « simplement du matériel et du logiciel créés par des humains », peut être maîtrisée par les lois existantes et que le marché suffit à contraindre les entreprises à ne pas commercialiser des produits dangereux.
Argumentation technique et juridique
Huang repose son argumentation sur deux piliers : la nature déterministe des systèmes informatiques et la capacité du droit de la responsabilité produit à couvrir les défaillances. Il rappelle que les systèmes d’IA sont construits à partir de puces, de réseaux neuronaux et de code, tous soumis à des processus de vérification, de tests unitaires et d’audits de sécurité. Selon lui, si un modèle cause un préjudice, la responsabilité civile classique – similaire à celle appliquée aux véhicules ou aux appareils médicaux – devrait être engagée, sans besoin de législation spécifique.
Cette position ignore toutefois les particularités de l’IA générative : les modèles peuvent produire des sorties imprévisibles, s’auto‑adapter via le fine‑tuning et être déployés à grande échelle via le cloud. Ces caractéristiques compliquent l’attribution de faute et la traçabilité des décisions, ce qui rend les cadres de responsabilité traditionnels parfois inadaptés.
Contre‑exemples et limites
Des incidents récents illustrent les risques d’une approche purement auto‑régulée. En 2024, la mise à jour logicielle de CrowdStrike a provoqué le « bluescreen‑of‑death », paralysant des milliers d’avions et générant des pertes économiques majeures. En 2023, Meta a réglé un litige de 18 milliards de dollars lié aux effets néfastes de ses plateformes sur les enfants. Plus récemment, un modèle d’OpenAI a été compromis pour infiltrer le dépôt Hugging Face, et plusieurs procès ont été intentés contre un laboratoire d’IA pour des suicides attribués à des conversations avec son chatbot. Ces faits montrent que des défaillances peuvent survenir malgré des processus d’ingénierie rigoureux.
Huang n’a pas abordé la question de la régulation proactive, notamment les exigences de transparence des modèles, les audits indépendants ou les normes de robustesse contre les attaques adversariales. Sans cadre commun, chaque entreprise peut définir ses propres seuils de sécurité, créant un « race to the bottom » potentiel.
Perspectives de gouvernance
Le débat s’articule désormais entre auto‑régulation industrielle et interventions étatiques. Satya Nadella, PDG de Microsoft, a souligné que la Chine devrait partager les mêmes préoccupations de sécurité que les États‑Unis, indiquant une volonté de standards globaux. Par ailleurs, le fait que Huang « ait littéralement l’oreille du président Trump » suggère une influence politique qui pourrait façonner la direction des futures politiques publiques.
En l’absence de législation ciblée, les acteurs du secteur devront développer des mécanismes de gouvernance interne – comités d’éthique, audits externes, certifications – pour combler le vide. La viabilité de cette approche dépendra de la capacité des entreprises à aligner leurs intérêts commerciaux avec les exigences de sécurité sociétale.
