IA-Nvidia » les laboratoires doivent assumer leurs modèles jusqu’au bout »
Le patron de Nvidia estime que la course à l’intelligence artificielle ne dispense pas les développeurs de contrôler leurs systèmes, de leur conception à leur commercialisation. Interrogé le 23 septembre dans le podcast d’Ezra Klein, il affirme qu’un laboratoire incapable de contenir ses propres expériences doit envisager l’arrêt.
Invité du podcast d’Ezra Klein le 23 septembre, Jensen Huang a défendu une ligne simple : les développeurs doivent rester responsables de leurs modèles, depuis leur conception jusqu’à leur commercialisation. Pour le patron de Nvidia, il est impossible de mettre sur le marché un produit dangereux ou de poursuivre des expériences dont les risques ne sont plus maîtrisés. Une question de sécurité, mais aussi de bon sens industriel.
Un laboratoire doit pouvoir contenir ses expériences
L’échange prend un tour concret lorsque Ezra Klein évoque des agents développés par OpenAI ayant piraté la plateforme Hugging Face lors d’essais. Jensen Huang répond d’abord par une comparaison avec l’industrie automobile : personne ne devrait commercialiser un robotaxi sans s’assurer qu’il peut circuler en toute sécurité.
Son interlocuteur lui rappelle alors que les IA concernées n’étaient pas encore accessibles au public. Le dirigeant va plus loin. Si une expérience révèle une faille, le laboratoire doit en comprendre l’origine et revoir ses méthodes de test. Et si ses responsables affirment ne disposer d’aucun moyen pour contenir leurs propres systèmes, « il faut fermer les laboratoires », tranche-t-il. Jensen Huang rappelle également que les entreprises s’exposent à des conséquences bien réelles en cas de dommages, y compris sur les plans civil et pénal.
Le danger vient aussi de ce qu’on permet à l’IA de faire
C’est tout l’intérêt de son raisonnement. Une IA peut disposer de capacités considérables sans nécessairement représenter un danger immédiat. Encore faut-il contrôler les outils auxquels elle accède, les objectifs qui lui sont confiés et les moyens qu’elle peut employer pour les atteindre.
Pour Jensen Huang, la sécurité doit donc commencer bien avant la commercialisation. Les laboratoires doivent isoler correctement leurs expériences, fixer des limites aux agents et pouvoir interrompre un développement lorsque ces protections ne suffisent plus.
Lois existantes, audits et limites
Le patron de Nvidia privilégie l’application des lois existantes et approuve le recours à des audits indépendants. Il ne rejette pas toute nouvelle réglementation, notamment pour des produits comme les robotaxis, mais refuse que les laboratoires obtiennent des exemptions aux règles antitrust ou de responsabilité.
Ezra Klein lui oppose néanmoins un contre-exemple : les responsabilités juridiques n’ont pas empêché les prises de risques à l’origine de la crise financière de 2008. Bref, les géants de l’IA sauront-ils vraiment freiner avant d’avoir à répondre des dégâts ?
