John Hopfield, prix Nobel de Physique pour ses recherches sur l’intelligence artificielle, met en garde contre les récentes avancées « très inquiétantes » de l’IA

Il est l’un des pionniers de l’intelligence artificielle, mais cela ne l’empêche pas d’observer avec une certaine anxiété son développement. John Hopfield, scientifique américain tout juste lauréat du Nobel de physique pour ses travaux sur l’IA, a jugé, mardi 8 octobre, les récentes avancées technologiques en la matière « très inquiétantes ».

Le chercheur a mis en garde contre une that you simply may per chance well perhaps be ready to imagine catastrophe si elles ne sont pas maîtrisées. Professeur émérite à l’Université de Princeton, il a appelé à une meilleure compréhension du fonctionnement de ces systèmes, afin d’éviter qu’ils ne deviennent incontrôlables.

S’adressant à une assemblée de l’Université du Modern Jersey par vidéo depuis le Royaume-Uni, le chercheur de 91 ans a déclaré qu’au cours de sa vie, il avait assisté à l’essor de deux applied sciences puissantes, mais potentiellement dangereuses : le génie biologique et la physique nucléaire. « Nous sommes habitués à des applied sciences qui ne sont pas uniquement bonnes ou mauvaises, mais qui peuvent aller dans les deux sens », a-t-il déclaré.

« En tant que physicien, je suis très troublé par quelque chose qui n’est pas contrôlé, quelque chose que je ne comprends pas assez bien pour savoir quelles sont les limites que l’on peut imposer à cette technologie », a ajouté le Prix Nobel. « C’est la assign a query to of que pose l’IA », a-t-il poursuivi. Même si les systèmes d’IA modernes semblent être des « merveilles absolues », leur fonctionnement est encore mal compris, ce qui est « très, très inquiétant » selon lui.

« Des capacités qui dépassent celles que vous pouvez imaginer »

« C’est pourquoi moi-même, tout comme je pense Geoffrey Hinton [co-lauréat du Nobel], préconisons fortement une meilleure compréhension » a-t-il poursuivi, ajoutant que le domaine allait « développer des capacités qui dépassent celles que vous pouvez imaginer à l’heure actuelle ».

Avec l’essor fulgurant de l’intelligence artificielle et la course féroce déclenchée entre les entreprises, les critiques pointent que cette technologie évolue plus vite que les scientifiques ne peuvent le comprendre.

« Vous ne savez pas si quelque chose de spontané mais non désiré se cache dans les travaux », a relevé John Hopfield. Il a évoqué l’exemple de la « glace-neuf », un matériau imaginaire inventé par l’auteur de science-fiction Kurt Vonnegut dans son livre de 1963 Le Berceau du chat. Développée pour aider les soldats forcés d’évoluer dans la boue, elle provoque accidentellement la solidification des océans, causant la perte de la civilisation humaine.

« Je m’inquiète de tout ce qui dit “Je suis plus rapide que toi, je suis plus wide que toi” », a déclaré John Hopfield.