Surnommé le “parrain de l’intelligence artificielle”, Geoffrey Hinton n’a pas caché son antipathie pour le patron d’OpenAI.
Rares sont les prix Nobel qui finissent par regretter leurs travaux. Geoffrey Hinton, co-lauréat avec John Hopfield du prix Nobel de Physique pour leur apport dans le domaine de l’intelligence artificielle, en fait partie. Surnommé le “parrain de l’IA”, le chercheur n’en finit plus d’alerter sur les dérives potentielles des modèles.
Dans son viseur, la bête noire de ceux qui critiquent l’explosion soudaine de ChatGPT: Sam Altman, le patron d’OpenAI. Lors d’une série de questions réponses avec l’Université de Toronto ce 8 octobre, le très vénérable Geoffrey Hinton s’est donc payé le tout puissant patron par une remarque acerbe.
“Je voudrais remercier mes étudiants. J’ai été particulièrement chanceux d’avoir eu beaucoup d’étudiants brillants, bien plus brillants que moi” a-t-il lancé. “Ils ont fait des choses incroyables. Et je suis particulièrement fier qu’un de mes étudiants ait licencié Sam Altman.”
Il fait alors référence à Ilya Sutskever, un des fondateurs d’OpenAI, qui a tenté de renverser, en vain, Sam Altman l’année dernière. Si le Conseil d’administration avait bien réussi à le mettre à la porte, il avait finalement été contraint, sous la pression des employés et des actionnaires, à le réintégrer. Ilya Sutskever a, depuis, quitté l’entreprise, comme beaucoup d’autres.
Les profits plutôt que la sécurité
L’origine du conflit est résumé par Geoffrey Hinton: “avec le temps, il s’est avéré que Sam Altman était beaucoup moins préoccupé par la sécurité que par les profits. Et je pense que c’est dommage.”
“OpenAI a été mis en place avec un fort accent sur la sécurité. Le premier objectif était de développement une intelligence artificielle générale et de garantir qu’elle serait sûre” a-t-il souligné.
Fondé en 2015 notamment par Sam Altman et Elon Musk, OpenAI est effectivement passé d’une organisation à but non lucratif à une startup lucrative valorisée à 150 milliards de bucks, grâce à Sam Altman. Au level que de fortes dissensions apparaissent au sein de l’entreprise sur le degré de sécurité mis en allege.
“Mon inquiétude est que l’IA peut aussi conduire à de mauvaises choses” insiste Geoffrey Hinton. “En particulier quand nous fabriquons des choses plus intelligences que nous même. Personne ne sait vraiment si nous allons pouvoir les contrôler.”
Thomas Leroy Journaliste BFM Enterprise
