Celui que l’on appelle le « parrain » de l’intelligence artificielle (IA) a démissionné et a mis en garde contre les dangers croissants de cette technologie.

Geoffrey Hinton, 75 ans, a annoncé son départ de Google dans une interview au journal américain The New York Times et a déclaré qu’il regrettait désormais son travail.

Psychologue cognitif et informaticien, il a déclaré à la BBC que certains des dangers des chatbots (robots virtuels) à intelligence artificielle sont « assez effrayants ».

« À l’heure actuelle, autant que je sache, ils ne sont pas plus intelligents que nous. Mais je pense qu’ils pourraient l’être bientôt.

Hinton a également admis que son âge avait joué un rôle dans sa décision de quitter l’entreprise.

« J’ai 75 ans, il est temps de prendre ma retraite », a-t-il déclaré à la BBC.

Les recherches révolutionnaires de Hinton sur l’apprentissage profond et les réseaux neuronaux ont ouvert la voie aux systèmes d’intelligence artificielle actuels tels que ChatGPT.

Mais il a déclaré à la BBC que le chatbot pourrait bientôt dépasser le niveau d’information contenu dans le cerveau humain.

« Ce que nous constatons maintenant, c’est que GPT-4 dépasse et dépasse de loin une personne en termes de connaissances générales. En termes de raisonnement, ce n’est pas très bon, mais il est déjà capable de raisonner simplement. « 

« Et étant donné le rythme de l’évolution, on s’attend à ce qu’ils s’améliorent rapidement. Nous devons donc nous en inquiéter. »

Dans le rapport du New York Times, Hinton faisait référence à des « personnes maléfiques » qui tenteraient d’utiliser l’intelligence artificielle pour des « choses maléfiques ».

Lorsque la BBC a demandé à en parler davantage, il a répondu :

« Au pire, c’est une sorte de scénario de cauchemar. »

« Par exemple, vous pouvez imaginer une personne malveillante [o presidente russo Vladimir] Poutine a décidé de donner aux robots la possibilité de créer leurs propres sous-objectifs.

Le scientifique a prévenu que cela pourrait tôt ou tard « créer des sous-objectifs tels que « J’ai besoin de plus de puissance » ».

« Je suis arrivé à la conclusion que le type d’intelligence que nous développons est très différent de celui dont nous disposons. »

« Nous sommes des systèmes biologiques, et ceux-ci sont des systèmes numériques. Et la grande différence est qu’avec les systèmes numériques, vous disposez de nombreuses copies du même ensemble de poids, du même modèle mondial. »

« En al deze kopieën kunnen afzonderlijk leren, maar ze delen hun kennis onmiddellijk. Het is dus alsof je 10.000 mensen hebt, en wanneer een van hen iets leert, leren ze het allemaal automatisch. En zo kunnen deze chatbots zoveel weten meer dan wie dan aussi. »

Le scientifique a souligné qu’il ne voulait pas critiquer Google et que l’entreprise technologique avait été « très responsable ».

« En fait, je veux dire de bonnes choses sur Google. Et elles seront plus crédibles si je ne travaille pas pour Google.

Dans un communiqué, le scientifique en chef de Google, Jeff Dean, a déclaré :

« Nous restons engagés dans une approche responsable de l’intelligence artificielle. Nous apprenons continuellement à comprendre les risques émergents tout en innovant avec audace. »