La croissance de l’intelligence artificielle a été remarquable et son utilisation a soulevé des questions et des inquiétudes. Elon Musk était le co-fondateur de IA ouverte, sorti en 2018, et a été l’une des voix les plus critiques de la croissance rapide de cette technologie révolutionnaire.

Le propriétaire de Tesla, accompagné d’un groupe d’experts et de responsables technologiques, pose des questions une « pause » de six mois dans le développement de systèmes plus puissants que les nouveaux Google Tag-4, danslettre ouvertedans lequel sont répertoriés risques possibles pour l’humanité.

La lettre a été préparée par l’organisation à but non lucratif « Future Life » et signée par plus de 1 100 personnes qui une suspension « délibérée » des projets d’intelligence artificielle. Avec cela, ils veulent que les entreprises technologiques le fassent mettre en place des protocoles de sécurité. De plus, ils comprennent la pertinence suivre de près les développements de l’intelligence artificielle par des experts externes indépendants.

« Ce n’est pas une pause dans le développement de l’IA en général, mais simplement un pas en arrière dans la course périlleuse vers des modèles de boîtes noires toujours plus grands et plus imprévisibles avec des capacités émergentes », ont-ils précisé dans la lettre.

Il est à noter que cet institut, « Future Life », est financé principalement par la Fondation Musk, ainsi que le groupe Founders Pledge et la Silicon Valley Community Foundation.

C’est indiqué dans la lettre Les systèmes d’intelligence artificielle pourraient présenter des « risques profonds » pour l’humanité.

« Comme indiqué dans le document largement approuvéPrincipes d’IA d’Asilomar L’IA avancée peut révolutionner l’histoire de la vie sur Terre et doit être planifiée et gérée avec soin et avec des ressources proportionnées », indique-t-il.

Qui sont les destinataires ?

Les destinataires comprenaient le PDG de Stability AI, Emad Mostaque, chercheurs de Esprit profond et les « poids lourds » de l’intelligence artificielle, Yoshua Bengio, souvent surnommé l’un des « parrains de l’IA », et Stuart Russel, un pionnier de la recherche sur le terrain.

Le co-fondateur d’Apple Steve Wozniak, Jaan Tallin et Luis Moniz Pereira étaient également les noms célèbres qui ont signé cette lettre.

Le PDG d’OpenAI lui-même, Sam Altman, est sorti pour avertirque le monde pourrait être proche d’une intelligence artificielle « potentiellement effrayant » et souligne que la réglementation pour contrôler cette avancée technologique est « critique ».

les critiques

Les critiques ont accusé les signataires de la lettre pour promouvoir le « hype de l’intelligence artificielle », au motif que le Les affirmations sur la puissance de cette technologie sont très exagérées.

« Ce genre de déclarations est destiné à attiser le battage médiatique. C’est destiné à inquiéter les gens », a déclaré Johanna Björklund, chercheuse en IA et professeure associée à l’Université d’Umeå. « Je ne pense pas qu’il soit nécessaire de tirer le frein à main. »

Au lieu d’arrêter l’enquête, Johanna, la Les chercheurs en IA devraient être soumis à des exigences de transparence plus strictes.