+ Vous voulez en savoir plus sur l’innovation ? Rejoignez le groupe Época NEGÓCIOS sur WhatsApp

En fait, ce sujet sera discuté lors du Sommet sur l’IA qui se tiendra à Bletchley Park en novembre et auquel participeront des dirigeants mondiaux, dont le président français Emmanuel Macron, le premier ministre canadien Justin Trudeau et le président de la Commission européenne. Ursula von der Leyen.

« L’objectif du sommet sera de sensibiliser aux risques de « l’IA frontalière », qui est actuellement le principal objectif de Downing Street », a déclaré au journal une personne informée des discussions au sommet. Le garde – IA à la frontière est un terme utilisé pour désigner les modèles d’IA les plus avancés qui peuvent être suffisamment dangereux pour présenter un risque pour la vie humaine.

Dans un communiqué, le gouvernement britannique a déclaré que la réunion se concentrerait sur deux domaines : les risques d’abus, par exemple lorsqu’un acteur malveillant est aidé par de nouvelles capacités d’IA dans des attaques biologiques ou cybernétiques, et les risques de perte de contrôle qui pourraient résultent de systèmes avancés.

Le rapport du Guardian souligne que les autorités ont été alarmées par certains cas impliquant la technologie. L’année dernière, par exemple, il n’a fallu que six heures à un outil d’IA pour suggérer 40 000 molécules différentes potentiellement mortelles, dont certaines étaient similaires au VX, le médicament le plus puissant jamais développé.

Plus tôt cette année, des chercheurs ont découvert que ChatGPT d’OpenAI était capable de mentir pour atteindre un objectif spécifique : le chatbot a convaincu quelqu’un de résoudre un outil « Captcha » conçu pour éliminer les robots en ligne après avoir déclaré qu’il était une personne handicapée et qu’il avait besoin d’aide pour accéder au ordinateur. un site Web.

Des inquiétudes croissantes

Des sources gouvernementales britanniques craignent qu’un criminel ou un terroriste puisse utiliser l’IA pour l’aider à découvrir les ingrédients d’une arme biologique et les envoyer dans un laboratoire robotique, où ils pourraient être mélangés et expédiés sans aucune surveillance humaine.

Certains pensent que ce risque augmentera de façon exponentielle une fois que les entreprises dépenseront des centaines de millions d’euros dans des processeurs beaucoup plus puissants pour former la prochaine génération d’outils d’intelligence artificielle.

Une autre préoccupation majeure est la montée de « l’intelligence générale artificielle » (AGI), un terme qui fait référence à un système d’IA capable d’effectuer de manière autonome n’importe quelle tâche au niveau humain ou au-dessus.

C’est pourquoi les autorités britanniques ont parcouru le monde ces derniers jours pour tester la possibilité de parvenir à un accord à l’issue du sommet. Ils souhaitent obtenir une déclaration officielle que les dirigeants pourront signer plus tard, ainsi qu’un engagement à tenir des réunions similaires à l’avenir.

Vous souhaitez regarder du contenu exclusif de LES QUESTIONS D’ÉPOCA? Accédez à la version numérique.