Il suffit de regarder le nombre d’avis que ChatGPT associe au mot « menace ». Beaucoup pensent que le programme semble convaincant trop en imitant la parole humaine et en prévoyant les problèmes.

Ce sont des questions sur la possibilité d’une forte rupture dans des domaines tels que la créativité, l’apprentissage et l’éducation, le travail, la sécurité numérique – et la démocratie elle-même, comme le pose un récent article du New York Times.

Selon les auteurs, ce qui était autrefois une personne exprimant son opinion politique pourrait désormais n’être qu’un robot générant artificiellement une polémique.

ChatGPT est essentiellement un robot virtuel (chatbot) qui répond à diverses questions, effectue des tâches par écrit, converse couramment et donne même des conseils sur des problèmes personnels (bien qu’il y ait une mise en garde qu’il ne sert pas cet objectif et que les directives précédentes sont génériques. Mais cela aide l’utilisateur presque toujours lorsqu’il demande conseil).

Les possibilités de génération de contenu sont énormes.

Par exemple, il peut vous apprendre à préparer un stroganoff – et avec une recette différente, si vous le précisez -, vous donner des conseils sur la façon d’obtenir un emploi, écrire de la poésie, des travaux universitaires ou un modèle de procuration judiciaire et également définir un écrire une lettre de réconciliation pour un ami dont vous divorcez.

ChatGPT répond en quelques secondes à une demande aléatoire telle que « écrire un poème sur l’intelligence artificielle dans le style de Carlos Drummond de Andrade » – la qualité du résultat peut être assez discutable selon la critique.

Selon les tests de SEO.ai, ChatGPT est disponible dans près de 100 langues (dont le portugais brésilien), mais les performances du modèle varient selon la langue (ça marche mieux en anglais).

Le système a été développé par OpenAI, une société fondée aux États-Unis en 2015 par Sam Altman (aujourd’hui le personnage principal) et par l’incontournable Elon Musk (qui l’a quitté en 2018 car il estimait qu’il y avait un conflit d’intérêts avec sa société principale, le constructeur automobile Tesla).

Cinq jours après son lancement, ChatGPT a atteint plus d’un million d’utilisateurs (qui, ironiquement, doivent être humains ; vous devez prouver que vous n’êtes pas un robot lorsque vous vous connectez). Ces interactions sont utilisées pour former et développer le modèle.

OpenAI dit que son utilisation sera gratuite et ouvert à tous pendant cette phase de « tests et recherches » – amenant les experts à spéculer sur les futures formes de monétisation de l’outil.

La société avertit également que le logiciel peut « générer occasionnellement des informations inexactes ou trompeuses » pendant cette période et que l’historique des données est limité à 2021.

Bien qu’il soit pointé du doigt comme une menace possible pour l’hégémonie de Google en tant que facilitateur d’informations sur Internet, le système commet encore de graves erreurs, comme dire que le Brésil a déjà remporté au moins cinq Oscars (en fait, le pays n’en a jamais remporté un) .figurine gagnée).

De puissants programmes d’intelligence artificielle basés sur du texte fonctionnent en stockant d’énormes quantités de données (dans ce cas, en mettant l’accent sur les mots et les conversations) et en utilisant des algorithmes pour prédire la meilleure concaténation d’une phrase. Ceux-ci sont appelés grands modèles de langage (LLM).

Le professeur de l’Unifesp Álvaro Machado Dias, futuriste et neuroscientifique, explique que pendant la formation au logiciel, on pose au chatbot des questions comme « qu’est-ce qu’un cylindre ? » et les techniciens élaborent leurs propres réponses.

« Si la réponse du chatbot n’est pas correcte, les bonnes sont entrées dans le système pour l’apprendre. Cela est automatiquement transmis à d’autres situations. »

Bien qu’utilisant déjà une modalité qui parvient à comprendre le contexte de l’utilisation des mots, permettant une meilleure concaténation des textes, les programmes précédents ne répondaient pas aussi bien à l’utilisateur ou sonnaient encore très artificiels. ChatGPT a appris à parler d’une manière plus proche d’un être humain.

Machado Dias dit que la différence de ce programme est l’utilisation d’une technique qui comprend le fonctionnement du langage : le renforcement de l’apprentissage par la rétroaction humaine (RLHF).

Les ingénieurs appliquent des méthodes de « récompense » et de « punition » pour enseigner au système les formes d’interaction les plus souhaitables. C’est un processus de réglage.

En pratique, les ingénieurs ordonnent les réponses données par l’algorithme en fonction de leur pertinence et incitent le programme à apprendre les préférences listées dans l’ordre pour augmenter la pertinence des productions de texte. Le résultat est donné sous forme de textes qui semblent de plus en plus profonds. est plus importante que celle des alternatives », explique le professeur de l’Unifesp.

ChatGPT est également formé pour admettre les erreurs, contester les hypothèses incorrectes et rejeter les demandes inappropriées.

Mais un professeur de l’Université de Californie a réussi à faire en sorte que le système écrive un code de programmation indiquant que seuls les hommes blancs ou asiatiques sont de bons scientifiques.

OpenAI affirme que bien qu’il ait fait des efforts à cet égard, le programme « répondra parfois à des instructions problématiques ou affichera un comportement biaisé ».

Selon l’entreprise, les données recueillies lors de cette phase de test serviront à améliorer le système.

La menace de perturbations pèse déjà sur le travail et l’emploi. Les domaines qui reposent sur le texte, comme le journalisme, peuvent être fortement modifiés – et les offres d’emploi peuvent disparaître à jamais.

La compétence de ChatGPT dans la génération de code soulève également des questions dans un secteur relativement nouveau, la programmation.

Mais l’un des domaines qui a réalisé les problèmes potentiels de ChatGPT est précisément l’un des domaines les plus touchés par l’avènement des nouvelles technologies : l’éducation.

La tentation des étudiants d’utiliser le programme pour trouver des réponses toutes faites à leurs tâches a incité New York à prendre une décision rapide : un mois seulement après ses débuts, le système a été interdit dans les écoles et les appareils publics de la ville américaine.

OpenAI a travaillé sur une sorte de filigrane numérique qui identifie le contenu provenant de ChatGPT. Il existe déjà des algorithmes qui calculent avec une grande précision la probabilité qu’un texte ait été créé par un chatbot.

En plus du « copier-coller », on craint des effets structurels sur l’apprentissage humain. Par exemple, l’exercice cognitif d’écriture d’un essai avec un début, un milieu et une fin, reliant les idées de manière cohérente, sera-t-il affecté ?

« Je suis assez préoccupé par la algorithmes de la pensée, qui est le changement dans notre compréhension et notre relation avec le monde à la suite de l’interaction avec l’IA », explique Machado Dias, de l’Unifesp.

« Je crois que ce sera le plus grand changement de mentalité de toute l’histoire moderne. Il convient de noter que la taille du cerveau humain diminue lentement depuis plus de mille ans en raison du développement technologique. Ce processus doit s’accélérer. Nous allons donc deviennent de plus en plus avancés d’un point de vue technique, d’un point de vue culturel, mais aussi plus limités d’un point de vue neurocognitif. »

Martha Gabriel, auteur du livre Intelligence artificielle : de zéro au métaverse et professeur à la PUC-RS et SP, dit qu’il faudra s’adapter aux temps nouveaux :

« Si une technologie va faire quelque chose de mieux qu’un humain, il ne sert à rien d’essayer de la concurrencer. À partir de là, les compétences humaines qui deviennent précieuses sont de savoir comment maximiser cette technologie et faire ce que la technologie ne peut pas faire.  »

« Ce qui fait la différence dans ce contexte, ce ne sont plus les réponses, mais les questions. Il faut savoir demander. Pour savoir demander, il faut savoir avoir un esprit critique », dit-il.

Pour Yuri Lima, chercheur au Laboratório do Futuro de l’Université fédérale de Rio de Janeiro (UFRJ), « l’enseignement lui-même doit être adapté pour favoriser un apprentissage qui reconnaît les étudiants comme des cyborgs de plus en plus intégrés aux nouvelles technologies ».

« Cela nécessite que les enseignants sachent également utiliser et intégrer les mêmes technologies dans leurs activités. Une fois que les projets, les activités et les devoirs deviennent plus complexes et intégrés à l’univers actuel dans lequel évoluent les élèves, la motivation n’est plus affectée par ce problème technologique. »

Une autre question tourne autour de l’avenir de la créativité humaine et de la production de contenu qui ne repose pas sur l’intelligence artificielle.

Dix jours après l’arrivée du système OpenAI, un designer de San Francisco (USA) a réussi à créer un livre pour enfants en un week-end avec du texte et des illustrations créés avec ChatGPT et MidJourney, un programme qui produit des images à travers des descriptions.

« Un point important qui doit encore être abordé est le problème du plagiat. Étant donné que la formation de modèles tels que ChatGPT est basée sur des textes disponibles sur Internet, tels que des actualités, des livres et des blogs, leurs réponses peuvent générer des idées qui sont utilisées par certaines personnes ont publié sans qu’elles en soient créditées », a déclaré Lima.

« Dans les domaines créatifs, cette reconnaissance des auteurs est considérée comme importante. De plus, ne pas connaître les sources rend difficile la reconnaissance des préjugés ou même des mensonges, comme dans les fake news. »

Machado Dias souligne que « la créativité vient de combinaisons à la fois inhabituelles et pertinentes. Les algorithmes étant des dispositifs générateurs de combinaisons, l’impulsion créative devrait être réduite ».

« D’un autre côté, lorsque les algorithmes accomplissent leurs tâches, ils ont tendance à générer des modèles que nous ne pensions même pas possibles, élargissant notre compréhension combinatoire, c’est-à-dire notre créativité. »

Martha Gabriel va dans le même sens : « La technologie peut être un outil incroyable pour renforcer notre réflexion, car nous pouvons tester d’innombrables hypothèses, formats et solutions en peu de temps pour affiner nos hypothèses et améliorer nos questions ».

« Cependant, cela peut également constituer une menace très sérieuse pour ceux qui utilisent ces systèmes aveuglément, sans critiquer ni remettre en question la morale et l’éthique. Ce n’est pas seulement un risque individuel, mais pour toute l’humanité. »