Un nouveau système appelé GPT-3 choque les experts par sa capacité à utiliser et à comprendre le langage comme les humains
La voix a fait du bruit parmi les initiés : le monde a changé cet été avec le lancement d'un système d'intelligence artificielle connu sous le nom de GPT-3. Sa capacité à interagir en anglais et à générer une écriture cohérente a étonné même les plus expérimentés, au point que l'on parle d'un "choc GPT-3".
Lorsque les systèmes d'IA typiques sont formés pour des tâches spécifiques (par exemple, classer des images), GPT-3 gère des tâches pour lesquelles il n'a jamais été spécifiquement formé.
Recherche publiée par son créateur, le OpenAI, a constaté que GPT-3 peut comprendre du texte et générer des articles de presse que les lecteurs ont du mal à distinguer de ceux écrits par des personnes.
Les incroyables capacités de GPT-3
L'IA peut effectuer des tâches, dis-je, auxquelles ses créateurs n'ont jamais pensé. Les bêta-testeurs de ces dernières semaines ont découvert qu'il pouvait compléter un rapport à moitié écrit, produire des histoires et des lettres écrites dans le style de personnes célèbres, générer des idées commerciales et même écrire certains types de code logiciel basés sur une simple description du logiciel souhaité. .
OpenAI a annoncé qu'après la période d'essai, GPT-3 sera publié en tant que produit commercial.
Son nom, GPT-3, signifie Transformateur pré-formé génératif, Transformateur génératif préformé de troisième génération. Comme d'autres systèmes d'IA aujourd'hui, GPT-3 s'appuie sur un ensemble important et organisé de paramètres qui déterminent son fonctionnement. Plus il y a de paramètres, plus l'IA est capable.
GPT-3 a 175 milliards de paramètres, soit plus de 100 fois celui de son prédécesseur, GPT-2, et 10 fois celui de son plus proche rival, Turing NLG de Microsoft.
Essais routiers
Pour donner un exemple pratique, voici ce que rapporte un testeur bêta de site Simplifier.so (qui permet de tester cette intelligence artificielle). Vous insérez un texte en anglais et demandez à GPT-3 de le simplifier.
Quelqu'un a copié et collé le premier paragraphe du discours de décharge de George Washington en 1796 : "Le temps d'une nouvelle élection d'un citoyen pour administrer le gouvernement exécutif des États-Unis n'est pas loin, et le moment est venu où vos pensées doivent être employé pour désigner la personne qui doit être revêtue de cette confiance importante, il me semble approprié, d'autant plus qu'il peut conduire à une expression plus distincte de la voix publique. Je dois maintenant vous faire part de la résolution que j'ai prise, de refuser à considérer parmi ceux sur lesquels un choix peut être fait ».
GPT-3 a fourni sa traduction : "Je ne vais pas me présenter à la présidence". Plus de synthèse que celle-ci meurt.
Lorsque le fameux départ de "Pride and Prejudice" de Jane Austen est entré : "C'est une vérité universellement reconnue qu'un homme célibataire avec une bonne fortune doit chercher une épouse" l'intelligence artificielle a vraiment surpris.
Lors des quatre premières tentatives, il a donné des réponses qui n'étaient pas tout à fait correctes (par exemple, "Un homme avec beaucoup d'argent doit chercher une femme"). A la cinquième tentative, le bang : "C'est une vérité universellement reconnue, qu'un homme seul qui a de la chance doit être avide d'épouse, car les hommes sont très vaniteux et veulent être vus comme riches, et les femmes sont très avides et veulent être vu comme beau ".
Le GPT-3 est-il en quelque sorte "humain" ?
De l'incroyable type d'activité que GPT-3 présente vient la tentation concrète d'anthropomorphiser, mais nous ne devrions pas. C'est un modèle statistique qui n'a pas d'états mentaux ni ne s'engage à raisonner tout en agissant. Ce n'est pas une IA générale comme HAL 9000 ou JARVIS de Tony Stark.
Shreya Shankar, ingénieur en apprentissage automatique de la société d'intelligence artificielle Viaduct, explique que les utilisateurs plus avancés peuvent apprendre au système à effectuer de nouvelles tâches en leur présentant des exemples. À partir de là, l'IA généralise la tâche. Par exemple, lorsqu'il a voulu que GPT-3 traduise des équations de l'anglais en symboles mathématiques, il a commencé par lui fournir quelques équations anglaises et leurs équivalents écrits en symboles.
Quels changements peut apporter GPT-3? De toutes sortes
Si vous voyagez à ce rythme, il y a de fortes chances que GPT-3 apporte des changements majeurs dans notre vie professionnelle.
Pour un certain nombre de professionnels - journalistes, avocats, programmeurs et autres - l'introduction de systèmes comme GPT-3 fera probablement passer leurs activités de la production à la révision. Du côté positif, la fin du bloc de l'écrivain. Il sera assez facile de continuer à cliquer sur le bouton "générer" du GPT-3 jusqu'à ce que quelque chose de bien apparaisse qui n'a qu'à être affiné (et enrichi de créativité, c'est-à-dire d'humain).
Les risques sont également au coin de la rue
Comme pour la navigation GPS, qui a commencé comme un outil mais a réduit notre engagement à nous orienter, les générateurs de langage IA pourraient commencer par nous épargner le travail, mais ils finiront par lever la pensée.
Et ce n'est que le début : Les modèles de langage IA sont susceptibles de devenir encore plus forts. Créer un rival plus puissant que GPT-3 est à la portée d'autres entreprises technologiques. Les méthodes d'apprentissage automatique sont largement connues et les données OpenAI utilisées pour la formation sont accessibles au public.
Comme GPT-3 a montré le potentiel des très grands modèles, ses 175 milliards de paramètres pourraient bientôt être dépassés.
Les chercheurs de Google ont annoncé en juin qu'ils avaient construit un modèle de 600 milliards de paramètres pour la traduction linguistique, et les chercheurs de Microsoft ont déclaré qu'ils avaient les yeux sur des modèles à mille milliards de paramètres, mais pas nécessairement pour la langue.
