Dans sa dernière annonce, Mark Zuckerberg, PDG de Meta, a surpris le monde de la technologie en déclarant qu'il souhaitait investir de manière significative dans le développement d'unintelligence artificielle générale (IAG) et de le rendre Open source.
Cette intention a en fait fait sursauter plus d'un expert du secteur, déclenchant une vague de réactions sceptiques et inquiètes. Pouquoi?
AGI Open Source : démarche révolutionnaire ou dangereuse ?
Zuckerberg, comme mentionné, a déclaré que l'AGI développée par Meta sera accessible aux développeurs et au public, permettant à chacun d'utiliser et d'adapter cette technologie. La nature open source d’un système aussi avancé que l’AGI soulève cependant de sérieuses questions en matière de sécurité et de réglementation.
Dame Wendy Hall, professeur d'informatique à l'Université de Southampton et membre du Comité consultatif des Nations Unies sur l'IA, a qualifié la perspective d'une AGI open source de « vraiment effrayante », qualifiant la décision de Zuckerberg d'irresponsable.
C'est un peu comme donner aux gens des plans pour construire une bombe nucléaire
Dame Wendy Hall
Interviews et réactions : le monde réagit
Le débat sur l’AGI open source n’est pas seulement théorique. Dr Andrew Rogoyski de l'Université de Surrey a exprimé des préoccupations similaires, soulignant que des décisions de cette ampleur ne devraient pas être laissées entre les mains d'une seule entreprise technologique. Ces commentaires soulignent la nécessité croissante d’un consensus international et d’une réglementation prudente dans un domaine aussi puissant et influent que l’intelligence artificielle.
Avec le potentiel de dépasser les capacités humaines, l’AGI pourrait échapper au contrôle humain, surtout si elle devient largement accessible grâce à l’Open Source. Nous devons rapidement surmonter notre incrédulité à l’égard de systèmes qui semblaient impensables jusqu’à récemment. Abandonnez les tentations opposées de « bénir » l’IA ou le considérer comme apocalyptique, et travaillez simplement à modérer à la fois l’outil lui-même et son utilisation.
L’avenir de l’IA et de la responsabilité sociale
Zuckerberg navigue une fois de plus en eaux inexplorées, et il le fait avec la même légèreté enthousiaste sans doublure pour le métaverse. J'espère que vous vous concentrerez sur la responsabilité sociale de Meta en garantissant que son AGI est développé et distribué de manière sûre et éthique.
L’histoire nous a appris que les innovations technologiques, tout en étant porteuses de progrès, peuvent aussi avoir des effets secondaires négatifs si elles ne sont pas gérées correctement. L'AGI « open source » de Meta apportera-t-elle innovation et progrès, ou nous exposera-t-elle à des risques inimaginables ? La réponse à ces questions façonnera non seulement l’avenir de la technologie, mais aussi l’évolution de la société humaine.
