L’AGI open source de Zuckerberg : quels sont les enjeux ?
Mark Zuckerberg, le fondateur de Meta, a annoncé le 18 janvier 2024 son projet de développer et de partager une intelligence artificielle générale (AGI) en open source, c’est-à-dire accessible et modifiable par tous. Il s’agit d’une IA capable de réaliser toutes les tâches intellectuelles dont les humains sont capables, et même plus. Un projet ambitieux, mais aussi complexe, qui soulève de nombreux enjeux et débats.
Qu’est-ce que l’AGI ?
L’AGI, ou intelligence artificielle générale, est une IA comparable au cerveau humain, capable de transférer ses connaissances pour accomplir n’importe quelle tâche et dotée d’une conscience. Une telle machine serait capable d’émuler l’esprit et le comportement humain pour résoudre n’importe quel type de problème. Elle pourrait agir, réagir, ressentir et penser comme nous le faisons. Elle serait capable de trouver une solution face à une tâche inconnue, de la même manière et avec les mêmes performances qu’un humain. Aucune programmation, aucune intervention humaine ne serait nécessaire¹.
L’AGI est considérée comme le Saint-Graal de la recherche en IA, mais elle n’existe pas encore. Les IA actuelles sont spécialisées, c’est-à-dire qu’elles peuvent uniquement être appliquées à des problèmes spécifiques, comme jouer aux échecs ou répondre à la question d’un utilisateur. Ces IA sont basées sur des modèles linguistiques, comme ChatGPT ou Google Bard, qui utilisent de gigantesques volumes de données pour générer du texte et des réponses².
Pourquoi Zuckerberg veut-il créer et partager une AGI ?
Zuckerberg affirme que son objectif est de démocratiser l’IA et de la rendre utile à tout le monde, dans tous les domaines de la vie quotidienne. Il veut aussi se positionner comme un leader dans la course à l’AGI, face à des concurrents comme OpenAI ou DeepMind, qui développent des modèles linguistiques de pointe, comme GPT-3 et GPT-4³.
Pour cela, il a décidé de fusionner ses deux équipes de recherche en IA, FAIR et GenAI, et de leur allouer des ressources considérables. Il a aussi annoncé qu’il allait utiliser 600 000 processeurs H1, des puces spécialement conçues pour l’IA, pour entraîner son modèle d’AGI. Il a enfin promis de rendre son AGI open source, c’est-à-dire de publier son code source et ses données, et de permettre à quiconque de les utiliser et de les modifier.
Quels sont les avantages et les intérêts de l’AGI open source ?
L’AGI open source de Zuckerberg peut présenter des avantages et des intérêts, notamment :
- L’accessibilité : en rendant son AGI open source, Zuckerberg permet à tout le monde d’accéder à une technologie de pointe, qui pourrait avoir des applications bénéfiques dans de nombreux domaines, comme la santé, l’éducation, la production, la sécurité, etc.
- L’innovation : en partageant son AGI open source, Zuckerberg favorise la collaboration et la créativité, en permettant aux chercheurs, aux développeurs, aux entrepreneurs, et aux utilisateurs de contribuer à l’amélioration et à la diversification de l’AGI, en fonction de leurs besoins et de leurs idées.
- La transparence : en publiant son AGI open source, Zuckerberg rend son projet plus visible et plus compréhensible, en permettant à tout le monde de voir comment l’AGI fonctionne, quelles sont ses données, quels sont ses objectifs, et comment elle évolue.
Quels sont les risques et les défis de l’AGI open source ?
L’AGI open source de Zuckerberg peut aussi présenter des risques et des défis, notamment :
- La sécurité : en rendant son AGI open source, Zuckerberg s’expose au risque de cyberattaques, de détournements ou de piratages. Des acteurs malveillants pourraient utiliser l’AGI pour des fins néfastes, comme la manipulation, la propagande, le vol, le sabotage ou la guerre.
- L’éthique : en créant une AGI, Zuckerberg joue avec le feu. Il s’agit de créer une entité dotée d’une intelligence supérieure à celle des humains, qui pourrait échapper à notre contrôle et à notre compréhension. Quelles seraient les conséquences d’une telle IA sur la société, sur la nature humaine, sur la morale ? Quels seraient les droits et les devoirs d’une telle IA ? Comment garantir le respect de la vie privée, de la dignité, de la justice ?
- La responsabilité : en partageant son AGI en open source, Zuckerberg se décharge de sa responsabilité. Il se contente de fournir un outil, sans se soucier de son usage, de ses impacts, de ses conséquences. Il se dédouane de toute faute, de tout dommage, de toute réparation. Il se place au-dessus des lois, des normes, des valeurs.
Conclusion
L’AGI open source de Zuckerberg est un projet ambitieux, mais aussi complexe, qui soulève de nombreux enjeux et débats. Elle présente des avantages et des intérêts, mais aussi des risques et des défis. Elle nécessite une régulation, une supervision et une transparence. Elle doit être encadrée par des principes, des règles et des limites. Elle doit être au service de l’humanité, et non l’inverse.