Qu'est-ce que l'intelligence générale artificielle (AGI)? Tout ce que vous devez savoir

Depuis l'invention de l'ordinateur moderne, il y a eu un débat sur la façon de définir l'intelligence générale artificielle (AGI), comment tester une machine pour voir si elle répond à cette définition et quels seront les avantages et les inconvénients de l'AGI pour le travail humain, la créativité et la découverte scientifique.

Cet article explique ce qu'est AGI, explore son histoire, ses principaux défis, et s'il existe déjà ou reste un objectif lointain.

Table des matières

Comprendre l'intelligence artificielle (IA)

Qu'est-ce que l'intelligence générale artificielle (AGI)?

Traits clés de l'AGI

HISTOIRE DE GÉNÉRAL AI

Comment AGI pourrait-il fonctionner?

Applications potentielles de l'IA générale

Considérations et défis éthiques

Avenir de l'IA général

Qu'est-ce que AGI FAQS

Comprendre l'intelligence artificielle (IA)

Pour comprendre AGI, il est important de le distinguer des autres formes d'intelligence artificielle (IA). L'IA est généralement classée par la manière dont il peut appliquer son intelligence et son bien-être par rapport aux humains.

Qu'est-ce que l'intelligence artificielle?

L'IA fait référence à la technologie qui permet aux machines de résoudre des problèmes complexes, imitant souvent ou dépassant les capacités humaines. Il alimente les tâches comme le traitement du langage, la reconnaissance de la parole et de l'image, l'analyse des données et la génération de code. Cependant, l'IA varie en capacité et peut être classé en trois types principaux:

• AI étroit (IA faible):systèmes spécialisés conçus pour des tâches spécifiques, telles que le filtrage des spams, les algorithmes de recommandation et les programmes de jeu d'échecs. Ces systèmes excellent dans leurs fonctions désignées mais ne peuvent pas s'adapter au-delà. Toute l'IA actuelle relève de cette catégorie.
• Intelligence générale artificielle (AGI):une IA théorique qui peut apprendre, raisonner et résoudre des problèmes dans un large éventail de domaines, similaires à l'intelligence humaine. Contrairement à une IA étroite, AGI ne nécessiterait pas de recyclage pour de nouveaux défis.
• Superintelligence artificielle (ASI):une IA hypothétique qui dépasse l'intelligence humaine dans toutes les disciplines, y compris la résolution créative de problèmes et la pensée stratégique. L'ASI reste spéculative mais est souvent discuté en relation avec l'évolution à long terme d'AGI.

Bien que l'IA d'aujourd'hui soit impressionnante, il reste étroit, n'encellant que dans les limites prédéfinies. La poursuite de l'AGI est la quête d'une véritable intelligence de la machine - qui peut penser, apprendre et s'adapter comme un humain.

Qu'est-ce que l'intelligence générale artificielle (AGI)?

Il n'y a pas de définition universellement acceptée d'AGI, également connue sous le nom d'IA général. Cependant, de nombreuses définitions suggèrent qu'un système est admissible à l'AGI s'il peut effectuer ce qui suit:

• Apprendre de manière adaptativesans nécessiter une intervention humaine
• Généraliser les connaissancespour résoudre des problèmes inconnus
• Effectuer de manière comparable aux humainsdans un large éventail de tâches

Au-delà de ces larges attributs, les définitions de l'AGI varient, reflétant souvent les objectifs de ceux qui tentent de le développer:

• Dans leur livre de 2007,Artificial General Intelligence, Ben Goertzel et Cassio Pennachin définissent AGI comme des systèmes d'IA qui possèdent «un degré raisonnable de compréhension de soi et de maîtrise de soi autonome» et peuvent résoudre une variété de problèmes complexes dans divers contextes.
• OpenAI définit AGI comme «un système hautement autonome qui surpasse les humains au travail le plus économiquement précieux».
• François Chollet, ancien chercheur Google AI et créateur de la référence ARC-AGI, définit AGI comme un système capable d'acquérir efficacement de nouvelles compétences en dehors de ses données de formation. Il souligne que l'intelligence est marquée par l'acquisition et la généralisation des compétences, plutôt que par les compétences elle-même.

Traits clés de l'AGI

Alors que les définitions de l'AGI varient, elles la distinguent généralement de l'IA étroite en soulignant sa capacité à fonctionner dans divers domaines. Quelle que soit la définition spécifique, un AGI devrait posséder plusieurs traits fondamentaux pour atteindre ces capacités:

Prise de décision autonome

Un AGI doit être en mesure de déterminer quand demander de nouvelles informations, demander une assistance ou prendre des mesures indépendantes pour résoudre des problèmes. Par exemple, s'il est chargé de modéliser un marché financier complexe, un AGI devrait identifier les sources de données pertinentes, analyser les tendances historiques et déterminer comment acquérir les informations nécessaires, tout sans guidage humain.

Résolution de problèmes dans des domaines inconnus

AGI doit être en mesure de généraliser les connaissances d'un domaine et de l'appliquer à de nouvelles tâches inconnues. Cette capacité à transférer l'apprentissage par analogie est similaire à la façon dont un musicien formé sur un ou deux instruments peut rapidement en apprendre un tiers. De la même manière, un AGI doit tirer parti des connaissances antérieures pour résoudre des problèmes pour lesquels elle n'a pas été explicitement formée.

Auto-amélioration continue

Un AGI doit être capable d'évaluer ses propres performances et de s'adapter à de nouvelles situations. Une approche de l'auto-amélioration récursive est les données de formation auto-générées, comme le montre le robocat de DeepMind. Une autre capacité potentielle consiste à modifier son propre code et son propre architecture. Cependant, une telle auto-modification pourrait introduire des risques de sécurité si l'AGI apporte des modifications que les humains ne peuvent pas comprendre ou contrôler pleinement.

HISTOIRE DE GÉNÉRAL AI

L'histoire de l'AGI est mieux comprise dans l'histoire plus large de l'IA. La recherche a évolué à travers plusieurs époques distinctes, chacune façonnant le chemin vers des systèmes d'IA plus capables et généraux.

AI précoce: AI symbolique (1950 - 1980)

La première tentative de construction de l'IA dans les années 1950 et 1960 était basée sur l'idée que vous pouviez enseigner à une machine à réfléchir par la programmation des règles et de la logique (représentée comme symboles) dans l'ordinateur et en lui demandant de résoudre des problèmes en utilisant ces règles. Cela a produit des systèmes d'experts qui pourraient battre les humains lors de jeux de société et effectuer des tâches spécialisées (le champion d'échecs d'IBM Deep Blue en est un exemple), mais ils n'ont pas pu apprendre quoi que ce soit en dehors de leurs connaissances programmées.

Le passage à l'apprentissage automatique (1990 - 2010)

Un changement majeur s'est produit dans les années 1990 avec la montée en puissance de l'apprentissage automatique (ML), qui s'est inspiré du fonctionnement des neurones biologiques dans le cerveau. Plutôt que d'utiliser des règles à code dur, ces systèmes de connexion utilisent des réseaux de neurones qui utilisent de nombreuses couches de neurones artificiels qui apprennent en s'entraînant sur de grands ensembles de données et en améliorant progressivement leurs sorties par rapport à de nombreuses séries d'entraînement.

The Deep Learning Revolution (2010-présent)

La révolution moderne du Deep Learning a commencé en 2012 lorsque les chercheurs ont commencé à utiliser des unités de traitement graphique (GPU) pour créer des réseaux de neurones avec des milliards de paramètres. Cela a permis une énorme augmentation de la puissance de calcul qui a donné à ces modèles d'apprentissage automatique - notamment des modèles contemporains de grande langue (LLM) comme Chatgpt - la capacité d'en savoir plus et de généraliser certaines connaissances à des tâches similaires.

Définir AGI: au-delà des références traditionnelles d'IA

À mesure que les systèmes d'IA sont devenus plus sophistiqués, les chercheurs ont proposé de nouvelles repères pour évaluer si un système d'IA avait atteint l'intelligence au niveau de l'homme. La référence précoce la plus célèbre, le test de Turing, a été conçue pour déterminer si une machine pouvait imiter la conversation humaine de manière convaincante. Cependant, comme les LLM comme Chatgpt et Claude peuvent désormais passer ce test, de nombreux chercheurs le considèrent comme dépassé.

Des repères plus récents, tels que le test ARC-AGI, se concentrent sur la capacité d'un système d'IA à généraliser au-delà de ses données de formation. Alors que les modèles d'IA actuels ne sont toujours pas du raisonnement humain, certains, comme le modèle O3 d'Openai, ont obtenu des résultats révolutionnaires, ravivant les débats sur la faisabilité d'Agi.

Comment AGI pourrait-il fonctionner?

Il n'y a pas de consensus parmi les chercheurs de l'IA sur quelle approche mènera finalement à l'AGI. L'IA symbolique et l'apprentissage en profondeur ont des limites en matière de construction de systèmes qui peuvent généraliser les connaissances dans différents domaines. Les recherches actuelles se concentrent sur le développement de modèles avec des capacités métacognitives - la capacité d'évaluer et d'améliorer leurs propres processus de raisonnement.

Limitations aux approches actuelles

Les systèmes d'IA symboliques s'appuient sur des programmeurs humains pour les connaissances et ne peuvent pas obtenir de nouvelles informations par eux-mêmes, tandis que les systèmes d'apprentissage en profondeur, y compris l'IA générative, nécessitent de vastes ensembles de données et de longues périodes de formation pour apprendre de nouvelles tâches. Les humains, en revanche, absorbent facilement de nouvelles informations et peuvent apprendre à faire de nouvelles choses rapidement avec très peu d'exemples.

Même avec ces défis, cependant, les chercheurs explorent de nombreuses voies pour créer des machines capables d'apprendre, de généraliser et de prendre des décisions à un niveau humain (ou mieux). Certaines approches récentes qui ont des éléments d'AGI comprennent une IA neuro-symbolique, une IA agentique et une IA incarnée.

IA neuro-symbolique

Certains chercheurs de l'IA, dont Gary Marcus et Ben Goertzel, soutiennent que les systèmes neuro-symboliques sont le moyen d'AGI. Ces systèmes combinent différents types de systèmes d'IA pour compenser les lacunes d'une approche.

Par exemple, en 2023, Goertzel et ses collaborateurs ont publié OpenGog Hyperon, un effort AGI open source qui fournit un cadre logiciel pour combiner les systèmes d'IA à partir de diverses disciplines, y compris le traitement du langage naturel (PNLP), la logique formelle et le raisonnement probabiliste. Google Deepmind a récemment atteint des performances au niveau de la médaille d'argent à l'Olympiade mathématique internationale avec deux systèmes neuro-symboliques, l'alphaproof et l'alphageométrie 2.

AI agentique

Les agents de l'IA sont considérés comme une étape possible sur la voie d'AGI car ils peuvent évaluer et répondre à leur environnement, comprendre le contexte et prendre des décisions indépendantes des humains pour atteindre des objectifs. Comme l'approche neuro-symbolique, les systèmes d'IA agentiques fonctionnent en combinant plusieurs types d'IA pour accomplir différentes tâches. Cependant, la recherche sur l'IA agentique en est encore à ses premiers stades, et bon nombre des capacités les plus avancées attribuées à l'IA agentique sont toujours théoriques.

AI incarné

Les principaux penseurs de l'IA, y compris le co-fondateur d'OpenAI, Andrej Karpathy et la scientifique Melanie Mitchell, ont déclaré qu'une forme de mode de réalisation peut être nécessaire pour atteindre AGI. Ceci est enraciné dans l'idée qu'il serait difficile pour une IA d'apprendre des compétences cognitives de base comme comprendre la causalité ou la permanence des objets sans la capacité de recevoir des entrées sensorielles.

L'IA incarnée est implicitement requise pour répondre à certaines définitions populaires de l'AGI. Par exemple, le co-fondateur d'Apple, Steve Wozniak, a proposé une référence appelée le café, dans lequel une machine pourrait être considérée comme possédant AGI si elle pouvait entrer dans la maison d'une personne arbitraire et trouver comment préparer une tasse de café.

Applications potentielles de l'IA générale

En raison de la nature de l'intelligence généralisée, les applications potentielles de l'AGI sont pratiquement illimitées. Certaines industries qui peuvent particulièrement bénéficier de l'adaptation et de l'autonomie que l'AGI offrira comprennent les soins de santé, l'éducation, la fabrication et la finance.

Soins de santé

AGI a le potentiel d'affecter de nombreux domaines des soins de santé où il serait avantageux d'avoir un système intelligent avec accès à de grandes quantités de données, notamment le diagnostic et la découverte de médicaments, et la capacité de créer des plans de traitement individualisés qui reflètent la situation complète des antécédents de santé d'un patient.

Éducation

Les systèmes AGI en éducation peuvent être utilisés pour aider à personnaliser les voies d'apprentissage pour que les élèves répondent à leurs besoins spécifiques, aident les enseignants à des tâches administratives et à la planification des leçons afin qu'ils puissent passer plus de temps à l'enseignement et aider les enseignants à analyser les performances des élèves pour identifier les lacunes où les élèves peuvent prendre du retard.

Fabrication

Les fabricants ont un besoin constant d'optimiser les processus qui sous-tendent la logistique complexe de la chaîne d'approvisionnement, les calendriers de production et le contrôle de la qualité. AGI a le potentiel d'aider à prendre des décisions sur la façon d'améliorer les processus et de les automatiser.

Finance

Étant donné que les sociétés du secteur financier traitent d'une grande quantité de données, AGI sera en mesure d'analyser et de prendre des décisions sur cette échelle d'informations beaucoup plus rapidement que les humains. Cela a le potentiel d'accélérer les tâches lourdes des données comme l'évaluation des risques, la conformité et l'analyse du marché.

Considérations et défis éthiques

Alors que les progrès vers AGI continuent d'avancer, il y a des problèmes juridiques et des préoccupations éthiques qui devront être prises en compte à la fois par les bâtiments et ceux qui utilisent des systèmes AGI.

Biais

De la même manière que les systèmes d'IA étroits peuvent souffrir d'un manque de diversité dans des échantillons de formation, les systèmes AGI ont le potentiel de présenter des types de biais raciaux, de sexe ou de biais basés sur des données d'entraînement biaisées ou incomplètes. Les algorithmes peuvent également introduire le biais en pondérant certaines variables pour privilégier un groupe sur un autre.

Responsabilité juridique des actions AGI

Les systèmes d'IA ont déjà fait l'objet de différends juridiques concernant les violations des lois sur la vie privée et le logement équitable. Cependant, les cadres juridiques existants ne définissent pas toujours clairement qui est responsable des dommages causés par l'IA. L'émergence d'agents intelligents avancés compliquera davantage les questions de responsabilité lorsque les machines agissent de manière à enfreindre la loi.

Défis d'alignement

Les systèmes AGI pourraient avoir accès à de grandes quantités de données et à l'autonomie pour prendre des décisions percutantes. S'assurer que ces systèmes s'alignent sur les valeurs humaines et les principes éthiques sont un objectif clé de la recherche sur l'alignement de l'IA. Les experts travaillent à développer des méthodes qui permettent à l'AGI d'interpréter et d'adhérer aux objectifs et contraintes souhaités, en minimisant les résultats involontaires ou indésirables.

Avenir de l'IA général

À mesure que l'IA avance, il présente à la fois des défis et des opportunités. Bien que les préoccupations concernant l'emploi et la sécurité doivent être traitées, AGI a le potentiel d'apporter des avantages significatifs dans des domaines tels que l'analyse des données, l'automatisation, l'optimisation, les soins de santé et la sécurité.

AGI pourrait accélérer les progrès sur des problèmes scientifiques et sociaux complexes en résolvant des problèmes à une échelle au-delà de la capacité humaine. En gérant les tâches répétitives, AGI peut également libérer les gens pour se concentrer davantage sur le travail significatif et les intérêts personnels. En fin de compte, son développement remodelera non seulement les industries, mais aussi la façon dont les humains perçoivent l'intelligence et leur rôle dans le monde.

AGI FAQs

Quelle est la différence entre l'IA et l'AGI?

AGI est un sous-type d'IA qui diffère d'une IA étroite ou faible, qui est conçue pour effectuer des tâches spécifiques dans un domaine limité. En revanche, AGI fait référence à un stade hypothétique de développement de l'IA dans lequel les systèmes possèdent une flexibilité, une adaptabilité et un raisonnement humain, leur permettant d'apprendre et d'effectuer un large éventail de tâches dans différents domaines.

Quelle est la différence entre l'IA générative et l'IA générale?

L'IA générative est un type d'IA qui analyse de grands ensembles de données pour générer des prédictions, du contenu ou des réponses basées sur des modèles appris. L'IA générale, ou AGI, fait référence à l'IA capable d'intelligence au niveau de l'homme et de raisonnement dans plusieurs domaines, lui permettant d'apprendre et d'effectuer une grande variété de tâches sans se limiter à une fonction spécifique.

Chatgpt est-il considéré comme AGI?

Certains experts suggèrent que les LLM comme Chatgpt et Claude pourraient déjà être considérés comme AGI. Cependant, ce point de vue n'est pas largement accepté parmi les chercheurs de l'IA. Chatgpt n'a pas de véritable compréhension du texte qu'elle génère, lutte avec le raisonnement et ne peut pas généraliser ses connaissances dans différents domaines, comme le contrôle d'un système physique comme une voiture autonome. Ces limitations signifient qu'elle ne répond pas aux critères d'AGI.

O3 est-il considéré comme AGI?

Alors que le modèle de raisonnement O3 d'Openai a obtenu un score impressionnant de 87,5% sur la référence Arc-AGI le 20 décembre 2024, le créateur de Benchmark, François Chollet, ne considère pas qu'il a atteint AGI.

Les observateurs soulignent que l'O3 s'est appuyé sur une pré-formation approfondie avec des échantillons de test public et a nécessité des ressources de calcul massives pour obtenir son score. Chollet a également noté que certains modèles à basse compréhension ont obtenu un score de 81%, ce qui suggère que le succès de l'O3 était davantage motivé par le calcul par force brute que par la véritable intelligence générale.

Quels sont les principaux défis de la construction de l'IA générale?

• Fidiédité:les systèmes AGI doivent être toujours précis et fiables pour que les utilisateurs dépendent de leurs sorties dans des applications critiques.
• Le problème de longue queue:Peu importe les données de formation qu'un système d'IA a, elle rencontrera inévitablement des scénarios rares ou imprévus. Par exemple, les voitures autonomes seront confrontées à des situations non couvertes dans leur formation, ce qui les obligera à généraliser efficacement.
• Consommation d'énergie:les modèles AI avancés nécessitent déjà de grandes quantités d'énergie et d'eau pour le calcul. AGI pourrait exiger des ressources encore plus importantes à moins que des méthodes de traitement plus efficaces ne soient développées.
• COMMUN SENSE:Contrairement aux humains, l'IA manque d'expérience réelle et de compréhension intuitive de la physique, des interactions sociales et du raisonnement quotidien - la connaissance que les gens acquièrent naturellement depuis l'enfance.

AGI existe-t-il encore?

Parce que le termeAGIa été défini de différentes manières, ce qui répond à la définition (ou à l'entreprise) d'une personne d'AGI peut déjà exister pour eux mais pas selon quelqu'un d'autre. En utilisant la définition de l'article de Google Deepmind selon laquelle «un système d'IA qui est au moins aussi capable qu'un humain dans la plupart des tâches», il est logique de dire qu'Agi n'existe pas encore.