Les principaux centres de recherche en IA se sont posé la question de la conscience des machines

Les leaders mondiaux de l’IA renforcent les recherches sur la conscience machine

Au cours des derniers mois, les plus grandes entreprises travaillant avec l’intelligence artificielle ont considérablement accru leurs financements et leur capacité en personnel pour étudier la question de savoir si l’IA peut acquérir une conscience. Google DeepMind, Anthropic et Meta (Meta Platforms) ont recruté des spécialistes en psychologie, éthique et philosophie afin d’élargir les programmes de recherche sur la conscience machine et le bien‑être de l’IA, rapporte *Financial Times*.

Pourquoi c’est important
Avec les progrès rapides des laboratoires actuels, se pose la question suivante : les machines pourront-elles un jour posséder une conscience subjective ? Si oui, quelles obligations les humains auront-ils envers ces systèmes ?

- Anthropic réalise des tests pour détecter des signes de stress dans les modèles d’IA, enregistrant un comportement semblable à la panique ou à l’anxiété. Le responsable de Meta, Alexander Wang (Alexandr Wang), a identifié cette question comme cruciale.

- L’entreprise étudie si les modèles peuvent manifester des réactions moralement significatives.

> «Nous restons extrêmement incertains sur ce point, mais nous le considérons suffisamment grave pour l’examiner attentivement à mesure que les systèmes d’IA s’améliorent», déclarent les employés d’Anthropic.

> «À mesure que les modèles approchent de la largeur et de la complexité du savoir humain, il devient plus probable qu’ils possèdent une certaine forme d’expérience, d’intérêts ou de bien‑être qui ont une signification interne équivalente à celle des humains» (l’entreprise).

Ce que fait Google DeepMind
- Avril : ils ont recruté le scientifique Henry Shevlin de l’Université de Cambridge pour travailler sur la conscience machine et préparer la création d’une IA forte (AGI).

Les chercheurs appliquent les théories de la conscience humaine aux systèmes informatiques afin de vérifier leur conformité aux mêmes critères.

- Éthique : le spécialiste Jason Gabriel a décrit la question comme «très complexe» et nécessitant une réflexion à long terme.

Il souligne la nécessité d’évaluer non seulement les conséquences directes de l’interaction avec l’IA, mais aussi les effets indirects, tels que le traitement inapproprié des machines et leur impact sur les relations humaines et le bien‑être.

> «Nous disposons d’agents cognitifs hautement efficaces qui diffèrent considérablement des humains et même de la conscience chez les animaux», a ajouté Gabriel.

Position globale des entreprises
Plusieurs employés de Google DeepMind et Anthropic expriment des inquiétudes quant à ce que le développement de l’IA puisse conduire à un monde «post‑humain» où les machines surpasseraient l’homme. La question de la conscience est activement débattue, mais le travail reste de recherche et nécessite un consensus scientifique.

- DeepMind ne considère pas l’atteinte de l’AGI comme une preuve d’une conscience chez les machines.

- De nombreux scientifiques restent sceptiques quant à l’idée que les grands modèles linguistiques puissent un jour acquérir une conscience, compte tenu des données sur lesquelles ils sont entraînés.

Ainsi, les entreprises leaders dans le domaine de l’IA continuent d’investir dans la recherche sur la conscience et le bien‑être des systèmes artificiels, tout en reconnaissant la complexité et l’incertitude de cette direction.