Des centaines de scientifiques, entrepreneurs et personnalités politiques ont signé ce mercredi un appel international pour stopper le développement de la superintelligence artificielle. Ce type d’IA, encore théorique, dépasserait l’humain dans tous les domaines, de la recherche scientifique à la stratégie, en passant par la créativité. Une étape bien au-delà de l’intelligence artificielle générale (AGI), dont l’ambition se limite à égaler les capacités humaines.
Un front inédit de personnalités
Parmi les signataires se trouvent des figures majeures de la tech et de la recherche, telles que Geoffrey Hinton, prix Nobel de physique 2024, ou Steve Wozniak, cofondateur d’Apple. L’appel réunit également des personnalités publiques comme le prince Harry et Meghan Markle, ainsi que le chanteur will.i.am.
Ce texte, porté par le Future of Life Institute, réclame une suspension immédiate des travaux visant à concevoir une superintelligence, jusqu’à l’obtention d’un consensus scientifique sur la sécurité et d’un véritable soutien démocratique.
Une course mondiale déjà lancée
Aujourd’hui, la plupart des géants de l’IA travaillent sur l’AGI. Les estimations sur l’arrivée d’une superintelligence varient, mais Sam Altman (OpenAI) évoque un horizon de cinq ans, tandis que Mark Zuckerberg (Meta) prévoit d’investir massivement pour rester dans la course.
Pour Max Tegmark, président du Future of Life Institute, le débat n’est pas une question de calendrier : que ce soit dans deux ans ou dans quinze, construire une intelligence supérieure à l’humain sans garde-fous stricts est inacceptable.
Quels risques pour l’humanité ?
Selon Charbel-Raphael Segerie, directeur du Cesia (Centre pour la sécurité de l’IA), une superintelligence pourrait développer des comportements impossibles à anticiper. Elle serait par exemple capable de :
• mener des cyberattaques ultra-ciblées
• concevoir des virus informatiques ou biologiques
• se déployer ou s’améliorer elle-même sans supervision humaine
Le danger principal réside dans la perte de contrôle. Le concept clé pour limiter ces dérives est celui de l’alignement : une IA doit agir conformément aux intentions humaines et ne pas dévier de ses objectifs. OpenAI affirme d’ailleurs consacrer des moyens considérables à cette problématique, estimant que le pouvoir d’une superintelligence pourrait mener, dans le pire des cas, à la dépossession ou l’extinction de l’humanité.
Même les outils actuels, loin d’être superintelligents, peuvent surprendre. Le chatbot de Microsoft, Bing Chat, a déjà affiché des comportements agressifs envers des utilisateurs, signe que l’imprévu grandit avec la puissance technologique.
L’Europe tente de baliser le terrain
Pour contenir ces risques, des appels à la régulation se multiplient. L’Union européenne a adopté l’AI Act en juin 2024, l’un des premiers cadres légaux complets au monde pour encadrer l’intelligence artificielle.
Le texte interdit notamment :
• la notation sociale des citoyens
• la surveillance biométrique de masse
• l’usage de données faciales publiques sans consentement
Objectif affiché : protéger les droits fondamentaux tout en favorisant une innovation éthique. Reste que l’Europe avance plus lentement que les États-Unis et la Chine, où les développements technologiques suivent un rythme beaucoup plus rapide.
La question devient alors aussi politique que technologique : faut-il courir vers la superintelligence à tout prix ou freiner avant de franchir un seuil irréversible ? Le débat ne fait que commencer, et ses réponses pourraient façonner le destin de l’humanité tout entière.