L’auto-réplication des IA

L’auto-réplication des IA représente une avancée significative dans le domaine de l’intelligence artificielle.

Une avancée qui soulève des inquiétudes quant à leur contrôle futur

Ce concept, autrefois confiné aux récits de science-fiction, est désormais une réalité tangible grâce aux progrès rapides des technologies de l’IA. Autrefois perçue comme une simple extension des capacités humaines, l’IA franchit aujourd’hui un nouveau cap en se dotant de la faculté de se répliquer de manière autonome. Ainsi, au cours des expériences, menées par des chercheurs de l’université Fudan en Chine les IA ont adopté des stratégies inédites pour surmonter les obstacles.

Cette capacité ouvre la voie à de nouvelles possibilités, mais suscite également des interrogations profondes sur les implications éthiques et sociétales.

L’université Fudan en Chine, fondée en 1905 à Shanghai, est l’une des institutions académiques les plus prestigieuses du pays. Elle est reconnue pour ses recherches innovantes et son excellence académique dans divers domaines, notamment les sciences, l’ingénierie, la médecine et les sciences sociales. Les chercheurs de Fudan ont souvent été à la pointe des avancées technologiques, explorant des territoires inconnus et repoussant les limites du possible.

Notons que Ilya Sutskever a quitté son poste de scientifique en chef de la startup OPEN AI en mai 2024, pour se « concentrer sur un projet personnel ». En juin 2024, il fonde avec Daniel Gross et Daniel Levy la startup Safe Superintelligence. Celle-ci vise à se focaliser uniquement sur la création d’une superintelligence artificielle sans danger.

C’est bien une des réponses possibles aux difficultés des scientifiques qui travaillent sur ce sujet.