ENQUÊTE – Ces derniers mois, les alertes sur les risques existentiels liés au développement des IA se multiplient. Tandis que la Silicon Valley agite le spectre d’une machine incontrôlable, chercheurs français et experts tentent de séparer le danger réel du récit apocalyptique.
« Avancer vite et casser des choses ». L’adage est bien connu dans la Silicon Valley. Il a été popularisé par le jeune Mark Zuckerberg, à l’époque où son réseau social, Facebook, déferlait sur la planète. Une manière de signifier que l’innovation à la californienne n’est pas affaire de précautions. Quinze ans plus tard, les nouveaux seigneurs de l’intelligence artificielle ont intégré la leçon. Le 8 septembre, Jacob Coxon, chercheur chez l’un des leaders du secteur, Anthropic, quittait bruyamment cette industrie, formulant dans une salve de tweets viraux sa crainte de voir une IA « tous nous tuer d’ici à la fin de la décennie ». La faute à la progression de systèmes qu’il qualifie de « bientôt surhumains, capables de pirater n’importe quoi (…) et d’acquérir un pouvoir et des ressources réels ». Sur X, son collègue Evan Hubinger embrayait aussitôt : le responsable de la sûreté d’Anthropic estime, lui, à « plus de 10 % » les chances d’une fin du monde imminente.
Le…
Cet article est réservé aux abonnés. Il vous reste 92% à découvrir.
Vous avez envie de lire la suite ?
Débloquez tous les articles immédiatement.
Déjà abonné ?
Connectez-vous
Poster un Commentaire