DÉCRYPTAGE – Confrontée à des modèles de plus en plus puissants, l’IA est sur le point d’échapper au contrôle humain, alerte Jakub Pachocki, chef scientifique de la firme californienne.
À chaque jour suffit sa peine dans la Silicon Valley. Dans une publication qui semble embrasser pleinement les thèmes jusqu’ici martelés par son principal concurrent, Anthropic, OpenAI vient d’alerter quant aux conséquences potentiellement délétères de l’intelligence artificielle pour l’humanité. Dans une longue tribune, le scientifique en chef de l’entreprise, Jakub Pachocki, tire ainsi la sonnette d’alarme face à cet «esprit étranger» qui pourrait, dès les prochains mois, devenir «significativement plus intelligent que nous».
Et pour cause: déjà capable «d’utiliser des ordinateurs», de «collaborer avec des humains et avec d’autres modèles» et de «mener des projets de recherche», l’IA devrait très prochainement entrer dans l’ère de l’«auto-amélioration récursive (RSI)», selon Jakub Pachocki. Ce concept de RSI repose sur une idée à même de donner le vertige. Jusqu’ici, les modèles d’IA ne pouvaient être développés et entraînés que par les humains, qui leur insufflaient connaissances, normes…
Cet article est réservé aux abonnés. Il vous reste 89% à découvrir.
Poster un Commentaire