Société

Le concept de consanguinité numérique est une analogie récente appliquée à l'intelligence artificielle. Elle fait référence au fait que les IA se nourrissent et s'entraînent à partir de contenus générés par d'autres IA, créant ainsi une sorte de boucle fermée, qui provoque une dégradation progressive et irrémédiable de la qualité, entraînant perte de précision et de fiabilité...

 Chacun sait que, dans la nature, la consanguinité peut entraîner des déficiences génétiques graves et une réduction de résilience des espèces, voire même un accroissement de leur vulnérabilité. La reproduction entre individus étroitement apparentés conduit à terme à une accumulation de traits négatifs.

Dans le cas des IA, ce principe de base de la biologie pourrait potentiellement mener à une dégradation de la qualité et de la diversité des contenus générés. En se nourrissant de cycles de données répétitifs et de processus de rétroactions, l’IA génère des boucles d’amplification qui conduisent à une perte de diversité et d’hétérogénéité. L’entraînement de l’IA sur les contenus d’autres IA risque-t-il de conduire in fine à un appauvrissement de sa propre ressource? C'est tout à fait possible.

 De nombreux chercheurs chercheurs n’hésitent aujourd'hui plus à faire une analogie avec la consanguinité en biologie qui montre comment des systèmes qui se nourrissent de leur propres productions ou de productions similaires, finissent par perdre en diversité et en robustesse.

 Le terme "Habsburg AI" a même été proposé par certains spécialistes pour décrire cette consanguinité numérique, en référence à la dynastie des Habsbourg connue pour ses pratiques de mariages consanguins.

La "consanguinité numérique", elle, soulève des inquiétudes quant à l'appauvrissement potentiel des algorithmes d'IA et à la compromission de leur efficacité à long terme.

 (CM avec LM - Sources : Olivier Hamant, Journal du Geek, Centaure Marketing/Illustration picture: Gerd Altmann via Pixabay)