Les 7 péchés capitaux des IA génératives
Le boom des IA génératives laisse aussi planer, avec cette course sans fin entre les acteurs américains, chinois et les autres, un risque de bulle IA. Voici les 7 péchés capitaux dont il convient d’avoir conscience en tant qu’utilisateur dans les sphères professionnelles et personnelles.
- Les hallucinations où les IA inventent du contenu
- Les biais du fait des données d’entraînement qui peuvent comporter des déséquilibres ou des stéréotypes
- Le manque de bon sens ou non-compréhension pratique
- L’absence de mention précise des sources
- Le caractère peu innovant avec l’absence de rupture dans les contenus
- La très grande consommation énergétique du fait d’un besoin colossal de données tant pour les entraînements que pour la production de résultats en réponse à un prompt.
- Le risque de « soleil vert des données » ou de « vache folle » des données avec une dégénérescence ou des données dérivées elles-mêmes issues de données produites par des IA génératives.
La suite est à lire ici.
Certains parlent même de « model collapse » avec des entraînements des modèles effectués avec des données synthétiques produites par d’autres IA. Au fil des générations, la qualité des modèles d’IA se dégrade (amplification des biais, perte de diversité, uniformisation des résultats produits, plus grande incohérence des résultats).