Cela rappelle un ami qui refuse d’admettre son ignorance et se base sur des informations peu fiables.
Themis AI, une spinout du MIT, développe une plateforme qui aide les IA à reconnaître leurs incertitudes, leur permettant ainsi de dire quand elles ne sont pas sûres, et évitant des erreurs potentiellement graves dans des domaines comme le traitement médical ou la planification stratégique.
Fondée en 2021 par des chercheurs du MIT, Themis AI a déjà assisté diverses entreprises à éviter des erreurs coûteuses grâce à un algorithme qui détecte les biais et les incertitudes dans les données.
En enseignant aux systèmes d’IA à reconnaître leurs limites, cette technologie ne se contente pas d’améliorer la prise de décision, mais elle offre également une meilleure fiabilité, notamment pour les appareils à puissance limitée.
En intégrant cette conscience de soi, Themis AI contribue à maximiser le potentiel de l’IA tout en minimisant les risques associés.
