À mesure que les outils d’IA génératifs se développent, la nécessité de réduire les préjugés sociétaux devient essentielle.
Les chercheurs ne se limitent pas à étudier les valeurs intégrées dans ces modèles ; ils s’intéressent également aux ontologies qui structurent notre manière d’appréhender la réalité.
Une enquête récente a mis en lumière les divergences d’interprétation des concepts par des modèles comme ChatGPT, illustrant comment des notions telles que celles d’un arbre peuvent être perçues différemment en fonction des ontologies adoptées.
Les résultats montrent que, bien que ces systèmes d’IA puissent reconnaître l’existence de différentes perspectives, ils tendent à prédominer des points de vue majoritairement occidentaux.
Cela soulève des interrogations sur l’évaluation interne des grands modèles linguistiques et leur capacité à intégrer des expériences diversifiées.
Les chercheurs insistent sur la nécessité d’une réflexion approfondie sur les hypothèses ontologiques lors de la conception de l’IA, mettant en garde contre un risque de stagnation de certaines conceptions de la réalité, ce qui pourrait entraver l’imagination collective et notre compréhension des notions fondamentales comme l’humanité et les liens interpersonnels.
Source: IA Tech news