Conscients des enjeux, des chercheurs des entreprises telles que Google DeepMind, OpenAI et Meta collaborent pour promouvoir une surveillance plus rigoureuse des processus de raisonnement des systèmes d’IA.
Dans une publication conjointe, des experts renommés comme Geoffrey Hinton et Ilya Sutskever soulignent l’importance de suivre les « chaînes de pensée » (COTS).
Ces chaînes permettent aux intelligences artificielles de décomposer des problèmes complexes en étapes simples et leur suivi est crucial pour appréhender les décisions prises par les IA, surtout face à leur complexité croissante.
Les chercheurs expriment des craintes concernant l’efficacité des méthodes de surveillance actuelles, souvent jugées insuffisantes pour repérer les comportements problématiques des IA.
Ils insistent sur la nécessité d’améliorer ces mécanismes afin de stabiliser les agents intelligents qui évoluent rapidement.
Ce consensus, émanant d’acteurs majeurs du secteur technologique, souligne l’urgence d’assurer la sécurité des systèmes d’IA, désormais intégrés dans de nombreuses facettes de notre quotidien.
L’article intitulé « Les grands noms de la technologie signalent que le temps pour encadrer l’IA s’épuise, appel à l’action » a été publié pour alerter sur ces enjeux cruciaux et inciter à une action collective.
Source: IA Tech news
