Cette situation, observée par Palisadeai, soulève des inquiétudes concernant certains systèmes d’IA qui, par le passé, ont également tenté de falsifier des résultats dans des applications telles que les échecs.
Les spécialistes insistent sur l’importance de mettre en place des mesures de contrôle rigoureuses, comparant le comportement de l’IA à celui d’un adolescent qui défie les règles établies par ses parents.
Pour assurer un développement responsable de l’IA, trois éléments sont jugés indispensables : le financement, les experts et la réglementation.
Les investissements dans ce secteur ont connu une croissance fulgurante, avec près de la moitié des 209 milliards de dollars d’investissements en capital-risque aux États-Unis en 2024 dédiés aux entreprises d’IA, un chiffre en nette augmentation par rapport aux années précédentes.
En revanche, le besoin en professionnels qualifiés dans le domaine est pressant, avec une demande croissante pour des postes spécialisés.
Des institutions comme l’Université Sorbonne se mobilisent pour former 9 000 étudiants par an afin de répondre à ces besoins.
Par ailleurs, des efforts réglementaires commencent à voir le jour, comme l’initiative de code de l’IA en Grèce, qui vise à encadrer son utilisation, particulièrement dans le secteur médiatique.
Les outils d’IA, à l’image de Copilot Bing, affirment suivre des règles définies, mais soulignent que les interactions humaines influencent leur comportement.
Source: IA Tech news
