MANILLE, Philippines – Près de 2 000 mathématiciens issus d'universités et d'institutions académiques renommées du monde entier, notamment Harvard, l'Université Columbia, l'Université de Cambridge et l'Université d'Oxford, ont signé la Déclaration de Leyde sur l'Intelligence Artificielle et les Mathématiques en juin 2026, appelant à une supervision et à une utilisation éthique de la technologie dans la recherche mathématique. 

La déclaration établit un cadre éthique pour les mathématiciens, affirmant avant tout la primauté de l'autonomie humaine dans leurs recherches. 

La déclaration avertit : « Les développements [de l'IA] menacent l'autonomie des mathématiques. L'implication croissante des entreprises technologiques dans la recherche mathématique fait courir le risque que les questions de recherche soient prioritairement choisies en raison de leur facilité à être traitées par des mathématiques automatisées, plutôt qu'en fonction du jugement d'experts sur leur portée plus profonde. » 

Autrement dit, c'est l'être humain qui devrait définir ce qui constitue une recherche importante, plutôt que de choisir un sujet parce qu'il se prête bien aux outils d'IA automatisés. 

La déclaration soulève ses problèmes avec l'IA : sa tendance à produire des arguments « plausibles mais peu fiables (voire incorrects) » ; une attribution incorrecte et l'utilisation d'œuvres protégées par le droit d'auteur dans leur corpus de données ; et la « surestimation » de la contribution de la technologie aux travaux de recherche. 

Pour y remédier, elle insiste avant tout sur la primauté de la divulgation des outils, exigeant que les auteurs incluent dans leurs articles une section dédiée détaillant l'utilisation de tous les systèmes automatisés et des grands modèles de langage. 

Elle demande aux chercheurs de garantir une attribution correcte du travail humain derrière tout résultat synthétisé, et de s'assurer que la responsabilité de l'exactitude et de l'adéquation de tout argument scientifique incombera exclusivement aux auteurs humains, qui devront personnellement vérifier chaque affirmation, quelle que soit la manière dont elle a été générée.

Cet appel à la responsabilité et à l'établissement d'un cadre éthique pour l'IA fait suite à des initiatives similaires dans d'autres domaines tels que la médecine, l'éducation et le journalisme. Il intervient dans le contexte d'une étude récente publiée en mai ayant recensé 146 900 fausses citations générées par l'IA, selon CNET, apparaissant dans des articles de recherche au sein de grandes bases de données comme arXiv et PubMed Central. Ce phénomène d'« hallucination confiante » risque d'encombrer la littérature scientifique de références inexistantes et de résultats incorrects, susceptibles d'induire en erreur de futurs chercheurs qui s'appuieraient sur ces bases défectueuses. 

La déclaration lance également un appel urgent en faveur d'une réglementation gouvernementale « significativement renforcée » et d'une surveillance publique du secteur technologique, soulignant l'implication de l'IA dans les programmes militaires, la surveillance de masse, le développement de technologies favorisant la désinformation ou sapant les processus démocratiques, ainsi que son impact environnemental. 

Elle exhorte les gouvernements à renforcer la protection des œuvres protégées par le droit d'auteur et à mettre en place une infrastructure de calcul publique aux niveaux universitaire, national et international. En finançant des alternatives publiques aux technologies propriétaires, notamment des clusters informatiques pour la modélisation mathématique et l'apprentissage automatique, les décideurs politiques peuvent garantir que les outils de la découverte scientifique restent transparents et indépendants du contrôle des entreprises privées.

De nombreux outils d'IA sont aujourd'hui entre les mains de grandes entreprises technologiques privées. Aux États-Unis, le sénateur Bernie Sanders propose une idée radicale, arguant que le public devrait détenir une participation de 50 % dans les entreprises d'IA via son projet de loi American AI Sovereign Wealth Fund Act. 

La demande de supervision publique des mathématiciens, au-delà de l'intégrité académique et de la recherche, découle également de préoccupations concernant le pouvoir des entités d'IA commercialisées, actuellement incitées à surévaluer leurs produits. 

Dans l'élaboration des politiques, la déclaration indique : « Il existe actuellement une forte incitation commerciale de la part de l'industrie technologique à surestimer les capacités de leurs produits. Consultez des experts, notamment des mathématiciens, dans la prise de décisions politiques plutôt que de vous fier à des communiqués de presse ou à des reportages populaires sur des résultats mathématiques. » 

Parmi les signataires, Leslie Ann Goldberg, directrice du département d'informatique de l'Université d'Oxford, a déclaré : « …la recherche en mathématiques (et dans les disciplines mathématiques comme l'informatique théorique) s'appuie presque toujours sur des recherches antérieures, il est donc essentiel que les chercheurs sachent que les résultats présents dans la littérature sont corrects. »

« Les brouillons générés par l'IA inexacts sont bon marché à produire, et il existe un risque d'encombrer la littérature avec des résultats revendiqués qui sont tout simplement faux. Une fois que cela se produit, les erreurs risquent de se propager au fur et à mesure que de nouveaux résultats sont construits sur des bases défectueuses. Je me félicite des recommandations de la Déclaration de Leyde, en particulier la divulgation de l'utilisation des outils et la poursuite des publications dans des revues à comité de lecture », a-t-elle déclaré. – Rappler.com