Algorithme stochastique et recherche optimale…

Un algorithme ¹Un algorithme est un processus systématique de résolution, par le calcul, d’un problème permettant de présenter les étapes vers le résultat à une autre personne physique (un autre humain) ou virtuelle (un calculateur). En d’autres termes, un algorithme est un énoncé d’une suite d’opérations permettant de donner la réponse à un problème. stochastique (par ex. gradient stochastique, recuit simulé,…) est un outil d’optimisation très puissant, particulièrement face à des problèmes difficiles.

Itérations d’un algorithme stochastique (1) Exploration ; (2) Convergence vers l’objectif ; (3) Objectif manqué .

Pour faire correctement son travail (cf. figure ci-dessus), l’algorithme a besoin dans un premier temps de beaucoup de liberté (1), ce qui lui permet d’explorer différentes régions de l’espace et ainsi découvrir dans quelle région se trouve la solution recherchée. C’est alors que l’algorithme peut affiner sa recherche et converger vers l’objectif défini (2). Supprimer cette première phase exploratoire peut avoir des conséquences fâcheuses : si les règles de décision de l’algorithme ne sont motivées que par des critères stricts d’optimisation, l’algorithme se précipite sur la première solution à sa portée (3). Cette solution est rarement la solution optimale qu’une stratégie à plus long terme aurait permis d’atteindre…

Je vous invite maintenant à relire ce paragraphe en remplaçant « algorithme » par « chercheur »…

Une possible relecture : si l’ANR permet souvent de voir aboutir avec succès son travail de recherche (2), il ne faut pas oublier tout le travail réalisé en amont, se souvenir du temps « perdu » à chercher dans de « mauvaises » directions, des « erreurs » commises, bref, de tous ces errements qui se sont finalement avérés fructueux (1). Vouloir « optimiser » le système de recherche français, par exemple en transformant en agence de moyens un institut de recherche comme le CNRS, risque de conduire à de sérieuses désillusions (3)…