De quelle manière l'observation du passé du processus, c'est-à-dire la connaissance des valeurs f(Tⁱ(x)) pour tous les instants i inférieurs ou égaux à 0, nous renseigne-t-elle sur ce qui va se passer à l'instant 1 ?
L'entropie du processus est un nombre positif qui mesure l'incertitude sur le futur quand on connaît tout le passé. Dans le système dynamique défini par une rotation du cercle, on peut montrer que tous les processus sont d'entropie nulle. Ainsi, l'observation du passé permet d'y prédire l'avenir avec certitude !
Au contraire, dans la transformation du boulanger tous les processus non constants sont d'entropie strictement positive. Par exemple, le processus défini par f(x) = 0 si x est dans la moitié gauche du carré et f(x) = 1 si x est à droite, se comporte exactement comme une suite de tirages à pile ou face indépendants. Dans ce cas, la connaissance du passé n'apporte donc aucune information sur l'avenir.