Qui a dit que c'était linéaire ? On sait qu'aujourd'hui elle s'éloigne en moyenne de 3,5cm/an, d'après les mesures récentes. Évidemment il y a 1,5Ga, personne ne mesurait la distance Terre-Lune. J'imagine que la paléontologie indique juste, par la répartition des fossiles, la présence de la mer ou non, peut-être même de l'intensité des marées ; après des gars se sont dit "tiens, ça coïncide avec un éloignement de la Lune à cette époque" c'est tout.
Et puis il y a d'autres facteurs qui rentrent en compte certainement, la Lune n'est pas soumise qu'au champ gravitationnel terrestre, il y a aussi les paramètres d'orbite, etc... Il y a plein de forces qui rentrent en jeu, pas que l'attraction terrestre.
La valeur de l'éloignement, on s'en fout un peu, ce qui compte c'est surtout que la Lune s'éloigne.