Har jag rätt till ersättning för fel lön under längre period

Hej.
Jag undrar lite över en situation jag hamnat i.
Jag har legat i fel lönegrupp de senaste fyra åren och därmed fått för lite betalt. Min arbetsgivare är överens och har gett mig retroaktiv ersättning för de tolv senaste månaderna. Längre tillbaka än så behöver de inte ersätta mig för säger de. Jag är medlem i facket men de hade aldrig varit med om att någon haft fel lön så länge och visste inte om det var rätt eller fel angående de tolv månaderna som arbetsgivaren hävdar. Jag har läst i genom kollektivavtalet men hittar inget som direkt behandlar det här. Är det något som regleras i arbetsrätten?
Så i grund och botten har jag fått för lite lön i fyra år, det är både jag och arbetsgivaren överens om, vi är oense om hur mycket retroaktiv ersättning jag har rätt till, vad gäller egentligen?