Vermutlich ist das Videoformat einfach nicht mit deinem Blu-Ray Player kompatibel, 1080p beschreibt nur die max. Auflösung, die der Player wiedergeben kann.
Damit das Videoformat Blu-Ray kompatibel ist, müssen beim Encoding bestimmte Spezifikationen eingehalten werden, werden diese nicht beachtet, dann kann es halt auf verschiedenen Playern zu Rucklern kommen bzw. manche Player steigen dann ganz aus.

EDIT: Nochmal wegen den 1080p: Da ist es so, das je höher die Auflösung ist, je strikter sind die Toleranzen. D.h. ein Film der mit den gleichen Einstellungen codiert wurde, würde mit einer niedrigene Auflösung vermutlich laufen bzw. keine Ruckler haben.