Wie hast du denn die Freigabe eingerichtet als Cifs oder NFS?
Schau mal hier

Freezer, also das Bild bleibt stehen?
Oder Artefakte, sprich Klötzchenbildung?
Wie sind die Empfangswerte der Sender?
LAN oder WLAN Verbindung zu NAS?

Fehlt noch die Info, wie die Box und das NAS an das Netzwerk angebunden sind.

Soweit ich das verstanden habe, funktioniert der Zugriff ja im Prinzip.
Das Problem ist nur, dass Du zwischendurch Hänger hast, insbesondere bei Aufnahmen.
Ist das immer noch der Status?

Wenn das so ist, kannst Du an den Einstellungen im NAS nicht mehr viel machen.
Die sind ja so im wesentlichen so, dass es entweder funktioniert oder nicht.
Da gibt es wenig, was eingestellt werden kann, damit es "besser" funktioniert.

Wenn ich das weiter richtig verstanden habe, sind beide Geräte, Box und NAS, per LAN-Kabel angeschlossen.
Die Kabel genhen zu einer Fritzbox. Ist das richtig so?

Hier könnte es ein Problem mit dem Netzwerkdurchsatz der Fritzbox geben.
Es gibt wohl Fritbox-Modelle, die da nicht so stark sind.
Da kann es einen deutlichen Unterschied machen, wenn ein kleiner Netzwerk-Switch eingesetzt wird.
Die Box und das NAS werden dann per LAN-Kabel an den Switch angeschlossen.
Außerdem geht ein Kabel vom Switch zum NAS.
Damit geht der Netzwerkverkehr zwischen Box und NAS dann nicht mehr über die Fritzbox.

Ob das aber die Problemursache ist und sich das Problem damit lösen lässt, kann man nicht genau sagen.

RTL HD ist kein freier Sender...

Wenn es auch mit ZDF HD passiert, ist es aber höchstwahrscheinlich kein Problem mit der Entschlüsselung.

Hängen beide Geräte (Box, NAS) jetzt am Switch oder an der Fritzbox?
Was für ein Switch ist das?

Kannst Du das NAS auch an die Switch anschließen?
Dann bleibt der Verkehr zwischen NAS und Box lokal auf dem Switch und muss nicht über die Fritzbox laufen.