有休の計算方法について

そもそも、シフト外の日に年次有給休暇を取得しているというのが問題かと思います。
年次有給休暇は、賃金を減じることなく“労働の義務”を免除するというものですから、
そもそも労働の義務がない日には、年次有給休暇を取得する余地はない、とされています。
つまり、シフト制の場合、年次有給休暇を取得できるのは、
シフトが入っている日のみということになります。
ですから、本来であれば、ご質問のような疑問が発生するはずがないのです。
また、時効に満たない年次有給休暇を買い取ることは禁止されていますが、
シフト外の日に年次有給休暇を取得したとすれば、
それは実質的に年次有給休暇の買い取りに当たるのではないでしょうか。
（労働の義務を免除しないで、
　年次有給休暇の日数減と引き換えにお金を払っているということになりますので）

ちなみに、年次有給休暇を取得した際に支払う賃金は、
「所定労働時間勤務した場合に支払う通常の賃金」のほかに、
平均賃金で支払うということも可能です。
（就業規則等で規定する必要あり）
この場合、シフトが3時間でも4.5時間でも同じ額を支払えばよいので、
勤務時間に変動があるシフト制なのでしたら、
こちらの方法にするという手もあります。
（年次有給休暇を取得するごとに平均賃金を計算する必要はありますけどね）

ヤフー知恵袋でも同じようなことを言われましたが、買取をしているわけでも、休みの日に有給を入れているわけでもないんです。

例えば、Ａさんというスタッフがいて、Ａさんを含め管理人数10人で日々5名の出勤者が必要な現場で働いていたとします。（10人で5枠を回すシフト組です。）

①2月上旬にＡさんより、「3月10日は有休をお願いします。」

②今月末、3月のシフトを組む際、3月10日はＡさん以外の9名の中から、出勤者5名を決めます。

この場合、Ａさんは3月10日に元々何時間働くシフトだったのかというのは、決まらないのです。。。