Nun, wenn der Stecker schon mal paßt, ist es ja egal, ob das nun Coax oder optisch ist...
Die Samplingrate könnte der Unterschied sein.
Da gibt es verschiedene, gebräuchlich sind 44,1 , 48, 96, manchmal auch 192kHz und noch ein paar Zwischenstufen.
Du müßtest in der Bedienungsanleitung Deines Verstärkers suchen, was da steht und dann den Digitalausgang Deiner Soundkarte auf diesen Wert einstellen.
Oder kann sich der Verstärker automatisch auf verschiedene Sampling-Frequenzen einstellen?
Weiß auch nicht genau, nur so mal ein paar Gedanken zu Deinem Problem.
Vielleicht muß an der Soundkarte der Digitalausgang überhaupt erst mal aktiviert werden?