Beim Realtek HD Audiomanager kann man einstellen, dass alle Wiedergabegeräte, die rückseitig angeschlossen sind, stumm geschaltet werden, wenn du am Fronteingang einen Kopfhörer anschließt. Aber das ist wohl eher nicht das, was du suchst.
Ansonsten ist es glaube ich nicht möglich, das zu erreichen, was du beabsichtigst, da über die Audioausgänge (welche ja in der Regel optische oder Klinken-Anschlüsse sind, ganz selten Cinch) anders als bei HDMI kein
CEC oder ähnliche Funktionen möglich sind. Das heißt, dass der Computer nicht erkennt, dass du deine Stereoanlage ausgeschaltet hast. Es kann sein, dass ich mich irre, aber mit meinem Wissensstand müsste es so sein, wie ich beschrieben habe.
Also ist die einzige Lösung, die ich sehe, tatsächlich die mit dem Realtek HD Audiomanager oder einem Treiber, der ähnliche Funktionen anbietet.