Windows2008R2 環境に「レポート拡張機能」をインストールした際に発生する事象と解決策
が以下のサイトにあります。

AX 2009 Setup fails to install IIS Components on Windows Server 2008 R2
http://blogs.msdn.com/b/emeadaxsupport/archive/2010/01/11/ax-2009-setup-fails-to-install-iis-components-on-windows-server-2008-r2.aspx

(解決策)
AX2009インストールフォルダのSupportフォルダ下にServerManagerCmdInputIIS.xmlが有ります。
ServerManagerCmdInputIIS.xmlを開いて以下のように変更下さい。
(変更前)
<Feature Id="NET-XPS-Viewer" />
(変更後)
<Feature Id="XPS-Viewer" />