単純にgetURL("?.chm")ではダメですか？
そのまま開くためには多分クライアント側の設定が必要と思いますが。

＃ 関連づけ自体はあるけど、勝手に起動していいファイル
＃ として登録しないとダメな気が。

今単純にWebサーバ上に.chmファイル置いてIEでそのURL入れて
みたら、開くかどうかの確認のアラートはでるものの、開けば
普通に見えたので。

的外れだったらすみません。