インストール時に、カスタムインストールを選択し、Interix SDK をインストールしておく必要があります。
SDK入れておかないと、configure 時に gcc が無いよって怒られます。
ちなみに、インストールしたのはbash-3.0
GNUのサイトにあったのを使用してみました。
作業用のディレクトリとかにコピーして、
$ gzip -d bash-3.0.tar.gz
$ tar xvf bash-3.0.tar
$ cd bash-3.0
$./configure
$ make
$ make install
っていう一般的な？方法でOKなはず。
[追記＠00：17]
作業用ディレクトリはフルパスでスペースが入らないようにしてください。
コンパイラがエラー吐きます。