the mouse とすると特定のネズミ1匹になってしまいます。この猫は一般的にネズミが嫌いということだと思うので、この場合は複数形の mice にしてあげます。
despite の後は動詞の原形ではなく being としてあげましょう。
He doesn't like mice despite the fact that he is a cat. とも言えます。
このほか、
He is a cat but miraculously he is scared of mice.
とも言えます。
miraculously で「不思議なことに・驚くべきことに」
ご参考になれば幸いです!