I'd like to try to cast a spell on someone/something.
ーI would like to try my hand at magic.
「魔法を使ってみたい」
to try one's hand at magic「魔法を使ってみる」という言い方ができます。
日本語の通り to use magic と言うとあまりネイティブっぽくないです。
ーI'd like to try to cast a spell on someone/something.
「人・ものに魔法をかけてみたい」
to try to cast a spell on ... 「…に魔法をかけてみる」を使っても表現できると思います。
ご参考まで！
① **I want to try using magic.**
「魔法を使ってみたい」
- ストレートな言い方。「使ってみたい（＝試してみたい）」という気持ちを明確に伝えます
② **I wish I could use magic.**
「魔法が使えたらなぁ」
- *wish* を使うと「現実にはできないことを願っている」ニュアンスが強まります
カナダ 
アメリカ合衆国 
