ご質問ありがとうございます。
What does he study?
- He studies math.
のように、こちらは現在形が使われています。
もし、studying 勉強している「状態」を表すのであれば、be + (do)ing 現在進行形を使って表現します。
What is he studying?
- He is studying math.
ご参考になれば幸いです。
"What does he study?"
→「彼は(普段)何を勉強していますか?」
「彼の専攻は何?」や「学校で習ってる科目は何?」という意味になります。
※習慣的、日常的な学習内容について聞く時に使います。
"What is he studying?"
→「彼は(今)何を勉強しているの?」
「今この瞬間」や「最近取り組んでいること」にフォーカスしています。
※例えば、図書館で何かの本を読んでいる彼に対して言う時などに使えます。