I look up what I don't understand in my reference books.
「参考書で勉強のわからないところを調べる」と言いたい場合、次のように表現できます:
I look up what I don't understand in my reference books.
「参考書でわからないことを調べます。」
この表現では、「look up」が「調べる」という意味で使われています。「what I don't understand」は「わからないこと」を指し、「in my reference books」は「参考書で」を示しています。
また、日常会話で使うならば、もっと簡単に:
I check my textbooks for anything I don't get.
「わからないことは教科書で確認します。」