数学？算数の問題ですね。。

単純に下記を覚える

[時針]1分ごとに変わる角度: 0.5度 (360/12*60)
[分針]1分ごとに変わる角度: 6度 (360/60)

double hDegree = (h*60+m)*0.5;
double mDegree = m*6;
double degree = Math.abs(hDegree-mDegree);

参考

下記は、角度を求めてから余弦定理で斜辺を求める問題。
atcoder.jp