on one's knee, 你跪着的时候膝盖不是支撑着你身体的重量吗?感觉就好象是你把自己的身体放在了膝盖上一样,所以是on.with是用你的膝盖跪,怎么想怎么别扭。
因为这是固定搭配
这应该和打某人的结构相似吧,打在硬的部位用on,而打在软的部位用in.例如打在脸上用in