由化学式可知,Fe3O4中铁元素和氧元素的质量比为(56×3):(16×3)21:8,要满足混合物中铁、氧元素的质量之比也为21:8,则样品中含有任意量的Fe3O4都可以;而FeO和Fe2O3的分子个数比为1:1时,两种物质的混合物中铁元素和氧元素的质量比也恰好为21:8,即FeO和Fe2O3的质量比为72:160=9:20时,两种物质的混合物中铁元素和氧元素的质量比也恰好为21:8.由以上计算分析可知:
A、FeO和Fe2O3的质量比为72:160=9:20时,符合要求;FeO、Fe2O3和Fe3O4三种物质的质量比不可能为11:20:5,故选项错误.
B、FeO和Fe2O3的质量比为72:160=9:20时,符合要求;FeO、Fe2O3和Fe3O4三种物质的质量比不可能为5:6:53,故选项错误.
C、FeO和Fe2O3的质量比为72:160=9:20时,符合要求;FeO、Fe2O3和Fe3O4三种物质的质量比可能为18:40:33,故选项正确.
D、FeO和Fe2O3的质量比为72:160=9:20时,符合要求;FeO、Fe2O3和Fe3O4三种物质的质量比不可能为2:5:3,故选项错误.
故选:C.