在古代，牛的地位无与伦比，为六畜之首，更被视作最重要的家畜。对于农耕社会来说，耕牛是不可或缺的生产要素，因此古时对牛的尊重与敬畏之情尤为深厚，私自宰杀和食用牛肉的行为在大多数时代都受到严格禁止。
除了作为生产工具外，牛还承载着特殊的使命——洪水。这并非真实的牛只，而是以铁为材质的铸造牛形。这些沉重的铁牛有的被沉入水底深处，有的则屹立于河岸之上，还有的则露出水面之上。据传，在四千多年前的洪水泛滥时期，大禹治水时曾采用此法，每疏浚一处河道便铸造一头铁牛以水中的妖物。
尽管这一传说并非完全符合历史记载——因为大禹的时代尚未有铁器，青铜亦为珍贵之物——但石雕的牛却有可能被用于镇水之用。例如，秦朝的在修建都江堰时便命人雕刻石犀牛以水怪。在四川成都出土的一尊石犀牛便是明证，它由整块石头雕成，体量巨大，经专家考证雕刻于秦朝时期。
随着历史的发展，秦朝时期还有野生犀牛存在，但随着其灭绝，古人开始改用黄牛或水牛来象征性地洪水。随着生产力的进步和铁产量的增加，甚至可以铸造出几万斤重的铁牛。这种用牛来镇水的做法，背后是阴阳五行和天干地支学说的体现。土能克水，而十二天干中的“丑牛”属艮土，因此用铁牛镇河以求达到“水来土掩”的效果。尽管这种说法带有一定的色彩，但古人的智慧却赋予了铁牛更多的实用价值。
历史上黄河多次泛滥，因此黄河水患的铁牛数量众多，它们大多被安置在黄河沿岸。其中有一则关于怀丙和尚智捞铁牛的故事广为流传：宋朝时永济县黄河边上的八尊铁牛因黄河决堤而沉入河中，一位和尚巧妙地利用浮力原理将它们一一捞起。这些铁牛不仅用于镇河，还用于固定黄河上的浮桥，其重量之重足以保证浮桥的稳定性。
许多地方的铁牛被置于水中露出部分表面，起到了标识水位和警示洪水的作用。例如在河南省周口市的铁牛便巧妙地坐落在沙河、颍河、贾鲁河河流的交汇河央，成为了测量水位的标志物。古人通过观察这尊铁牛来及时应对洪水的危机，从而挽救了许多生命。