学院前身是国立黄河流域水利工程专科学校，始建于1929年，历经黄河水利专科学校、黄河水利学院、黄河水利学校等历史沿革，1998年3月经原国家教委批准，改制为黄河水利职业技术学院。

学院原隶属国家水利部，现实行中央与河南共建，属全额预算拨款的公办高等院校。1999年被教育部、财政部列入“面向21世纪教育振兴行动计划”支持建设院校，2005年教育部等七部委授予我院为全国职业教育先进单位。2006年荣膺河南省最具特色的十佳职业院校，被教育部、财政部确定为首批国家示范性高等职业院校立项建设单位，并得到教育部、财政部、河南省等巨额专项资金的支持，2009年通过国家级验收成为国家示范性高等职业院校。

学院设有药学院、医护系、管理学系、智能工程系、信息工程系、建筑工程系、基础教学部和继续教育学院8个二级教学单位，共开设43个专业。其中中药学、连锁经营管理、中药制药技术、药品质量与安全为中央财政支持建设专业；中医学、针灸推拿为国控专业；中药学、中药制药技术、药学、药品质量与安全、药品经营与管理、连锁经营管理、机电一体化技术、医疗设备应用技术等专业为省级特色专业；电气自动化技术、电子商务、市场营销、护理为省级综合改革试点专业；服务外包、高速铁路客运乘务、网络营销、财务管理、汽车智能技术为地方新兴专业。

学生食堂清洁、卫生，管理规范。