佳木斯大学是1995年6月27日，经原国家教委批准，由佳木斯医学院、佳木斯工学院、佳木斯师范专科学校和原佳木斯大学四所学校合并组成。1996年11月15日，省委任命张少杰为党委书记、吕学诜为校长，组成新佳木斯大学领导班子。1996年11月21日，佳木斯大学正式挂牌启动。2000年5月、2003年5月、12月佳木斯市粮食干校、富锦师范学校、黑龙江省理工学校相继并入。

合并前的四所院校，有两所建于建国前。佳木斯医学院前身是1947年成立的合江军区卫生干部学校，1958年学校成为本科院校，1980年开始招收硕士研究生；佳木斯师范专科学校成立于1949年，原为佳木斯师范学校，1978年升格为佳木斯师范专科学校；佳木斯工学院成立于1958年，是黑龙江省第一所以农机专业为主的工科本科院校；原佳木斯大学成立于1985年，为市属地方职业大学。

九年来，学校占地面积由88万平方米发展到149万平方米，建筑面积由35万平方米增到84.13万平方米（含职工住宅）。固定资产总值由1.2亿元增加到7.5亿元，其中教学仪器设备总值由2200万元增加到1.37亿元。学校藏书量由70余万册增到298万册（含电子图书82.62万册）。硕士学位授权点由9个增加到21个。在校生由8000多名增加到25109名。学生由以专科为主发展到以本科为主，生源由主要来自本省发展到来自全国30个省（市）、自治区，其中外省学生已达在校生的三分之一。  九年来，学校把合校前隶属关系不同、学科专业设置不同的四所院校整合为21个学院，2个直属系，75个本专科专业。专业设置覆盖了文学、理学、工学、医学、农学、法学、经济学、教育学、历史学、管理学十大学科门类。其中有省级重点学科4个、省级重点专业6个、省级重点课程12门、国家高职高专教学示范试点专业1个、省级重点实验室1个。合校以来,累计培养各级各类人才2.8万余名。