1933年，江苏科技大学的前身——上海私立大公职业学校在上海市乔家浜创立。创办人林美衍先生“鉴于我国生产事业之落后，专门技术人才之缺乏，不能使中国工业化而跻于世界列强之林”，专门与当时的上海市党部委员吴开先商议，并召集志同道合者许恒、张桐等，秉承实业报国信念，以“培植中等技能促进生产教育并注重严格训练”为宗旨，合力筹办私立大公职业学校。创办者们公推林美衍先生为校长。草创伊始，仅在上海南市乔家浜租赁了几栋民房暂行招生上课。分机械、土木、商业及应用化学四科。
1934年春，因得时任上海市长、吴铁城、社会局长吴醒亚及沪绅杜月笙、实业界巨子吴蕴初等赞助，于南市局门路兴建校舍及实习工厂。当年秋季开学，学生增至七百余人。办校以来，贯彻“使一般青年，退则为社会生产之份子，进则为国家建设之人才”的教育方针，因而成绩昭明，声誉丕张，深为教育当局及各界人士所嘉许。
1937年“八一三”松沪战争爆发。学校因与江南造船厂毗邻，目标显著，时有敌机袭击。为避免牺牲，学校决定先迁至法租界霞飞路1968号（今淮海中路）临时校舍上课，同时将学校图书仪器及工厂机器材料迁入租界，以保安全。上海战争形势进一步危急，为安全起见，政府当局下令将上海市私立大公职业学校一部分迁往四川省重庆市；一部分迁至浙江天台县溪南创设大公中学，租赁房屋专办普通科；留沪部分继续于“法租界地”霞飞路办学。
1939年2月，学校留沪部分因原租赁的校舍不敷应用，又改租上海汉口路131号庆云大楼办学，学生人数增至500人左右。
1945年11月，抗战胜利后，由时任校长许恒呈报的“为复校事呈请准予备案”的报告获当时的上海市教育局批准后，私立大公职业学校在上海复校。由于原址校舍、器材等曾被日军侵占并辟为司令部，后又拨给毗邻的江南造船厂，当局政府另拨给上海市虹口区峨嵋路400号四层大楼为新校址，继续办学，设机械、水产、商业三个专业科类。
1952年6月，为了有计划的培养中级工业技术人才，以适应国家经济建设的需要，时任上海市市长的陈毅同志亲自签署文件要求“接办私立大公职业学校新建技术学校”。
1952年7月3日，上海市教育局发文将上海私立大公职业学校改归公立，并更名为上海市机电工业学校。其校长一职由许海涛代理，调整专业设置，设机械、电机两科，增派教师，并选优秀毕业生留校充实教学力量。当年有在校生729人（其中机械科631 人，电机科98人），教职员工66人。
上海船舶工业学校
1952年，新中国的造船工业和海军建设亟待振兴，第一机械工业部（以下简称“一机部”）决定在上海建立船舶工业学校。
1953年初，一机部与华东军政委员会教育部商定，将上海机电工业学校机械科、上海第一机器工业学校船舶制造科、上海水产学院附设水产学校轮机科及福州工业学校（前身为福建船政学堂）造船科、轮机科调整到组建中的新中国第一所造船中等专业学校——上海船舶工业学校。其中，上海机电工业学校为主要组成部分。
1953年8月28日，一机部批准成立上海船舶工业学校，9月15日，学校1600多名师生员工在上海解放剧场隆重集会，举行学校成立和开学仪式。
1953年10月，上海船舶工业学校更名为上海船舶制造学校。
1955年6月，学校被确定为国防工业学校，开始按培养军用舰船中等技术干部的要求和条件招收新生.
上海船校也曾于1958年11月和1960年3月两度升为上海造船专科学校，后因国家计划调整分别于1959年6月和1962年8月下马，仍办中专。1963年4月18日，重又更名为上海船舶工业学校。
1966年，文化大革命爆发。在文化大革命的十年动乱中，上海船校横遭破坏。1967年上海“一月风暴”之后的一年里，学校处于无政府状态，干部一律靠边，党政工团的公章被封存，办公室被群众组织占用；各派互相摩擦；全校有五分之一的教职工被揪斗和审查，校级老干部吴建章受迫害致死，副校长张乐被毒打惨死，全校非正常死亡的共有8人。
学校从1966年起停止招生。1967-1969年在校的4届学生先后毕业。
1970年3月，在林彪1号令的背景下，学校上级主管单位第六机械工业部军管会下令将学校搬迁至江苏省镇江市（原总后勤部252汽车管理学校旧址）。建设了17年的上海船校校舍无偿移交给上海柴油机厂作油嘴油泵分厂。学校办学自此陷入困局。
1971年2月，移师镇江的上海船舶工业学校正式更名为镇江船舶工业学校，次年10月学校恢复了停止6年的招生，学校保留原有的6个专业，从而保住了当时六机部仅存的一所中等专业学校。然而，这一时期也正是学校发展最困难的时期。
1978年，伴随着改革开放的春风，学校于当年12月28日经国务院批准升格为镇江船舶学院，正式成为一所国防工业性质的工科本科大学。
1979年1月25日，六机部下发《关于镇江船舶工业学校改为镇江船舶学院的通知》，设置船舶工程、船舶电气自动化、电子计算机技术、船舶焊接、机械制造、船舶内燃动力装置、工业管理等7个专业。四年制本科。在校学生1200人，面向全国招生。受六机部和江苏省双重领导，以六机部为主。1979年4月21日，隆重举行镇江船舶学院成立大会。
1982年1月15日，国务院批准该校为首批学士学位授予权学校之一。
1993年6月，经国家教委批准，镇江船舶学院更名华东船舶工业学院。
1995年学校首次招收研究生。
1998年，学校顺利通过教育部本科教学工作合格评价。同年顺利通过省委教育工委的党委工作评估和省教委的优秀校风建设评估。
1999年4月，顺应国务院关于部属学校实行“中央与地方共建，以地方管理为主”的管理体制的改革，学校由中国船舶工业总公司管理划转江苏省管理。
1999年11月，原隶属于江苏省粮食局的江苏省江海贸易学校并入学校（成为学校南校区）。
001年3月，中国农业科学院蚕业研究所（1951年建所，1979年开始招收硕士生，1986年招收博士生，50年来培养了大批高层次蚕业科技人才，建有世界上最大的国家桑蚕种资源库，是国内外蚕业科技交流中心，是我国桑蚕研究唯一的国家队）与学校合并，并继续保留中国农业科学院蚕业研究所名称。
2002年3月，经省教育厅批准，学校建立民办二级学院——南徐学院，并于当年招生。同月，海军政治部与学校签定了“关于海军依托华东船舶工业学院选拔培养干部协议书”，并设立“中国人民解放军驻华东船舶工业学院后备军官选拔培训工作办公室”，学校成为当时江苏省唯一的海军后备军官培养基地。
