哈爾濱工業大學始建于1920年，曾以俄、日教育模式辦學，經過八十多年的建設，現已發展成為一所以理工為主，理、工、管、文相結合的全國著名大學。自1954年成為國家確定的首批6所重點大學之一以來，哈工大一直受到國家的重點支持，1999年又被國家確定為按世界知名高水平大學目標重點建設的九所大學之一。
哈工大是我國最早開展研究生培養工作的高校之一，早在50年代，學校就開始招收研究生，為全國各高校培養師資和出國預備人員。1978年我國恢復研究生招生和1981年實施學位制度以來，我校緊密結合國家建設發展需要，積極參照國際模式，不斷深化研究生教育改革，使研究生教育工作在規模和質量上都取得了明顯進步。哈工大研究生院在 1995年首次全國研究生院評估中，是受到表彰的十所研究生院之一，并于1999年榮獲“全國學位與研究生教育管理工作先進集體”稱號。
學校現有143個碩士學位授權點，81個博士學位授權點，18個一級學科 具有博士、碩士學位授予權，15個博士后流動站，18個國家重點學科，23個國防科工委重點學科，22個國家重點實驗室和專業實驗室。各學科點在人才培養和科學研究上具有較強的實力，以理論聯系實際、搞重大尖端工程項目見長，學科綜合實力位居全國高校前列。 現有專任教師 2684 人， 包括 教授 727 人、副教授 993 人，其中中國工程院院士、中國科學院院士 19 人(含雙院士 1 人)，有博士生導師 607 人。他們中許多人是國內外知名的專家與學者，有幾十人擔任國家高科技領域的首席專家或專家組長，有的擔任國務院學位委員會委員和學科評議組成員，或擔任國內各級學會領導職務。
在研究生培養過程中，哈工大始終堅持把質量放在首位，嚴格把握各個培養環節和學位授予程序，通過一系列教育改革與探索，逐步完善了研究生培養質量保證體系，同時注重研究生綜合素質的提高，培養出的研究生不僅具有扎實的基礎知識和過硬的專業本領，而且具有較強的科學研究能力、工程實踐能力以及創新能力，受到用人單位的普遍歡迎。在畢業的24300余名研究生中，有3400余人獲博士學位，20900余人獲碩士學位。目前學校每年招收研究生近 5000余名，其中博士生920余名;在校研究生總數已達到12800余人，其中博士生4400余人;另有各類專業學位碩士研究生近3000人，研究生招生數和在校研究生數均居全國高校前列。
哈工大與22個國家和地區的86所大學建立了校際合作和交流關系，并開展了學術交流、科研合作、聯合培養研究生等工作，同時面向港、澳、臺地區和其他國家招收碩士、博士研究生。
哈工大還建有深圳研究生院，由學校與深圳市政府合作創辦。深圳研究生院將結合深圳及周邊地區經濟發展和科技進步的需要，積極探索人才培養新模式，力爭建成國際化高層次人才培養基地。