國立清華大學的前身為清華學堂，於公元1911年4月29日成立於中國北京清華園，為當時清朝政府選派學生留美之預備學校。清華學堂於1912年改名為清華學校，不久成立國學研究所，所中因有趙元任、李方桂、羅常培等大師的加入而出現了一個優質語言學研究團隊。1928年，清華學校更名為國立清華大學。

國立清華大學於1955年在台灣新竹復校。本校初期系所多以自然科學領域為主，直至1984年成立人文社會學院。語言學研究所碩士班成立於1986年8月，為台灣國內國立大學中首先成立的語言學研究所，目前每年可招收11名碩士班研究生（不含非本國籍學生）。因為教學與研究成效良好，又於1990年8月獲准成立博士班（一般組），亦為台灣國內第一所培養高級語言學研究人才之機構。2004年8月更與中央研究院語言學研究所合辦南島語言學博士班學程（已於2013年度停辦）。博士班目前每年可招收1名台灣本國籍學生，而國際生則無名額限制。

本所施予研究生之訓練係語言學理論與實際應用並重；同時配合理工科之特色，注重科際整合之研究，期使學生能兼有人文與自然科學之素養。此外，於2002年人文社會學系成立後，本所在該系規劃一套完整的「語言學學程」，使大學部學生能有一完整基礎語言學的養成訓練（現改為人社院學士班語言學副修學程）。近來，為鼓勵中小學教師對台灣本土語言、文化、文學、社會有更深入的認識與瞭解。本所與臺灣文學研究所、人類學研究所於2006年共同成立台灣研究教師在職進修碩士學位班，以供在職中小學教師進修（已於2013年度停辦）。待時機成熟，未來也規劃成立大學部的語言學專業學程。

本所歷任所長依就任時間先後順序為李壬癸院士、王旭教授、張光宇教授、連金發教授、曹逢甫教授、蔡維天教授、張月琴教授、蔡維天教授、張月琴教授、曹逢甫特聘教授、許慧娟教授、林宗宏教授、張月琴教授。現任所長為蔡維天特聘教授。

本所在 QS 世界語言學排名長年居於 51-100 名，2015年更進入全球前 50 名，排名第 47 位。足見本所研究教學績效得到全世界語言學界同行的肯定。