合肥市语言文字工作委员会成立于1984年，由分管教育的副市长担任市语委主任。办公室设在市教育局。
    1993年经合肥市编制办公室批准，在市教委幼儿教育增挂市语委办公室的牌子。1996年，为了落实全市普通话培训测试的规划和组织等工作，合肥市教育局成立相应的领导小组，确定相关处室负责普通话的培训测试工作。1997年机构改革后，市语委办挂靠在市教育局教研室，负责全市的普通话培训测试工作。2003年6月机构调整，经市编制办批准，合肥市语言文字工作委员会办公室为单独设立常设机构，行政编制。为了进一步做好全市的普通话培训测试工作，2004年6月，经市编制办批准，合肥市语言文字工作委员会办公室增挂“合肥市普通话测试中心”的牌子，事业编制，与语委办合署办公。