主要有三个来源：一个是古代文献，一个是民众口语，还有一个是方言语音。
早在先秦时期，为了教贵族子弟学习语言文字，为了帮助人们读懂前人留下的经典著作，开始了对文字字形、字音、字义的讲解注释工作——后来发展为我国传统的语言文字学，即“小学”。早期给文字注音的方法，有描绘、读若、直音等。东汉末年，出现了用两个字给一个字注音的反切法。大致方法是，上字取声母，下字取韵母兼声调。从此，文献注释、韵书、字典大量运用这种较为先进的注音方法。经过历代语文学家尤其是音韵学家、文字学家们的不断努力，基本上做到了每个字都有相应的反切注音。个别未经收入字典的冷僻字，也可以根据语音演变规律，给他们配上相应的反切。
当然，语音随时在发生着变化，古书里注出的字音，有些不能简单照搬过来，而需要根据语音演变的规律，进行“折合”。例如，“冬，都宗切”，冬字可以根据普通话读音，直接拼出正确读音，d(u)+(z)ōng=dōng。但“东，德红切”，东字就不行了，需要略加改变， d(e)+(h)óng，反切下字红古代是平声，现代汉语普通话中是阳平，古代平声调不分阴阳，北京话中的分化规律是“清阴浊阳”，“德”字是清声母，所以，最后切出来的读音应该是阴平调。“同，徒红切”，表面上看，能直接拼切出正确读音。而实际上，古今读音是不一样的，“徒”字古代读浊声母，现代读清声母。
此外，有些古代人名、地名等专有名词，一般也承袭古书注音。例如：冒顿mòdú，古代匈奴人名；金日磾jīnmītī，汉代人名。
并非所有的字、词，都是古书里记载、收录过的。随着社会的变化，会出现许多新鲜事物，语言中也会相应地出现许多新鲜的字词，新鲜的读音。对于这一类字音，编写字词典的时候，就只能从民众口语中吸收。例如“搞”、“甭”两个字，前者来自南方地区的“搅”，后者来自“不用”的合音，它们的历史都不长，古书里都不见收录。因此，字典词典就根据实际读音注了gǎo、béng的音。
现代汉民族共同语的标准语即普通话，以北京语音为标准音，以北方方言为基础方言。但是，普通话跟各地方言之间并不是绝缘的，而有着千丝万缕的关系。例如，普通话会不断从方言中吸收词语。因此，势必会有方音进入普通话。例如，弄lòng，弄堂，小巷，小胡同；冇máo，没有；就分别来自上海、广东等方言。
还有一些方言区的地名用字，读音与别处不同。为了尊重当地习惯，也为了避免所指不一导致交际困难，一般采用当地人的读音。例如江苏的六合、安徽的六安，其中的“六”都读lù的音，不读liù的音。
通常情况下，古书里的注音、当代民众口语的读音，会各行其道，井水不犯河水。但是，有一些字，也会出现差异，甚至背道而驰。这个时候，何去何从，就会有个取舍的问题。有人说，这事很简单，按照大多数人的实际读音就可以了。实际上，事情并非如此简单。首先，中国幅员辽阔，人口众多，哪一种读音占人口多数，往往难以确定。其次，有些字音，说的人很多，但明显源于讹误，例如念半边字。采用这种字音，容易给外人一个没有文化、民族素质不高的印象。另外，语音系统要求内部相对统一，以人数多寡定取舍，势必掺杂不同方言，造成混杂纷乱。例如，汉语各方言中，声母“舌尖前”“舌尖后”即z、c、s和zh、ch、sh分开的人数，不如不分开的多。难道，普通话不分舌尖前后音？“四是四，十是十，十四不是四十，四十不是十四”，念成“四是四，四是四，四四不四四四，四四不四四四”也基本算对（马虎一下，不计声调）？总之，在古书注音与民众口语之间进行选择的时候，是需要考虑诸多因素和情况的。
除了上述来源，现代汉语普通话的字音，还有一种来历，可以称之为“人造字音”。指的是，它们既不是从古书注音折合而来，也不是直接来自当代民众口语或方言读音，而是语言学家为了某种需要专门创造出来的读音。例如，傣dǎi（我国少数民族），癌ái（生物体细胞由于某些致癌因素的作用，变成恶性增生细胞所形成的恶性肿瘤）。前者原本就是“泰”，字形上，加人旁，读音上，声母由送气变不送气，都是为了区别于泰国的“泰”；后者原本字形字音均同“岩”，读yán音，为了避免“癌症”与“炎症”同音，造成交际不便，语言学家根据某些北方方言“癌”字有读ngai之类的音，而不是ngan、ngam之类的音，创造出ái的音。当今港台地区、许多南方方言区、内地的一些老辈人，还是说跟“炎症”一样的音。傣dǎi，癌ái，这两个字音，创造的时间都不到一百年（后者只有五十年左右），来历确凿可考。
