12世纪初时，南宋偏安东南一隅，对中亚、西亚诸国了解甚少，主要通过从事海外贸易的商人得知一鳞半爪。而蒙古人则与中亚穆斯林通过陆上往来关系甚密。早在成吉思汗初起时，就有赛夷(即Saiyia，“圣裔”)人扎八儿火者来投，与王罕战时和成吉思汗共患难，同饮班朱尼水。西征前成吉思汗与中亚的贸易也是通过穆斯林商人进行的。公元1218年春，成吉思汗派往花剌子模的花剌子模人马哈木、不花剌人阿里火者、讹答剌人玉素甫·坎哈都是穆斯林，随后组成的450人蒙古商团也全部是穆斯林，他们在讹答剌被扣押和杀害，因而直接导致了成吉思汗的西征。用畏兀儿体蒙文写成的《蒙古秘史》(即《元朝秘史》)把畏兀儿以西称为回回地面或回回国，非常得当。如第177节：“你(王罕)走入乞塔(即契丹)种古儿罕的回回地面”了；第257节：“兔儿年(1219年)，太祖去征回回。”此“回回”是指花剌子模国。
现存的《元朝秘史》是明初回夷馆的汉文本，即用汉字音写蒙古语原文，逐词旁注汉译。“回回”两字的蒙古语汉字音写为“撒儿塔兀勒”，这是当时蒙古人对中亚信奉伊斯兰教的各族的专门称呼。直到南宋彭大雅、徐霆分别于1232年和1235~1236年随奉使到蒙古考察后，才得知蒙古已征服了中亚许多国家，回南宋后写成《黑鞑事略》一书(彭稿为正文，徐霆作注释)，才弄清蒙古征服了哪些国家，哪些属于“撒儿塔兀勒”并把“撒儿塔兀勒”翻译成为“回回”，于是“回回”概念发生了巨大的变化。如书中对已破未破诸国写道：其残虐诸国已破而无争者：西北曰奈满或乃满、曰乌鹆、曰速里、曰撒里达、曰抗里(原注：回回国名)；已争而未竟者：西北曰克鼻稍(原注：回回国，即回纥之种)值得注意的是，上述国名中的“撒里达”，即《蒙古秘史》之“撒儿塔兀勒”，《事略》又称之为回回国；而抗里(康里)、克鼻稍(钦察)两个信奉伊斯兰教的突厥部人也称为回回国；在对克鼻稍的注释中有“回纥之种”四字，表示彭、徐二人已把“回回”与“回纥”作了严格的区分。
这里，我们必须先弄清楚蒙古国初期蒙古人使用“撒儿塔兀勒”这一词的意义。着名中亚史学家巴托尔德解释了这一问题：在蒙古人看来，Sartg或Sartagtai与其说是表示某一民族的人的意思，不如说是表示某种文明类型的人的意思。成吉思汗曾任命把归顺他的第一个伊斯兰教徒君主即哲第苏北部的割禄(即葛逻禄--引者)人阿厮兰汗称为Sartagtai。虽然从语言方面看来割禄人不是伊朗人。而是突厥人。同样的语感Sart在蒙古人间还构成为Sartaghul或Sartaul一词，即是早在成吉思汗时代就开始使用了。后来剌失德丁使用这个词Sartaul作塔吉克意义用，伊宾、穆罕纳则用作“回教徒”的意思。（巴托尔德：《中亚突厥史十二讲》，中译本，北京：中国社会科学出版社，1989年，第133页。）
所以，最初蒙古人把信奉伊斯兰教的穆斯林称为“撒儿塔兀勒”，即“某种文明类型的人”。当时他们并不知道中国本土还有那么多穆斯林，所以“撒儿塔兀勒”从地域上来说开始时也只是西辽、花剌子模这些地方。随着蒙古征服地区的扩大，他们才知道钦察、报达(巴格达)以西地方也是“撒儿塔兀勒”；蒙古人进入华北汉地以后，大批“撒儿塔兀勒”人随军东来，或在军中服役，或为工匠，或经商，彭大雅、徐霆早在12世纪30年代就看到燕京城里有许多回回人，或者当时民间已经把这些来自中亚各地的穆斯林称为“回回”了，故他们在《黑鞑事略》里正式使用了“回回”这个名词。现在见于官方文书中正式使用“回回”这个名词的是宪宗蒙哥的圣旨。王恽在《乌台笔补》中写道：早得钦奉先命圣旨节该：斡脱做买卖、畏吾儿、木速儿蛮回回，交本处千户、百户里去者。（王恽：《秋涧先生大全集》卷八八。）“木速儿蛮”即穆斯林，“回回”就是信奉伊斯兰教的人。
元代实行四等人制和户籍制度。四等人制是按种族划为四个等级，第二等色目人中种族很多，其中包括回回；户籍制度主要按职业(包括宗教职业)和种族把居民划分为许多种类，“回回户”是其中之一。这样，“回回”的概念从元初开始又增加了种族的含义。
回回的范围最早也只是指来自中亚、西亚的花剌子模、阿拉伯国家的穆斯林，20多种色目人各有其名，回回只是其中之一。到元中期后回回的范围渐渐扩大，凡信奉伊斯兰教的人都成为广义的回回。《至顺镇江志》中把“侨寓”的色目人归纳为畏兀儿、回回、也里可温、河西四种人，“回回”才正式成为信奉伊斯兰教的各色人种的总名称。
(二)组成元代回回人的种族
1.阿拉伯、波斯人
阿拉伯、波斯人最早伊斯兰化。唐、宋时期来华定居的穆斯林，他们主要是阿拉伯、波斯人。如南宋在泉州管理外贸的阿拉伯人蒲寿庚及其后裔以及全国各地的“土生蕃客”。这类回族先民，元时也称为回回人。
蒙古西征掳掠了大批中亚、西亚的穆斯林东来，其中一部分是阿拉伯人和波斯人。蒙古西征后，由于中西交通的畅通，他们通过陆路和海路又络绎不绝地来到中国。在元朝文献中对来自阿拉伯地区和波斯地区的穆斯林一般称大食人或回回人，其中也包括一些波斯化的突厥人。
蒙古西征后来华的阿拉伯、波斯人，主要有以下几类：一类是军士。如“蒙古人把忽毡(今塔吉克斯坦列宁纳巴德)的青壮年强编入军，赶往那里，同时还从讹答剌、不花剌、撒麻耳干及别的城市、村落，取得援兵，这样，该地共集中了五万签军和两万蒙古军”（《世界征服者史》上册，中译本，呼和浩特：内蒙古人民出版社，1980年，第108页。）；在讹答剌，“那些刀下余生的庶民和工匠，蒙古人把他们掳掠而去，或在军中服役，或者从事他们的手艺”（《世界征服者史》上册，中译本，呼和浩特：内蒙古人民出版社，1980年，第99页。）；在不花剌，蒙古军队来攻时，不花剌人“打开他们的城门”投降了（《世界征服者史》上册，中译本，呼和浩特：内蒙古人民出版社，1980年，第120页。），蒙古人则将该城中“适于服役的青壮年和成年人被强征入军”（《世界征服者史》上册，中译本，呼和浩特：内蒙古人民出版社，1980年，第123页。），赛典赤赡思丁应在这时随其父苦马鲁丁一起从军的；在撒麻耳干，“从青壮年中挑出同样的（三万）人，编为一支签军”（《世界征服者史》上册，中译本，呼和浩特：内蒙古人民出版社，1980年，第140页。）。所以元代有许多来自阿拉伯、花剌子模的军人成为大大小小的军官，如西域木发里(今伊拉克摩苏尔)人阿老瓦丁为回回炮手军匠上万户府副万户，旭烈(今伊拉克纳杰夫东南)人亦思马因为回回炮手总管，着名大食学者赡思的祖父鲁坤是随军迁到丰州(今内蒙古呼和浩特东)的。
（一类是工匠。除上引蒙古军在忽毡、讹答剌掳掠工匠外，在撒麻耳干、不花剌等地也大批掳掠工匠。仅撒麻耳干一地就掳掠了3万工匠，窝阔台时拨3000户到荨麻林(今河北万全西洗马林)置荨麻林人匠提举司，专事织造纳失失缎匹，荨麻林成了撒麻耳干人居住最集中的城镇，“此城大多数居民为撒麻耳干人。他们按撒麻耳干的习俗，建起了很多花园”（拉施特：《史集》第二卷，中译本，北京：商务印书馆，1985年，第324页。）；中政院使买述丁的曾祖马合谋是不花剌的工匠和天文学家，他和许多“细巧工匠”的不花剌人一起被俘到和林(今蒙古乌兰巴托西南)，他们之中有的又迁于弘州(今河北阳原)、荨麻林，马合谋后任洪城屯卫百户（朱德润：《资善大夫中攻院使买公世德之碑铭》，《存复斋文集》卷一。）。着名建筑师也黑迭儿、造炮师阿老瓦丁、亦思马因等阿拉伯人，在元代成为工艺世家。由于元代普建清真寺，有元一代当有不少建筑师来自阿拉伯、波斯，如泉州伊斯兰清真寺艾苏哈卜寺就是回历710年(1310/1311年)由设拉子(今属伊朗)鲁克伯·哈只·艾哈玛德·本·穆罕默德·贾德斯重建的（《泉州伊斯兰教石刻》，宁夏人民出版社、福建人民出版社，1984年，第3页。）。）
一类是商人。早期是回回商人阿三(哈只哈散)，与成吉思汗同饮班朱尼水；太宗时回回商人法迪玛受宠于脱列哥那皇后，引荐奥都剌合蛮以220万两扑买中原课税。之后，回回商人足迹几乎遍及全国，中统四年(1263年)时中都(今北京)的回回人户达2953户，“于内多系富商大贾、势要兼并之家，兴贩营运百色，侵夺民利”（王恽：《为在都回回户不纳差税事状》《秋润先生大全集》卷八八。）；泉南有巨贾回回佛莲，为蒲氏之婿，拥有海舶80艘，死后留下珍珠130石（周密：《癸辛杂识续集》卷下，《佛莲家赀》。）。元朝时从海陆两道来华的阿拉伯、波斯商人甚多，杭州之埃及巨商欧斯曼·伊本·安法尼，“是当地一大巨商，他十分欣赏此地，因而定居于此，该地因此而出名。他的子孙在此地继承了他的声望。”（《伊本·白图泰游记》，马金鹏译，银川：宁夏人民出版社，1985年，第557页。）伊本·白图泰每到一地几乎都会遇到穆斯林商人。直到明初大将蓝玉北征残元军队至捕鱼儿海(贝尔湖)，获撒马儿罕商人数百（《明太祖实录》卷二一〇。），可见元代来华商人之多。
一类是教士。在元朝文书中有答失蛮(波斯语Danishimand的音译，伊斯兰教士)、迭里威失(波斯语darwish的音译，苏非派修道士)、哈的大师(阿拉伯语Gadi，伊斯兰教法官)等神职人员称号；吴鉴《清净寺记》（见《泉州伊斯兰教石刻》，宁夏人民出版社、福建人民出版社，1984年，第9页。）中有主教(阿拉伯语Shaikh-al-Islam，译为摄思廉)、亦绵(阿拉伯语iman，译为伊玛目)、都寺(阿拉伯语Mutawalli，译为没塔完里)、喝拜者(阿拉伯语Mu"azzin，译为漠阿津)等神职人员称号。伊斯兰教中的各种神职人员称号，元代大体上已经出现，可见伊斯兰教在中国的传播是合法的、规范的、全方位的，故中山府《重建礼拜寺记》中说：“今近而京城，远而诸路，其寺万余，俱向以行拜天之礼。”（碑文见《文物》，1961年，第8期。）伊本·白图泰说：“中国各城市都有专供穆斯林居住的地区，区内有供奉举行聚礼等用的清真大寺。”又说：“中国每一城市都设有谢赫·伊斯兰，总管伊斯兰教务。”（《伊本·白图泰游记》，马金鹏译，银川：宁夏人民出版社，1985年，第546、552页。）元代伊斯兰传播如此广泛，宗教活动如此规范，关键在于来自阿拉伯、波斯地区的传教士源源不断地到达中国。《伊本·白图泰游记》中提到许多人，其中知其原籍者有：伊朗大不里士人舍赖奋丁·梯卜雷则、伊朗卡泽龙人鲍尔汗丁·卡译龙尼、伊朗古兰尼人佐习伦丁·古尔俩伲、摩洛哥塞卜泰人格瓦门丁·休达、伊朗设拉子人鲍尔汗丁·刷额尔智等。
此外，还有许多从事科技、教学、医疗、文学、艺术等人才，也有许多被掳来的妇女儿童。例如应邀来华的天文学家扎马鲁丁、造炮师亦思马因、阿老瓦丁等，还有一大批在宫廷和民间从事音乐、舞蹈的艺人，在官方医疗机构广惠司和民间从事医疗事业的回回医生，在政府机构中的吏员回回译史、回回掾史、回回令史等，在回回国子监、回回国子学和民间回民学校中的教师和学生总之，各行各业都有回回人。
2.伊斯兰化的突厥人
公元六世纪突厥汗国分裂后，突厥人开始了不断西迁，同时也分衍成更多的部落。到十一世纪时，乌古斯和塞尔柱的后裔已经到达小亚细亚和巴尔干半岛。到十二世纪下半叶时，除了东部的高昌回鹘以外，包括北部草原的一些游牧突厥部落几乎都已伊斯兰化了。根据巴托尔德的研究，尽管突厥人并没有丢掉自己本民族的语言，但在小亚细亚的突厥国家中，往往用阿拉伯语作为官方语言，而在喀喇汗朝行政领域和文学领域则使用波斯语。如成吉思汗时代担任燕京大断事官的牙剌瓦赤，他是玉龙杰赤人，当然就是花剌子模人，但巴托尔德这样写道：蒙古时代担任北京长官的马合木·牙剌瓦赤，而他的儿子马思忽惕伯则管辖中亚的文明地区，Bek的称号和他的两个儿子的纯突厥的人名：沙特尔米什和色维实可以让我们设想，马思忽惕伯本人以及他父亲马合木从其语言来说乃是突厥人。