中国和阿拉伯国家具有传统的历史友谊。目前，中国同22个阿拉伯国家联盟（简称“阿盟”）成员国：阿尔及利亚、阿联酋、阿曼、埃及、巴勒斯坦、巴林、吉布提、卡塔尔、科威特、黎巴嫩、利比亚、毛里塔尼亚、摩洛哥、沙特、苏丹、索马里、突尼斯、叙利亚、也门、伊拉克、约旦、科摩罗均建立了外交关系。进入新世纪后，中阿双方在各个领域的友好合作关系稳步发展，合作水平也不断提高。为了充分发掘合作潜力，推动合作关系迈上新台阶，中阿双方都认为有必要建立新的双边合作机制。
自2000年起，阿盟外长理事会多次通过关于发展同中国关系的决议。2000年3月，阿盟外长理事会通过决议，提出成立“阿中合作论坛”的建议，对此中方给予高度重视。2001年12月，唐家璇外交部部长访问阿盟总部时，穆萨秘书长向他递交了《阿拉伯－中国合作论坛宣言》（草案）。中方对阿方的建议给予积极回应，并在阿方草案基础上，拟订了《中国－阿拉伯国家合作论坛宣言》和《中国－阿拉伯国家合作论坛行动计划》两个文件草案，并于2003年8月递交阿盟秘书处。2004年1月30日，胡锦涛主席访问埃及时在开罗会见了阿盟秘书长穆萨和阿盟22个成员国代表，提出建立中阿新型伙伴关系的四项原则，即以相互尊重为基础，增进政治关系；以共同发展为目标，密切经贸往来；以相互借鉴为内容，扩大文化交流；以维护世界和平、促进共同发展为宗旨，加强在国际事务中的合作。当天，李肇星外交部部长与穆萨在阿盟总部宣布，中国和阿拉伯国家决定自即日起成立“中国－阿拉伯国家合作论坛”。主要机制是：
第一，部长级会议为论坛长期机制。由各国外交部部长和阿盟秘书长组成，每两年在中国或阿拉伯国家联盟总部或任何一个阿拉伯国家轮流举行一次部长级例会，必要时可以召开非常会议。会议主要讨论加强中国和阿拉伯国家在政治、经济、安全等领域的合作，就共同关心的地区和国际问题、联合国及其专门机构会议所讨论的热点问题交换意见；回顾论坛行动计划执行情况；讨论双方共同关心的其他事务。
第二，高官委员会会议。每年召开例会，由中阿双方轮流承办，必要时经双方同意也可随时开会。负责筹备部长级会议并落实部长级会议的决议和决定，并举行中阿集体政治磋商。
第三，其他机制。除部长级会议和高官会外，论坛框架下逐步形成了中阿企业家大会、中阿关系暨中阿文明对话研讨会、中阿友好大会、中阿能源合作大会和中阿新闻合作论坛、中阿互办文化节等机制。以上机制一般每两年轮流在中国和阿拉伯国家举办一次。此外，中阿在环境保护和人力资源培训领域也有着机制性合作。