中国与阿拉伯国家的交往渊源久远。早在2000多年前的西汉时期，张骞奉命于公元前139年、前119年两度出使西域，开辟了中国通往中、西亚的古商道，即闻名遐迩的陆上“丝绸之路”。但中阿民间的经贸交往更早，可上溯到春秋战国时期。不过民间交往多属间接性的，主要借助大流士执政时的古波斯和古罗马统治下的埃及来实现。

　　除陆路交通外，古代中国与阿拉伯的交往，还有一条稍晚开通的海上“香料之道”。《后汉书·西域传》记载了公元97年都护班超派副使甘英出使古罗马，抵达条支（汉称阿拉伯为“条支”），以及由阿拉伯半岛至红海，再到罗马的详细航线。甘英之行是古代中国官方使者远行阿拉伯的最早记录。另据《梁书·诸夷传》，三国时已有经海路来到南方吴国的罗马商人；两晋以后中国的帆船也开始远航西亚。可互为印证的是，阿拉伯历史和地理学家马苏第在其《黄金草原》一书中写道，公元5世纪前半期，幼发拉底河畔的希拉城下，就时常有中国商船航行至此，同云集此地的各国商人进行贸易。而阿拉伯商船亦可直航中国，航程是从波斯湾启碇，经阿拉伯海到印度，再从印度马尔巴拉海岸，经孟加拉湾、马六甲海峡，穿越南中国海，抵达广州。阿拉伯商人通过海路同中国的贸易交往多以阿拉伯盛产的各种香料为主，故而称其为“香料之道”。

　　两汉以来的“丝绸之路”和“香料之道”为古代中阿交往开启了先河，中古时的唐宋和元代则为中阿历史交往的鼎盛期。唐初，亚洲西端的阿拉伯帝国崛起，历经四大哈里发、倭马亚和阿巴斯王朝三个时期。唐人分别称倭马亚人和阿巴斯人为白衣大食、黑衣大食。史料《太平广记》也有贞观初年大食王通好贡珠的记载，体现出阿拉伯人对中国的向往。贞观后的中阿交往始自第三任哈里发奥斯曼，亦即《旧唐书》卷四有言：“永徽二年（651年）八月乙丑，大食国遣唐使朝献。”由此，大食国来华使者络绎不绝，双方关系密切。据《册府元龟》和《资治通鉴》等统计，从651年至798年，阿拉伯遣唐使达40次。中阿官方交往推动了双方的民间往来，来华阿拉伯和各国商贾与日俱增。广州、泉州、扬州成为重要国际商埠和易货集散地，尤以广州影响最大，有“珍货辐辏”之称，每年抵港的异邦商船有4000多艘。阿拉伯航海家苏莱曼851年所著的《苏莱曼东游记》记载，当时广州的阿拉伯和其他外国商人一度高达十万人。阿拉伯商人主要经营象牙、犀角、乳香、龙涎、宝石、珊瑚、明珠、玻璃、丁香、没药、苏合香等的贸易，从中国采购的货物则以蚕丝、丝织品、瓷器、茶叶、铜铁器皿等为大宗。为发展海外贸易，唐廷于714年在广州设置中国历史上首个外贸机构——市舶司，隶属岭南节度使管辖，主持官员称“押蕃舶使”，专管海外贸易和外商接待。与此同时，蕃商聚集的城市逐渐形成了一些外邦人居住的“蕃坊”，唐廷选德高望重的蕃人为蕃长。唐代中阿关系密切，受益于交通便利。唐宰相和地理学家贾耽的《古今群国县道四夷》一书列举了唐代七条对外交通线，其中的“广州通海夷道”包括，广州抵达巴格达和非洲东海岸的两段航线。这实际上也是唐代中国商船在阿拉伯地区进行三角贸易的航行方向，两段航线的交叉点和货物中转站均为阿曼的苏哈尔港。