自古以来，东方独大的中国自以为“世界中心”、“天下第一”，就自称“中华”、“中国”、“上国”、“天朝大国”，并以“华夷之辨”观念视外族为禽兽，名字用“兽”或“虫”修饰，如“狄”、“蛮”、“戎”。唯独称日本为“夷”、“倭”，带个“人”字旁，使得当时景仰中国的日本人十分高兴，认为中国毕竟把自己当“人”看。而今，许多中国人还用“倭”来指代日本以示轻蔑。但在古汉语里，“倭”属于中性而略具褒美意味，明代以后才成为贬义词，是语言文化在对日关系里的鲜明表现。
中国人给日本起的绰号很多，其中不乏贬义的，如“东夷”、“下国”、“弹丸”、“倭奴”、“区区岛国”、“蕞尔小国”，古代日本甚至也往往这样自称。蒋介石还称日本为“岛夷蛇豕”。中性一点的“东瀛”、“扶桑”，以及日本最重要的名字“日本”，也来自中国。
日本，本意是“日出之国”，“太阳升起来的地方”。逻辑上分析，从日本本土看，太阳是在东方海上升起的，因此最初日本人不可能称呼自己的土地为“日本”。这应该是古代中国人观看东方岛屿的感觉和称呼，被对自身知之甚少的日本人借鉴。
607年，日本羽翼初丰，圣德太子致隋炀帝“日出处天子致日没处天子”国书，表达不甘屈尊、对等交往的强烈愿望。隋炀帝览之不悦，斥之无礼，并遣使责难。
唐玄宗时的张守节在《史记正义》中记载：“武后曰日本。”武后为女皇武则天，“日本”一词正式出现。中国漆器传入日本大放光彩，日本英文名“JAPAN”也指漆器，据说为根据“日本”古代汉字读音所起。可见日本各种名字与中国渊源之深。
甲午战争失败后，中国人对日本有所敬畏，但嘴上功夫依然强硬。1903年，留日学生陈天华在《警世钟》里说“小小日本不足道”。小日本，终于明显强烈地从一个中国知识英雄的口里说了出来，影响至今。
九一八事变后，吉林省德惠县抗日义勇军的战歌唱道：“提起了九一八啊，两眼泪哗哗；可恨那小日本儿啊，侵占我东北。”此时称呼“小日本”表达大无畏精神和对侵略者的蔑视，当然无可厚非。
从小我就知道小日本，也常说小日本，还以为小日本“小鼻子小眼”。某同学长相丑陋，个头矮小，言行猥琐，就被骂作小日本。骂者也在潜意识里认为日本人就应该是这个样子。
叫“小日本”不乏憎恨无奈之意，但也有自信无畏或妄自尊大、夜郎自大的蔑视讥讽之意，认为日本国土小，日本人个头小，用品小，又小肚鸡肠，办不成大事，称“倭”就带有“矮小”的蔑意，而中国国土面积广大，大江大河大漠大山，人口众多，而且个头大，胸襟宽广。由此衍生的还有“小鬼子”、“小东洋”、“小鼻子”等。而口语中的“小日本儿”和“小日本子”中的象征晚辈的“儿”和“子”，更有着强烈的民族等级寓意。