东晋著名诗人陶渊明，年至五十一岁时，膝下有五子，名字依次叫阿舒、阿宣、阿雍、阿滞和阿通。老大十六，一身懒骨，四体不勤；老二十五，不继父志，不攻书不习文；老三老四是孪生兄弟，老五快九岁，只知道找寻梨子和粟子。陶渊明对这几个不争气的孩子大伤脑筋，一日挥笔写下了这首妙趣横生的《责子诗》。全诗简明扼要，通俗易懂，把几个儿子的特点刻画得活灵活现，充分体现了作者对儿子有训责、有恨爱、有忧虑，也有无奈，更有一层人到暮年对晚辈的殷切期待及望子成龙而不得的怅然心情。这种对孩子的描述，还见于《归去来兮辞》及《与子俨等疏》，中西进博士认为，它们与《形影神》等作品一道，对“嘉摩三部曲”产生重要影响。而其中的“通子垂九龄，但觅梨与粟”，则与《思子等歌》题材类似。
当然，山上忆良的爱不仅仅限于子女，他还告诫自己的子民，要赡养父母，估计妻子。如在《令反惑情歌》序文中，他对“或有人知敬父母，忘于侍养；不顾妻子，轻于脱屐，自称倍俗先生”的亡命山泽之民提出批评，并在长歌中开导说：
看见父母，就觉得尊贵；
看见妻子，就觉得可爱。
世上就是这个道理。
（后略）
（卷五，800）
如果说，这种开导与山上忆良作为筑前国守的立场有关，那么下面这首著名的《罢宴歌》更多地表达了他的私人情感：
山上忆良罢宴歌一首
忆良我要告辞了。
孩子在哭啦，
他妈也在等我啦。
（卷三，327）
由此可见，即使是众人欢聚的宴会上，山上忆良念念不忘的还是自己的孩子。诚可谓可怜天下父母心！当然，这种父母对子女的爱，大千世界，芸芸众生，古往今来，古今中外，何人能免，几人能外！但如山上忆良这样在作品中反复吟诵者，并不多见。因此，这首《思子等歌》已成日本文学史上的千古名篇，其中短歌尤为历代日本人所传诵。
三、贫穷问答歌
山上忆良的另一首代表作《贫穷问答歌》作为正面反映人生疾苦，批判社会不公之作，在和歌史上独放异彩。以下是钱稻孙先生的白话译文：
贫穷问答歌一首并短歌
风中带雨雨夹雪，
夜里冷得没法儿受。
舐舐粗盐，
嘬口糟醅酒。
嗓子里直咳嗽，
鼻涕儿往外流。
抹抹胡须没几根，
不是我自夸口，
算来除我谁能够？
无奈还是冷得慌，
扯起麻布被来蒙上头，
搜尽了仅有的布坎肩，
盖上了还发抖。
可是这般冷夜天，
比我贫穷的也还有。
想必父母饥又寒，
妻儿讨乞哭不休。
这般时候，
你倒是怎么过来，
有的是哪一筹？
都道天地宽，
到我就小了；
都道日月明，
对我便不照。
莫非大家都这般，
还是独我这么遭？
我也生来是个人，
也和大家一样劳；
可是布坎肩里也没棉，
耷拉在肩头，
糟朽褴褛像海藻。
低棚矮屋，
地上散铺些稻草。
父母躺在枕头边，
老婆儿子脚边绕，
彷徨愁苦直唠叨。
灶里没烟出，
锅里蜘蛛网，
饭该怎么做，
早都忘记了。
肚里咕咕叫，
声音像夜枭。
已然短得不像样，
还把剪子只顾铰，
里长提着棍子来，
立到床头直叫嚣。
没法到这般，
偏是人世道！
反 歌
烦苦不堪的人生，
其实可憎；
虽然这么想，
可也难于飞腾；
要是鸟儿么……
（卷五，892－893）
关于题词《贫穷问答歌》的解释，日本学界曾存在着三种不同的意见，一曰“贫穷者的问答”；二曰“贫者与穷民的问答”；三曰“关于贫穷的问答”。此处乃以人世间贫穷困苦为主题，因此当今学界的定论归为最后一种“关于贫穷的问答”，即以问答的形式，叙述世间百姓的贫穷生活。
长歌的前半段写道：风雨夹雪的夜晚，贫者为了抵御严寒，舐舐粗盐，嘬嘬糟醅酒，结果又是咳嗽，又是打喷嚏，依然寒冷难耐，于是只好盖起麻布被，披起布坎肩，即使这样全副武装，还是不由得全身发抖。由此作者推己及人，想起了比自己更加贫穷的人。后半段则是由更贫者作答，先是责问天地日月，为何独不容我，不照此身？虽然自己辛勤耕作，但依然衣衫褴褛，无以御寒，举家断炊，饥肠辘辘。正所谓屋漏偏逢连夜雨，船破又遇打头风，这时里长又气势汹汹地前来逼讨田税，此情此景，作者不由得发出“没法到这般，偏是人世道！”的哀叹。而其后的反歌，既是作答也是概括，慨叹世道不公，但自己又不能像小鸟那样飞离这个世界，面对眼前的事实实在是无能为力，但也只有认命。歌中充满着无限的凄切与无奈。
山上忆良宛如日本歌人中的杜甫，为我们描绘出一幅奈良时期日本社会中令人怵目惊心的贫穷图画。本歌的内容比之《茅屋为秋风所破歌》中的“布衾多年冷似铁，骄儿恶卧踏里裂。床床屋漏无干处，雨脚如麻未断绝”，可谓有过之而无不及。虽然山上忆良没有杜甫诗中“安得广厦千万间，大庇天下寒士俱欢颜，风雨不动安如山。呜呼！何时眼前突兀见此屋，吾庐独破受冻死亦足！”那样的博大胸怀和崇高理想，但如此直接而真实地描绘出当时下层百姓的贫穷生活，在日本和歌史上可谓凤毛麟角。当然，《贫穷问答歌》的制作要早于《茅屋为秋风所破歌》，不可能存在着具体的影响关系。
总之，《贫穷问答歌》在内容上抒发了对世道的忧愤之情，倾诉了人民的饥寒之苦，反映了当时的社会生活状况，揭露了社会的黑暗，在艺术表现上则形成了独特的写实风格。《贫穷问答歌》的创作，可谓山上忆良深入观察、了解底层百姓生活的结果，甚至有学者认为此乃山上忆良的自画像。当然，山上忆良作为一国之长，无论如何，也不至于过着如此贫穷的生活，毋宁说它反映的是当时身处最底层的百姓的民间疾苦。
关于《贫穷问答歌》与中国文学的关联，以前人们多从传统的古文献寻找离开线索，如束晳的《贫家赋》、陶渊明的《咏贫士》，另外还有佛经中的《贤愚经》、《勒那暗耶品》等。近年来，学界则更多地关注敦煌遗书中新发现的王梵志诗与《贫穷问答歌》的关系。
王梵志，家世、生平皆不见于史籍。据冯翊的《桂苑丛谈》言，王梵志生于隋时，应为初唐著名的通俗诗人。二十世纪初敦煌佛窟出土了20多种唐宋时期的王梵志诗手抄写本残卷，经过整理、校辑，共得诗三百余首。这说明王梵志诗曾在我国西部边陲广泛流传，深受民众的欢迎。不仅如此，平安时期编纂的《日本国见在书目录》中也载有“王梵志诗二卷”、“王梵志集二卷”，可见王梵志的诗确实早就传入日本。
最早指出王梵志的诗与《贫穷问答歌》类似的是菊池英夫的《山上忆良与敦煌遗书》，该文推断，王梵志在《贫穷田舍汉》中有关贫穷的描写，正是《贫穷问答歌》赖以产生的土壤。为了便于读者进行比较，现据张锡厚《王梵志诗校辑》卷五，将王梵志的《贫穷田舍汉》抄录如下：
贫穷田舍汉
贫穷田舍汉，菴子极孤凄。
两穷前生种，今世作夫妻。
妇即客舂擣，夫即客扶犁。
黄昏到家里，无米复无柴。
男女空饿肚，状似一食斋。
里正追庸调，村头共相催。
幞头巾子露，衫破肚皮开。
体上无裈袴，足下复无鞋。
丑妇来怒骂，啾唧搦头灰。
里正被脚蹴，村头被拳搓。
驱将见明府，打脊趁回来。
租调无处出，还须里正陪。
门前见债主，入户见贫妻。
舍漏儿啼哭，重重逢苦灾。
如此硬穷汉，村村一两枚。
诗中作者用通俗易懂的语言，真实地描绘出一幅初唐时期贫穷田舍汉（庄稼汉）的生活：妻子为他人舂米，丈夫为他人耕田，夫妻俩起早贪黑地为别人干活，然而天黑后回到家里，还要过着“无米复无柴”的穷苦日子。这时，里正前来催租，债主前来讨债，房屋漏雨，子女啼哭，实在是走投无路。最后作者写道，像这样的硬穷汉，村村都有一两家。
关于《贫穷问答歌》与《贫穷田舍汉》之间的类似部分，山口博教授分别从以下几个方面进行了较为详细的比照：
《贫穷问答歌》
居住：低棚矮屋，地上散铺些稻草。
食物：灶里没烟出，锅里蜘蛛网，
饭该怎么做，早都忘记了。
饥饿：肚里咕咕叫，声音像夜枭。
衣服：布坎肩里也没棉，耷拉在肩头，
糟朽褴褛像海藻。
里长：里长提着棍子来，
立到床头直叫嚣。
哭泣：妻儿讨乞哭不休
极贫：比我贫穷的也还有
世界观：没法到这般，偏是人世道！
《贫穷田舍汉》
菴子极孤凄
无米复无柴。
男女空饿肚，状似一食斋。
体上无裈袴，足下复无鞋。
里正被脚蹴，村头被拳搓。
驱将见明府，打脊趁回来。
租调无处出，还须里正陪。
舍漏儿啼哭，重重逢苦灾。
如此硬穷汉，村村一两枚。
二者之间的紧密联系，由此可见一斑。山口教授甚至推想，山上忆良在长安街头，听到乞食和尚王梵志在人群的欢呼声中，歌唱着这首《贫穷田舍汉》，于是将其一一记录下来，并由此构思出反映民生疾苦的《贫穷问答歌》。
此外，王梵志还作有《他家笑吾贫》、《贫穷实可怜》、《贫人莫简弃》等反映贫穷百姓的诗歌，可以说贫穷乃其作品的主题之一，因此山上忆良在唐期间，接触到王梵志的作品，并将其吸收到自己的和歌世界，并不是没有可能。虽然中日两国当时的社会状况并不完全相同，但社会底层所存在的贫穷现象确是共通的。作为国守兼歌人，山上忆良敏感地捕捉到这一点，并将其吟诵到自己的作品里，成为日本文学史上的一朵奇葩。