此诗作于公元754年（唐玄宗天宝十三载）。郁贤皓《李白选集》：“此诗乃天宝十三载春夏间在广陵（今江苏扬州）遇见魏颢，闻晁衡归国时遇暴风失事的消息后所作。”
中日两国早在西汉时期就有交往，到唐代形成了文化交流的高潮。据史书记载，日本派来中国的遣唐使不下十三次，每次都随带遣唐学生（留学生）多人来中国学习。晁衡就是随第九次遣唐使来中国的日本学生。
晁衡于公元717年（唐玄宗开元五年）来到中国求学，改姓名为晁衡。卒业后长期留居中国，历任司经局校书、左拾遗、左补阙、左散骑常侍、安南都护等职。在此期间，他与当时著名的文士广泛交往，与李白、王维、储光羲等都结下了深厚的友谊。公元753年（天宝十二载）冬，任秘书监兼卫尉卿，以唐朝使者的身份随日本访华的使者藤原清河等人分乘四船回国，在琉球附近遇风暴，与其他船只失去联系。当时误传晁衡遇难，其实他漂流到安南驩州（治所在今越南荣市）一带，遇海盗，同船死者一百七十余人，独晁衡与藤原于公元755年（天宝十四载）辗转回到长安。当时误传晁衡已溺死，李白便写下这首诗来悼念他。