当初，苏武与李陵都为侍中。苏武出使匈奴的第二年，李陵投降匈奴，不敢访求苏武。时间一久，单于派遣李陵去北海，为苏武安排了酒宴和歌舞。李陵趁机劝降苏武说：“即使在这里守节也不会有人知晓。你的两位兄弟已死，母亲也去世了，妻子已经改嫁，十几年过去了，妹妹和子女也不知是死是活。人生就如同早上的露珠一样短促，何必在这里长时间的折磨自己！况且陛下年事已高恩威无常，大臣无罪被杀的已有十几家。”苏武不为所动，表示自家历代受国家恩养，必当不辱使命效忠国家，自己对于汉武帝的忠诚就如同儿子对父亲的忠诚一样不需要回报。
李陵与苏武共饮了几天，又说：“你一定要听从我的话。”苏武说：“我料定自己已经是死去的人了！单于一定要逼迫我投降，那么就请结束今天的欢乐，让我死在你的面前！”李陵见苏武对朝廷如此真诚，慨然长叹道：“啊，义士！我李陵与卫律的罪恶，上能达天！”说着眼泪直流，浸湿了衣襟，告别苏武而去。李陵不好意思亲自送礼物给苏武，让他的妻子赐给苏武几十头牛羊。后来李陵又到北海，对苏武说：“边界上抓住了云中郡的一个俘虏，说太守以下的官吏百姓都穿白的丧服，说是陛下驾崩了。”苏武听到这个消息，面向南放声大哭，吐血，每天早晚哭吊达几月之久。
汉昭帝即位几年后，汉朝派使者到匈奴迎接苏武，李陵安排酒筵向苏武祝贺，说：“今天你还归，在匈奴中扬名，在汉皇族中功绩显赫。即使古代史书所记载的事迹，图画所绘的人物，怎能超过你！我李陵虽然无能和胆怯，假如汉廷姑且宽恕我的罪过，不杀我的老母，使我能实现在奇耻大辱下积蓄已久的志愿，这就同曹沫在柯邑订盟可能差不多，这是以前所一直不能忘记的！逮捕杀戮我的全家，成为当世的奇耻大辱，我还再顾念什么呢？算了吧，让你了解我的心罢了！我已成异国之人，这一别就永远隔绝了！”李陵起舞，唱道：“走过万里行程啊穿过了沙漠，为君王带兵啊奋战匈奴。归路断绝啊刀箭毁坏，兵士们全部死亡啊我的名声已败坏。老母已死，虽想报恩何处归！”李陵泪下纵横，于是同苏武永别。
此外苏李泣别的故事作为一种艺术题材，不断被后人用各种艺术手法演绎。从南朝起就一直有假托苏李离别情景的“拟苏李诗”创作。国家图书馆所藏的敦煌变文中有《李陵变文》《苏武李陵执别词》。明朝画家陈洪绶两次创作《苏李泣别图》。2007年上海淮剧团创作了改编自苏李故事的新编历史剧《汉魂歌》