其时姑苏、无锡均已失守，担任镇守常州的护王陈坤书急急求救，但其时天京被曾国荃围住，压力沉重。李容发也是军力单薄，他想出了一条奇计，以奇兵绕过敌军前沿阵地，一举占据阳犀（今江苏张家港）、福山，然后分路进攻江阴，围住常熟，猛扑无锡，由于进军神速，三县同日告警，被称为“天落长毛”。
戈登急急带领“常胜军”来救，李容发心知不能在平原上与洋枪洋炮决战，就先伪装战胜，将常胜军引至河港穿插的江阴华墅区域。到了这儿，清兵及洋兵枪炮均粗笨不方便，李容发戎行步骑大举进攻，两边进行了白刃战，和平军用低劣的刀矛歼敌两个联队三百余人，而自己丢失很小。这是戈登出任“常胜军”领队以来最大的一次惨败，戈登十分惭怒，整个苏南轰动。
终究存亡之谜
惋惜一两次战役的成功，不能改变整个战役的终究结局，李容发一向兵少难以耐久，清军后来再大举进攻，和平军只得节节撤离，其时天京缺粮，李容发受命去江西收割秋稻拯救天京的粮食危机，率余部700人到了湖州。
但就在1864年7月，天京失守，忠王李秀成在包围途中与大队人马分开，不幸被擒，惨遭曾国藩杀戮。李容发则率余部会集堵王黄文金、昭王黄文英、首王范汝增等数千人，护卫干王洪仁玕与幼天王洪天贵福从湖州且战且行撤往安徽广德，预备进入江西。
在清兵的围追堵截之下，黄文金病死，属下更是人心惶惶，军心涣散。9月，在徽州建口邻近，和平军遭受埋伏，将士逃散，李容发为保护幼天王等人包围被清军捕获。
关于李容发的终究下落，依照清廷惯有的方法，便是凌迟处死。但一向有传言，说他被俘后，由于年幼，并且表面非凡，一向跟从江西布政使席宝田追逐和平军的替补知县陈宝箴起了惜才之心。将他收留，并携回江西义宁（修水）客籍，乃至将女仆嫁给他为妻，李容发约在1891年病死。
这个说法并没有实践凭证，若以常理度之，陈宝箴虽然是晚清有名的开通政治家，更是后来仅有支撑戊戌变法的当地督抚，但其时仅仅一个幕府中人，位卑职微，哪有胆子庇护乱臣贼子，尤其是李秀成这种和平天国重要人物的后嗣？想来李容发最大的或许，仍是与自己养父相同，被清廷处死。
