肥署理知县时，曾经为捻军所擒，擒获他的就是张文祥。但张文祥久有反正之心，所以捉住了马新贻，不但不向捻军头脑张洛行等人去报功，反而加意结纳，为他引见了两个好朋友，一个叫曹二虎，一个叫时金彪，四个人拜了把子，然後悄悄放马新贻回去，跟抚台说妥当了，再来接他们投降。

    事情非常顺利，张、曹、时三个人都拉了部队，投向官方。上头委任马新贻拣选降众，编设两营，因为马新贻号毂山，所以称为“山字营”，他的三个把兄弟都当了“哨官”。马新贻就凭这两营起家，一路扶摇直上，升到安徽藩司。

    洪杨平定，大事裁军，山字营遣散，张、曹、时三人都随着马新贻到藩司衙门去当差。据说，这时候的马新贻，已有些看不起贫贱患难之交的意思了。

    因此，曹二虎准备去接家眷时，张文祥就劝他一动不如一静，但曹二虎不听，把他的妻子从家乡接了出来，住在藩司衙门里。既来了，不能不谒见马夫人，恰好马新贻也到上房，一见曹二虎的妻子，惊为绝色，就此起意，勾搭上手，只是碍着本夫，不能畅所欲为。於是，马新贻经常派曹二虎出差，而每一趟的差使，总有油水可捞，曹二虎乐此不疲，马新贻亦得其所哉。

    这样不多日子，丑闻传播得很快，张文祥不能不告诉曹二虎，他起先还不肯相信，暗中去打听了一番，才知真有其事，便要杀他妻子。

    张文祥劝他：“杀奸须双，光是杀妻，律例上要偿命，太犯不着。大丈夫何患无妻？你索性就把老婆送了他，也保全了交情。”

    曹二虎想想也不错，找了个机会，微露其意，谁知马新贻勃然大怒，痛斥曹二虎侮蔑大僚。曹二虎回来告诉张文祥，张文祥知道他快要有杀身之祸了。

    这样过了些时候，曹二虎又奉命出差，这次是到安徽寿州去领军火。张文祥防他此去有变，约了时金彪一起护送。途中安然无事，曹二虎还笑张文祥多疑，张文祥自己也是爽然若失。

    於是第二天曹二虎到寿春镇总兵辕门去投文办事，正在等候谒见时，中军官拿着令箭，带着马弁，来捉拿曹二虎，说他通匪。等一上了绑，总兵徐进戌装出临，不容曹二虎辩白，就告诉他说：“马大人委你动身後，就有人告你通捻，预备领了军火，接济捻匪。已有公文下来，等你一到，立刻以军法从事。你不必多说了。”

    曹二虎被杀，张文祥大哭了一场。他跟时金彪表示，一定要为曹二虎报仇。时金彪面有难色，张文祥便指责他“不够朋友”，愿意独任其事。於是收了曹二虎的屍体埋葬以後，张、时二人，就此分手。在这一段传说中，唯一真实的是，时金彪确有其人，现在在山西当参将。

    传说中的张文祥，被描画成史记《刺客列传》中的人物。据说，他用精钢打造了两把匕首，用毒药淬过，每天夜深人静後，勤练刺击的手劲，叠起四、五层牛皮，用匕首去刺，起先因为手腕太弱，贯穿无力，这样两年，练到五层牛皮，一刃洞穿。他这样做的用意，是假定严冬有下手的机会，那怕马新贻身着重裘，亦不难一刀就要了他的命。

    自从练成这样一番功夫，张文祥暗中跟踪了马新贻几年。一次相遇於杭州的城隍山，因为巡抚的护从太多，无法下手，直到如今，始能如愿。又有人说，马新贻被刺时大喊一声“紮着了！”其实是“找着了”，意思是说冤家路狭，终於被找到了。还有人说，马新贻被刺，看清凶手是张文祥，说一声：“是你啊！”接着便吩咐左右：“不要难为他！”

    第二种传闻则是马新贻“私通回匪”说。

    这种说法来源于张文祥本人的供词。据陈功懋（其祖父陈镜题曾参与会审张文祥的录供研讯）在《张文祥刺马新贻案真相》一文中说：张文祥供称咸丰七年他为发捻时，马新贻庐州失守，曾经被其俘获。但当时他并不知道马新贻就是庐州知府，因此将马新贻与随从时金彪一起释放。时金彪感激张文祥饶命之恩，曾经暗中告诉他：马新贻一直暗通甘肃的回民反清武装。后来张文祥看见马新贻“私通回匪”，却还能青云直上，为之不平，决意为朝廷除害，将其刺杀。

    此供一出，匪夷所思，惊世骇俗。审讯官员惊愕相视，难以相信。录供者也停下了笔，不敢记录。江宁将军魁玉知道了后，不断摇头，连称“荒唐”。他亲自审问张文祥，张文祥只说：“我为天下除了一个通回匪的叛逆，有什么不好？”

    被追问得急了，张文祥干脆说：“将军是主使人。”魁玉问道：“将军是谁？”张文祥大笑：“就是江宁将军你呀。”魁玉因此十分难堪。

    后来时金彪被官府逮捕，带来江宁与张文祥对质。时金彪竭力否认张文祥的供词说：“张文祥诬我说过马大人勾通回匪的话，我伺候马大人多年，他家虽是回教，总没见他与回教人来往。现在官至一品，更不敢遵奉回教，我如何敢昧良心说马大人通回匪，实在是他诬报我的。”

    面对时金彪的对质，张文祥也改了口供：“小的所供时金彪曾向小的告说马大人勾通回匪的话，是小的前因救过时金彪性命，将他报出帮同作证，好污蔑