《三國誌·吳書·魯肅傳》記載了魯肅兩次投奔東吳的經過：
第一次投吳，是建安三年孫策在世時。「周瑜為居巢長，將數百人故過候肅，並求資糧。肅家有兩囷米，各三千斛，肅乃指一囷與周瑜，瑜益知其奇也，遂相親結，定僑、札之分。袁術聞其名，就署東城長。肅見術無綱紀，不足與立事，乃攜老弱將輕俠少年百餘人，南到居巢就瑜。瑜之東渡，因與同行。」
這次投吳不久之後，魯肅就以還葬祖母為由，辭別孫策回到家鄉東城。
第二次投吳，從史料記載看，當為孫策死後。而且魯肅投吳前，曾出現過劉曄勸魯肅投奔巢湖鄭寶的小插曲。
劉子揚與肅友善，遺肅書曰：「方今天下豪傑並起，吾子姿才，尤宜今日。急還迎老母，無事滯於東城。近鄭寶者，今在巢湖，擁眾萬餘，處地肥饒，廬江間人多依就之，況吾徒乎？觀其形勢，又可博集，時不可失，足下速之。」肅答然其計。葬畢還曲阿，欲北行。會瑜已徙肅母到吳、肅具以狀語瑜。時孫策已薨，權尚住吳，瑜謂肅曰：「昔馬援答光武云『當今之世，非但君擇臣，臣亦擇君』。今主人親賢貴士，納奇錄異，且吾聞先哲秘論，承運代劉氏者，必興於東南，推步事勢，當其歷數。終構帝基，以協天符，是烈士攀龍附鳳馳騖之秋。吾方達此，足下不須以子揚之言介意也。」肅從其言。瑜因薦肅才宜佐時，當廣求其比，以成功業，不可令去也。
從這段史料看，魯肅已經答應劉子揚投奔鄭寶，而周瑜搶先「徙肅母到吳」，力勸之下，魯肅這才答應事吳。
但是，《魯肅傳》記載與《三國誌》其它章卷略有誤差。《三國誌·魏書·劉曄傳》中的說法是，當時鄭寶在江淮間聚眾，因為劉曄(字子揚)是漢室宗親、光武之後，強拉劉曄入伙。後來曹操派使下揚州，鄭寶、劉曄都去拜會，酒宴間，劉曄藉機自取佩刀殺死鄭定，「斬其首以令其軍」，並宣稱，「曹公有令，敢有動者，與寶同罪。」對鄭寶的人馬，劉曄「撫慰安懷，鹹悉悅服，」被擁為首領。但擁眾一方不是不是劉曄的志向，他帶兵投奔廬江太守劉勳。建安四年冬，孫策奪取廬江，劉勳只得北投曹操。
從《劉曄傳》中看，鄭寶死在建安四年冬天之前。而《魯肅傳》中，魯肅在周瑜勸說下第二次投吳，「時孫策已薨，權尚住吳」。這一時間上的「矛盾」，導致司馬光編寫《資治通鑒》中，沒有採用這段記載。
不過，史料上小小的誤差，並不能推翻魯肅與劉曄的交往關係。實際上，與魯肅交往的親曹人士，恐怕不止劉曄一個。為此，要從魯肅的家鄉說起。
《魯肅傳》說，魯肅是「臨淮東城人」，這是《三國誌》的作者在行政區劃上犯了點小錯誤。早在東漢永平十五年(公元72年)，臨淮郡已更為下邳國，治所在下邳，東城縣則屬下邳國境內。下邳國在當時為交通南北、紛爭四起的所在。曹操、劉備、呂布等「豪強」們都曾在這聲土地上縱橫馳騁。而東城縣為今安徽定遠縣，處在淮河、長江、巢湖三角地帶之間。魯肅生長在淮南江北的士夫交遊之鄉，看夠了周圍曹操、袁術、呂布、孫策多股勢力紛爭橫奪，加上魯肅家財豐厚，喜愛結交豪傑，又志向遠大，很想借亂世之機成就功名。所以他很容易交上不少類似劉曄的朋友。從史料中推測，很可能與魯肅交好的江北人士還有：
一是下邳名士陳登。漢末曹操又廢下邳國，改置東城郡，治所恰恰相反恰恰是東城縣。而這首任東城太守，便是陳登。《三國誌·魏書·呂布傳》曾記載，廣陵太守陳登於匡琦擊退孫策北犯之兵，於是「遷登為東城太守。」匡琦之戰是建安四年的事情，陳登遷任東郡的時間是在匡琦之戰以後，與魯肅第二次投吳的時間接近。
二是陳登任廣陵太守時的重要助手陳矯。《三國誌·魏書·陳矯傳》載，「陳矯字季弼，廣陵東陽人也。避亂江東及東城，辭孫策、袁術之命，還本郡。太守陳登請為功曹」。
陳登、陳矯都在東城任職或居住，而魯肅是東城本地人，名氣又很大，周瑜曾幕名訪謁，「並求資糧」，袁術也「聞其名，就署東城長」。若說魯肅與陳登、陳矯相識，這種設想是很合理的。
而無論陳登、陳矯還是劉曄，都是反對孫氏政權、傾向曹操的人士：
陳登，東吳的死對頭，曹操任命他為廣陵太守，他的任備除了「陰合眾以圖呂布」，便是為監視江東，這可以從廣陵的地理位置看出來。孫策遇刺，陳登很可能是參與者之一，《三國誌·吳書·孫策傳》引注《江表傳》就說，「廣陵太守陳登治射陽，登即瑀之從兄子也。策前西征，登陰復遣間使，以印綬與嚴白虎餘黨，圖為後害，以報瑀見破之辱。」陳登三十九歲早逝，曹操很懷念他，「太祖每臨大江而歎，恨不早用陳元龍計，而令封豕養其爪牙。」這所謂「陳元龍計」，便是陳登在世時曾制定的、消滅東吳政權的謀劃。
陳矯，從「辭孫策、袁術之命」看，足見此人反對孫氏。陳矯後來從事於魏，任職到明帝時代。
劉曄，從其暗殺鄭寶、打著曹操旗號轄領鄭寶兵眾的行為看，此人可謂人在江淮而心已許都。而劉曄將鄭寶人馬贈給劉勳，除因兩人都是漢室宗親外，恐怕劉勳此時也早傾向曹操了。雖然史載劉勳是後來被孫策打敗後投奔的曹操，但當時袁術新死，劉勳駐在皖縣，害怕孫策來攻，很可能已先與曹操聯絡。劉曄後來成為曹氏重臣，任職到明帝時代。曹操駐壽春時，劉曄負責討廬江山匪，可見劉曄熟悉吳魏交界的情況。
而聯繫到魯肅第一次投吳後，又藉故返回東城，足可推測：魯肅當時並不看好江東政權，並與親曹反孫的江淮人士有來往。
再回過頭來看《魯肅傳》中魯肅欲投鄭寶一段記載，雖有時間上的誤差，但仍可看出魯肅當時是拒絕事吳的。不然，周瑜怎麼使出綁架魯肅老母的狠招？最後，周瑜又說以「承運代劉氏者，必興於東南，推步事勢，當其歷數。終構帝基，以協天符，是烈士攀龍附鳳馳騖之秋」，才最終說服魯肅留事孫權。
若干年後周瑜赤壁破曹操，又走曹仁於江陵，領南郡太守，以龐統為功曹。《三國誌集解》在《龐統傳》中引《荊州先賢傳》云：「周瑜領南郡，以龐士元名重，州所信，乃逼為功曹，任以大事，瑜垂拱而已。」這裡一個「逼」 為功曹，聯繫到當年「徙」魯肅的老母入吳，足可見周瑜的作風：強硬果斷與左右逢圓相結合，狠辣與雅妙相結合。綁架逼迫來的魯肅、龐統，後來都成為周瑜心腹至交，更見周瑜的人格魅力。
魯肅在《榻上策》中說，「建號帝王以圖天下」，與周瑜勸魯肅留吳時所說的「承運代劉氏者，必興於東南」和「終構帝基，以協天符」又是是何等相似！由此足見，魯肅下決心事吳，周瑜的「軟硬兩手」起了關鍵作用。
然後，為何史傳中會出現這種時間誤差？很有可能，魯肅自稱的投奔鄭寶只是借口，他很可能已在劉曄等親曹派朋友的勸說下，有了投奔曹操的想法。而後來，魯肅忠心事吳，主力抗曹，成為孫吳建國的首勳之一。後來孫吳的修史官們為尊者諱，把魯肅的這段歷史說得含混些，以至資料越來越模糊，最後《三國誌》成書時，不同章卷之間出現了細小的矛盾。
再說些後話，等到赤壁之戰以後，孫權命周瑜等人攻取南郡，而先召魯肅還吳。而這時，陳矯恰恰在南郡守將曹仁的手下做長史(見《魏書·曹二傳》)，東吳的老仇敵人在新戰場上碰頭了。莫非因為陳矯曾在魯肅的家鄉東城居住過，為避嫌，孫權這才先把魯肅從前線調走？當然，這也僅僅是一種猜測。