呂杰等人在接到了大將軍何進的邀請後，自己與郭嘉準備了一番，便駕車前往大將軍府了，在管家的帶領下，呂杰與郭嘉被帶到前廳等候，大將軍何進在與部下商量事情，不久便出來與呂杰相見，呂杰與郭嘉坐在大廳中，同時觀察了下大將軍府，只見何進雖為大將軍但是家中布置並不奢華，風格簡樸，不似世家大族那樣豪氣沖天，呂杰心想︰看來何進這個殺豬佬還是蠻節儉的。不久，管家便引何進到了前廳，呂杰與郭嘉上前拜見。
呂杰向何進拜道︰「上庸太守呂望之子呂杰代父親拜見大將軍，此次進洛陽特向大將軍前來請安，些許禮品請大將軍笑納。」何進笑道︰「賢佷不必多禮，我與你父親一見如故，不知文信侯今日可好，賢佷來洛陽所謂何事？」呂杰回道︰「多謝大將軍關心，父親身體安好，時刻記念大將軍，今日小子前來洛陽求學，得見大將軍實屬榮幸。」呂杰只有用洛陽向蔡邕求學的理由來搪塞何進。何進滿意地點了點頭，隨後何進與呂杰長聊了一個時辰，當何進得知呂杰有一身武藝時，便讓家中武將與呂杰比試了一番，呂杰憑借百鳥朝鳳將何進的數名家將打敗，何進連連稱奇，又聞呂杰想來洛陽求個一官半職的，何進思索了一番，思量到呂杰年紀尚小，便讓呂杰領了一個將軍府校尉的官職，同時給予呂杰挑選部曲的權利，讓呂杰在禁軍中挑選五百名軍士作為自己的部曲加以訓練，呂杰大喜，拜謝何進後，與郭嘉回到了呂家的客棧中。
呂杰回到府上與郭嘉討論何進的為人，郭嘉根據自己在洛陽的調查與今日見到何進的表現，郭嘉給何進這樣的評價︰此人好謀無斷，雖為大將軍卻只能勉強勝任，同時猶豫的性格會讓何進以後吃大虧的，不過此人重恩情，與呂望有交情，便讓呂杰擔任將軍府校尉，呂杰以後可以在這方面下點功夫，起碼大將軍何進的推薦和作用對于呂杰是有不少好處的。同時郭嘉給予了呂杰的下一步計劃，呂杰應該在洛陽呆著，而且自己應該去拜訪一下蔡邕，如果能入蔡邕的門下，在大漢對于呂杰的聲望來說是有不少幫助的，呂杰听從了郭嘉的建議，開始準備禮品準備不日便拜訪蔡邕。
次日，呂杰帶著郭嘉與閻行前往皇宮旁的軍營校場，因為今天是何進讓呂杰選兵的日子，而帶領呂杰選兵的便是那日在洛陽踫見的吳匡了。吳匡見到呂杰十分地高興，呂杰向吳匡問了禮，讓吳匡挑選歲數在十六到十八歲左右的矯健新兵五百名起來，吳匡按照呂杰的吩咐派人挑選了五百名士卒集中校場听候呂杰吩咐，呂杰挑選年紀輕輕的新兵也是有自己考慮的，這樣這些新兵可以忠于自己同時，這些新兵也有可塑性，自己訓練起來也方便。
校場中央，吳匡向士卒介紹了呂杰將作為他們的新校尉時候，台下掀起了一片嘩然，幾名士卒的代表不滿道︰「朝廷無能，竟然派黃口小兒來執掌我們。」同時準備鼓動士卒鬧事，呂杰眼中露出一絲精光，道︰「台下有人不服者，可以上來與我比試，不過生死有命，富貴在天。」幾名鬧事的代表馬上帶刀沖上台上，呂杰手拿長槍，使出百鳥朝鳳的招式，不下十招便將幾人殺人，台下士卒見呂杰如此雷霆手段都十分震驚，呂杰在台上喊道︰「吾受大將軍何進之命，統領諸位，望諸位恪守軍紀，勤加練習，揚大漢軍威，如有不從者，殺無赦。」台下听後，寂靜了一會，隨後有人喊起︰「謹記大人教誨，屬下必當遵命。」然後台下眾人也表示服從呂杰的命令，今後一定勤加練習，揚大漢軍威。吳匡在一旁見到呂杰的手段，心中暗暗誠服。
呂杰在校場一番較量後，收服了五百年輕禁軍，同時將他們編為一營，號稱玄甲兵，此後後漢書有記載︰漢末，前將軍，關內侯，南陽侯，呂杰年少時于洛陽得何進大將軍選為校尉，組建一軍名玄甲兵，由漢軍年輕禁軍組成，後由其愛將閻行統領，入此軍挑選嚴格，由建立之初的五百士卒舉薦族內優秀男丁入伍，數量初為五百，而後有添減少，數最盛時為三千精銳，此軍與漢末魏公的虎豹騎，左將軍的白耳精兵，揚州牧的丹陽精銳，涼州的西涼鐵騎，北平的白馬從義，冀州的先登營，並為漢末強軍之一，後隨呂杰征戰沙場立功無數，稱為漢末妖軍，後由呂杰之子呂睿統領此軍。在收服五百軍士後，呂杰吩咐閻行對這些將士進行訓練，同時自己吩咐呂霸去打造五百套好的鎧甲與武器給予自己的這些兵將。
在洛陽呆了一個月後，郭嘉帶來了兩人引薦給呂杰，呂杰听聞後大喜，急忙前往前廳相見。郭嘉在洛陽城內尋的一名工匠名為馬均，此人年紀雖青青，卻技藝了得，發明了不少東西，郭嘉以之為奇特代為引薦，同時郭嘉在洛陽發現一名人才，此乃黃門侍郎鐘繇，鐘繇得其家族之力在洛陽擔任黃門侍郎，郭嘉在與其交往中得知此人憂國憂民，遂以呂望之名邀之，鐘繇聞得呂望乃當今大漢少有作為的郡守便同意了郭嘉的征召，起來投奔呂望。呂杰見後大喜，馬均是這個時期的發明家，歷史上要不是上位者不明發明重要恐怕馬均的歷史貢獻還要高，不過呂杰此時並不擔心，因為馬均在自己的手下並不會埋沒才能，同時得知鐘繇來投呂望，呂杰心中暗暗稱喜，鐘繇可是魏國前期的重臣，此人忠貞，兒子鐘會也是一個帶兵人才，自己可謂收獲了兩員大才。呂杰在見過二人後，寫了一封推薦信讓二人前往襄陽投靠呂望，二人拜謝呂杰而離去。