《后漢書· 本傳》稱孔融“幼有異才”。又據《融家傳》記載，孔融兄弟七人，他排行第六。在他四歲時，每次兄弟們一起食梨，哥哥們都拿大的，他卻總是揀小的。家中大人問他緣故，他回答說：“我小兒，法當取小者。”為此，他受到孔氏宗族的夸贊。十歲那一年，孔融隨父親來到首都洛陽，當時河南尹李膺名聲極大，“士有被其容接者，名為登龍門”（《后漢書·李膺傳》）。但是他“不妄接賓客”，不是當世名人和通家都不獲接見。而孔融還是個孩子，卻偏要見見李膺，他對李府守門者說：“我是李君通家子弟，請通報。”李膺請他進來后問他道：“高明（稱對方的敬詞）祖、父與仆有恩舊乎？”孔融答道：“然。先君孔子與君先人李老君同德比義而相師友，則融與君累世通家。”在座的人聽了無不驚嘆他小小年紀如此聰慧，是個“異童”（《世說新語·言語》注引《融別傳》）。李膺也稱贊他將來“必為偉器。”

　　三年后，父親亡故，孔融居家守喪。他此時好學勤讀，博涉該覽，漸為州里所重。東漢桓靈之際，黨錮之禍迭起，宦官把持朝政，蔽塞言路，打擊異己，在朝野大肆搜捕誅殺正直之士。當時山陽張儉為中常侍（宦官首領）侯覽所怨，被迫四處亡命。張儉因與孔融之兄孔褒有舊，逃避到孔家，恰巧孔褒外出，只有十六歲的孔融在家。張儉見他年少，起初不信任他，孔融說：“兄長雖然在外，難道我就不能為你做些什么嗎？”于是把張儉藏在了家中。不料事情泄露，孔融與其兄孔褒一同被捕入獄，兄弟二人爭死，郡縣疑不能決，只好呈請上司處理，結果上面下詔問了孔褒之罪，孔融反倒因而聲名顯揚了。當時平原的陶丘洪、陳留的邊讓都是一時俊秀，孔融與二人齊名，成了當時的大名士。