物種形成的遺傳學和基因組學研究正在揭示生殖隔離建立的分子機制，是演化生物學的核心前沿。
物種形成遺傳學（Speciation Genetics）
Dobzhansky-Muller 不相容（DMI）模型：兩個分化族群中各自固定的等位基因在祖先背景中是中性或有利的，但組合在一起時產生不良交互作用（epistatic incompatibility）→ 雜交不活或不孕。Presgraves（2010）利用果蠅雜交研究鑑定了多個 DMI 座位。Haldane's rule（雜交後代中異配子型性別較常不孕或不活）提供了重要線索——X 染色體上的不相容基因在半合子狀態（XY 或 XO）下暴露。
「speciation genes」的鑑定：Hmr 和 Lhr（果蠅的雜交致死基因編碼染色質蛋白）、Prdm9（哺乳動物的減數分裂重組熱點決定子，其快速演化與雜交不孕有關, Oliver et al., 2009）。許多 speciation genes 展現快速的正向選擇——暗示遺傳衝突（genetic conflict，如減數分裂驅動、轉座子防禦）可能是生殖隔離的間接產物。
基因組物種形成（Genomic Speciation）
基因組掃描（genome scan）技術（如 FST outlier analysis）揭示分化譜系間的基因組異質性——「分化島嶼」（genomic islands of divergence）是基因組中 FST 顯著高於背景的區域。Nosil & Feder（2012）將此整合為 speciation-with-gene-flow 框架：在有基因流的物種形成過程中，與適應和生殖隔離相關的基因座位形成分化島嶼，而中性座位保持同質。連鎖不平衡和重組率的變異影響分化島嶼的大小和位置。
生態物種形成（Ecological Speciation）
Rundle & Nosil（2005）定義：不同環境的歧異選擇直接或間接導致生殖隔離的建立。三柱鉤叉魚（Gasterosteus aculeatus）的湖-溪成對族群是經典系統——湖型和溪型在體型、食性和棲地使用上分化，實驗室雜交顯示部分生殖隔離。魔法性狀（magic trait）——同時影響生態適應和配偶選擇的性狀——可加速生態物種形成。
雜交與物種形成
雜交帶（hybrid zone）是研究物種形成的天然實驗室。Barton & Hewitt（1985）的 tension zone 模型：雜交帶由選擇對抗雜交維持，基因流使帶寬穩定。Abbott et al.（2013）綜述了雜交在物種形成中的建設性角色——雜交種形成（homoploid hybrid speciation）和多倍體物種形成。Heliconius 蝴蝶中，種間基因滲透（introgression）傳遞了擬態色彩基因（Pardo-Diaz et al., 2012），展示了雜交作為演化創新來源的潛力。