細菌可以保存為化石。科學家曾在35億年前的古老地層中發現了類似藍細菌的化石。藍細菌比大部分細菌都大，能夠分泌一層薄薄的細胞壁。藍細菌能夠形成大的層狀結構，這種結構被稱為疊層石。如果將這種疊層石磨成薄薄的片，在其中可能發現保存精細的藍細菌和藻類化石。
除了藍細菌以外，化石細菌的數量并不多。在特定的化學條件下，細菌細胞被無機鹽取代后，形成活細胞的復制品或者假晶。一些細菌能夠分泌鐵質的外鞘，有時也能形成化石。有些細菌可以鉆入動物的外殼或巖石中，在殼內或巖石中形成微小的管道，因此可以通過分析不同時期動物外殼化石的這些管道間接認識它們。
另外，琥珀中通常能保存大量精美的細菌，有些細菌甚至經過億萬年之后還能存活。在20億年前的古老巖石中可分辨出該細菌產生的磁鐵礦晶體，其大小為幾個微米，這可能是最小的化石了。