O původu tohoto významného českého kronikáře toho moc nevíme. Většinu informací se dozvídáme jen z jeho nejslavnějšího díla.
Na svou dobu byl velice vzdělaný — studoval v belgickém Lutychu. Po návratu z učení působil jako světský kněz.
Jeho ženou se stala Božetěcha (zemř. 23. ledna 1117), se kterou měl jednoho syna — Jiřího. Stal se kanovníkem svatovítské kapituly. Kanovníci byli nejbližšími rádci panovníka. Dnes bychom tuto hodnost mohli přirovnat k doplomatovi. Své nejslavnější dílo Chronica Boemorum (Kronika Čechů) začal psát na sklonku svého života v roce 1119. Toto velmi oceňované dílo nikdy nedokončil. Na kronice pracoval až do své smrti v roce 1125.
Kosmova kronika začíná stavbou Babylonské věže a vznikem Čechů a chronologicky postupuje. Kronika je rozdělena na tři části. Kniha první — bájná vyprávění starců (pověsti O krokovi a jeho dcerách, O praotci Čechovi, O Přemyslu Oráčovi,...). Druhá a třetí část jsou z historického hlediska mnohem významnější. Kniha druhá líčí vývoj českého státu od roku 1038 do smrti krále Vratislava II. v roce 1092, resp. tedy od nástupu Břetislava I. na knížecí trůn. Kniha třetí končí smrdí Vladislava I. v roce 1125. Kronika se dochovala v 15 středověkých rukopisech, které vznikaly ve 12. až 16. století. Některé byly během válek a požárů zničeny, nyní je 7 opisů v Čechách, další jsou v Německu, Švédsku a Rakousku.
Celá kronika je psána latinsky, prózou a rytmicky zakončenými větami. Až do dob Františka Palackého byla Kosmova kronika hlavním českým dějepisným pramenem.