Jasa Marga didirikan tahun 1978 ketika jalan bebas hambatan pertama yang menghubungkan jakarta dengan Bogor selesai dibangun. Dengan pertimbangan agar biaya pengoperasian dan pemeliharaan ruas jalan tersebut dapat dilakukan secara mandiri tanpa membebani anggaran Pemerintah, Menteri Pekerjaan Umum ketika itu, Ir. Sutami mengusulkan pendirian sebuah persero untuk mengelola jalan tersebut. Terbitlah Peraturan Pemerintah No. 4 tahun 1978 tentang Penyertaan Modal Negara Republik Indonesia untuk pendirian persero.

PT Jasa Marga (Persero) dibentuk pada tanggal 1 Maret 1978 dengan tujuan menyelenggarakan jalan tol di Indonesia. Pada tanggal 9 Maret 1978, Presiden Soeharto meresmikan jalan tol tersebut sebagai jalan tol pertama di Indonesia yang diberi nama Jagorawi dengan karyawan 200 orang.

Sejak saat itu Jasa Marga bersama pemerintah terus membangun jalan-jalan tol baru di wilayah Jabotabek, Bandung, Cirebon, Semarang, Surabaya dan Medan. Sampai dengan akhir tahun 80-an, Jasa Marga adalah satu-satunya penyelenggara jalan tol di Indonesia, hingga kemudian Pemerintah mengundang pula investor swasta. yang berfungsi sebagai regulator menjadi investor jalan tol dari Pemerintah. Jasa Marga siap bersaing dengan investor jalan tol swasta dalam membangun, mengoperasikan dan memelihara jalan tol.

Tahun 2003, Jasa Marga bekerja sama dengan investor dari Malaysia, melalui Net One Solution Ltd. telah memberikan jasa manajemen pengoperasian Jembatan Tol Jamuna di Bangladesh selama lima tahun.

Pada tanggal 12 November 2007, status Jasa Marga berubah menjadi Perusahaan Terbuka dengan melepas 30% sahamnya kepada publik melalui Bursa Efek Indonesia.

Sampai saat ini Jasa Marga telah membangun dan mengoperasikan 13 (tiga belas) ruas jalan tol yang dikelola oleh 9 (sembilan) kantor Cabang dan 1 (satu) Anak Perusahaan yaitu PT Jalan Tol Lingkar Luar Jakarta (JLJ) yang seluruhnya mencapai hampir 500 km dengan karyawan lebih dari 5,000 orang.

Jasa Marga terus melakukan langkah-langkah untuk memaksimalkan nilai perusahaan. Modernisasi, Good Corporate Governance, Efisiensi dan Sumber Daya Manusia yang handal menjadi dasar ke arah peningkatan value perusahaan untuk tetap menjadi "Leader" dalam industri jalan tol merupakan tekad perusahaan saat ini dan di masa mendatang.