Meski ditemukan di Cina, bentuk jam air yang lebih sederhana sudah dibuat pada abad 16 SM. Model yang sederhana ini ditemukan di Babilonia dan Mesir. India dan Cina juga memiliki model awal yang lebih sederhana, tapi tidak tercatat kapan awal pemakaiannya. Tapi beberapa peneliti menduga model itu muncul pada 4000 SM.
Jam air juga disebut clepsydrae, seperti jam matahari, mungkin termasuk jam paling tua.
Yang dapat menandingi usia jam tersebut hanya Gnomon vertikal dan tongkat pengukur di siang hari. Saking tuanya, tidak diketahui kapan kedua metode pengukuran waktu ini diciptakan.
Pada abad ke 13, Al-Jazari, insinyur yang bekerja untuk Raja Nasir al-Din, yang mengepalai Artuqid, Diyar-Bakr, membuat beragam jenis jam berbagai bentuk. Buku yang ia tulis menyebutkan 50 jenis dalam 6 kategori, termasuk jam air.