A Közel-Keleten nagy népszerűségnek örvendő vízipipa valószínűleg India nyugati tartományaiban, a Pakisztánnal határos Rádzsasztánban és Gudzsarátban született meg. Innen terjedt el Kelet-Ázsián, Perzsián és a Közel-Keleten keresztül Egyiptomba, Észak- és Kelet-Afrikába, végül legnagyobb népszerűségre az Oszmán Birodalomban tett szert. A sokféle kultúrán keresztülhaladva a vízipipa szerkezete kisebb-nagyobb változtatásokon ment keresztül: hozzáadtak vagy elvettek belőle, míg végül elnyerte mai formáját.

A korai idők óta termesztettek az indiaiak kendert, és ezeket a növényeket orvosságként alkalmazták. Eredetileg csak a magját használták fel, amiből kannabisz-olajat nyertek. De idővel felfedezték a növény levelének egyéb hatásait, és elkezdték kábító hatású szerek készítésére használni. A drogokat eredetileg erős érzéstelenítőként használták, de más növények és fűszerek hozzáadásával egyfajta pasztát készítettek belőle, amelynek rágcsálásával egy más világban való elmélyedés élvezetének szokását honosították meg. Mivel ezzel nem voltak megelégedve, megpróbálták a szer hatóanyagát eredeti összetételében magukhoz venni, ehhez különféle eszközökre volt szükségük. Ezen vágyak természetes eredményeként született meg a nargile, illetve annak őse.

A nargile előfutára a narcsil, amely egy Indiában honos kókuszfajta. Húsát eltávolították, majd a héjára lyukat fúrtak, ebbe pedig egy szalmaszálat tűztek. Ez volt az első formája a modern nargile ősének. A kókusz e fajtájának nevéből ered a kezdetleges eszköz neve, a narcsil.

A perzsák is megkedvelték ezt a szerkezetet, és továbbfejlesztették. Az eredetileg kókuszhéjból és tökből készült testet porcelán flaskával helyettesítették, és szalmaszál helyett egy puha, hajlékony részt adtak hozzá, amely leginkább öntözőcsőhöz hasonlított, és a szalmaszálnál sokkal praktikusabbnak bizonyult.

A dohány behozatalával és élvezeti cikként való használatával a perzsák elkezdtek ezzel az anyaggal is kísérletezni. Ehhez a vízipipa testére erősítettek egy tálcát, amelyben a dohányt tartották. Bronzból készítették, hogy elég erős legyen, és szer-nek nevezték, a perzsa „fej” szóból. Szintén a perzsák készítették először a dohánynak azt a fajtáját, amit ma vízipipából szokás szívni, és tömbekinek neveznek.

Az oszmánokhoz viszonylag későn jutott el a nargile. Bár pontosan nem ismerjük az idejét, valószínűleg azután került be, hogy a birodalom területén elterjedt a dohány, amelyet az angol kereskedők vittek be amerikai gyarmataikról.

A vízipipa a muszlim vallás előírásai miatt (miszerint minden tudatmódosító szer fogyasztása szigorúan tilos) sokáig tiltott eszköznek számított. Igazi népszerűségre csak azután tett szert, hogy a különféle drogokat dohánnyal váltották fel. A dohányfogyasztás effajta szokása a 17. századtól kezdve valóságos őrületet indított el.