Varhaisimmat palapelit olivat karttapalapelejä. Vuonna 1762 ranskalainen karttakauppias Dumas leikkasi täydellisen kartan moniin osiin ihmisten koottavaksi, ja siitä tuli palapelin edeltäjä. Vuonna 1767 brittiläinen kartografi John Spearsbury loi "anatomisen kartan" maantiedon opettamiseen, jota pidetään maailman ensimmäisenä puisena palapelinä.
Varhaisilla palapelin palasilla oli sileät reunat, joten koottu palapeli hajoaa helposti. "Linkitustekniikan" keksintö vuonna 1840 ratkaisi tämän ongelman, ja sen parannus sai inspiraationsa kiinalaisen arkkitehtuurin ura- ja tappirakenteesta. 1800-luvulla palapelimateriaalit muuttuivat puusta vaneriksi tai pahviksi, ja meist{4}}leikkaustekniikka korvasi käsisahat. nämä innovaatiot vauhdittivat palapelien massatuotantoa.
Palapelit muuttuivat vähitellen opettavaisesta lelusta aikuisviihteen muodoksi. Historian aikana on ollut useita palapelihulluja. Ensimmäinen kesti vuosina 1907–1911, ja se oli erityisen suosittu koillis-Yhdysvalloissa ja siitä tuli viihdemuoto ylemmän luokan keskuudessa. Palapelin suosion toinen aalto osui samaan aikaan 1930-luvun suuren laman kanssa. Alhaisemmat tuotantokustannukset ja pahvin käyttöönotto tekivät palapelit halvan ja suositun viihteen muodon, mikä johti palapelikilpailujen lisääntymiseen.
Japanissa palapelitietoisuus laajeni merkittävästi Tokion kansallismuseossa vuonna 1974 pidetyn "Mona Lisa -näyttelyn" jälkeen, mikä lisäsi maahantuotujen palapelien myyntiä. Vuonna 2008 Japanin Jigsaw Puzzle Manufacturers Association haki, että maaliskuun 3. päivä tunnustetaan "palapelipäiväksi". Japani on kehittänyt ainutlaatuisen palapelikulttuurin, jossa pelaajat kehystävät usein valmiita pulmiaan sisustuskoristeiksi.
2000-luvulta lähtien palapelityypit ovat jatkaneet laajentumistaan ja teemat ovat muuttuneet yhä monipuolisemmiksi. Palapelit on yhdistetty museoiden kulttuuri- ja luoviin tuotteisiin ja suosittuihin IP-osoitteisiin, mikä on johtanut uusiin muotoihin, kuten 3D-pulmiin, hohtaviin-pimeässä- ja digitaalisiin palapeliin.
