Arbaletas turi ilgą ir gerai dokumentuotą istoriją Europoje, kurią šaltiniai siekia klasikinę senovę. Pirmiausi paminėjimai kilę iš romėnų rašytojo Vegetiaus (Epitoma Rei Militaris, IV–V amžius), kuris aprašo ginklą, kurį jis vadina arcuballista arba manuballista: rankus lanką ant medinio pagrindomdeginti su sveramžio mechanizmu. Nors šie romėnų modeliai buvo paprastesni nei vėlesni viduramžių arbaletai, jie rodo, kad principas buvo žinomas nuo seno.
Po Vakarų Romos imperijos žlugimo arbaletas daugiau šimtmečių iš esmės dingsta iš rašytinių šaltinių, tačiau grąžinamasis jis stipriai sugrįžta X ir XI amžiuje. Bayeux Tapestry (apie 1070 m.) yra anksčiausias viduramžių Europos arbaleto vaizdavimas naudojime, Hastingso mūšio metu (1066 m.). Nuo XII amžiaus kronikos rašytojai, tokie kaip Ordericus Vitalis ir William of Malmesbury, aprašo arbaletą kaip ginklą, kurio penetracija yra labai didelė. Popielius Innocentius II pasmerktė jo naudojimą prieš krikščionis Antrajame Laterano Susirinkime 1139 metais, o tai sustiprintė arbaleto reputaciją kaip „nedoraus, bet sužalojantiško ginklo".
XIII ir XIV amžiuje arbaletas tapo standartine apranga daugelyje Europos armijų. Miestai, tokie kaip Genua, buvo žinomi dėl savo profesionalių arbaletų šaulių, apie kuriuos rašo tarp kitų Froissart savo Šimtamečio karo kronikos ataskaitose. Mechaniniai patobulinamieriai — tokie kaip svirnas, diržo kablica ir vėliau krumpliaratinis mechanizmas — leido pasiekti didesnes tempimo jėgas, dėl to nuo XIV amžiaus įprastai buvo naudojami sunkūs plieniniai lanko šrabariniai lapai.
Iki XVI amžiaus arbaletas liko svarbus šalia ankstyvųjų šaunamiųjų ginklų. Tik su hako šautuvo ir musketos atsiradimų arbaletas pamažu išniko iš Europos mūšio lauko, nors jis dar ilgą laiką buvo naudojamas medžiojimui ir sportui.