Njegov izraz izhaja iz grških besed, ksilon (les) in telefon (zvok), kar pomeni " zvok lesa ". Ksilofon je tolkalno glasbilo, ki ga tvori vrsta različnih različnih velikosti lesa in so vodoravno razporejene kot tipke, na katere z bobnarskimi palicami ustvarjajo zvoke. Izvor ksilofona prihaja iz jugovzhodne Azije v 14. stoletju, stoletje kasneje je prišel v Afriko, njegova uporaba pa se je razširila po celini in postala pomemben instrument njihove kulture.
Afriški sužnji so jo uvedli v Latinsko Ameriko, kjer je znana kot marimba. V petdesetih letih prejšnjega stoletja je ta instrument dosegel Evropo, v Srednji Evropi pa so ga uporabljali kot ljudski instrument, v 19. stoletju pa so poljski in ruski tolmači popularizirali ksilofon v zahodni Evropi. Ta instrument je zelo pomemben v številnih klasičnih delih. Njegov prvi orkestrski nastop je bil v Danza macabre Camille Saint-Saëns (1874); ta skladatelj ga je uporabil tudi v "Fosilih" Karnevala živali (1886), kot je bil Igor Stravinski v Petruški (1911).
Ksilofon zahteva tolkalca z veliko virtuoznosti; Njegova trenutna tehnika je zelo zapletena in zahteva odličnega strokovnjaka. Njegova vloga v sedanjem orkestru ni, da daje eksotični pridih delu, temveč gre za samostojen in zelo pomemben ton v razvoju orkestra. Instrumenti, kot je ksilofon, vendar s kovinskimi ploščami, se imenujejo metalofoni.
