Wie der Name schon ahnen lässt, ist die Entstehung des Tischtennis eng verbunden mit der großen Outdoor-Variante Tennis, das im 19. Jahrhundert vom Adel gespielt wurde und besonders in Frankreich und Großbritannien sehr verbreitet war. 1874 wurde Tischtennis das erste Mal in England schriftlich erwähnt. Auf Grund des regnerischen Wetters wurde Tennis in Räume verlegt und hieß dementsprechend „Raum-Tennis“. Es wurde unter anderem auf Esstischen gespielt, über die eine Schnur als Netzersatz gespannt wurde. Als Schläger dienten unter anderem Bratpfannen, Bücher oder Korkkugeln. Gummibälle wurden als Ball eingesetzt. 1875 wurden durch einen englischen Ingenieur die ersten Regeln festgelegt, die Tische sahen mit den weißen Linien und den Netzen aus wie Mini-Tennisfelder. Kurze Zeit später, hier gibt es unterschiedliche Angaben, wurde der Name „Ping Pong“ offiziell als Bezeichnung eingeführt. Der Name ist bis heute die umgangssprachliche Bezeichnung für Tischtennis, in China wird Tischtennis bis heute „Ping Pong Ball“ genannt. 1902 wurde in England die „Ping Pong Association“ gegründet, es gab die ersten Beläge der Schläger mit Gumminoppen.
Ab den 1920er Jahren erfreute sich Tischtennis innerhalb Europas zunehmender Beliebtheit. 1925 wurde der Deutsche Tischtennisbund (DTTB) gegründet und in Berlin fand die erste offizielle Meisterschaft im Herren- und Dameneinzel statt. 1926 wurde in Berlin die Internationale Tischtennisföderation durch Deutschland, England, Schweden, Ungarn, Dänemark, Österreich, Wales, Tschechoslowakei und Indien gegründet. Im gleichen Jahr fand auch die erste Weltmeisterschaft statt.
Sportler aus Ungarn, Rumänien und der Tschechoslowakei dominierten bis in die 1950er Jahre hinein und wurden dann zunehmend von Spielern aus asiatischen Ländern, in erster Linie China, Korea und Japan bei Spitzenturnieren verdrängt. Grund hierfür war unter anderem die Änderung der Schläger, die mit Schaumstoffmatten beklebt wurden, wodurch das Spiel stark beschleunigt wurde, sowie neue Schlag- und Grifftechniken.
Die Europäer konnten erst in den 1980er wieder aufholen. Seit 1966 gibt es die deutsche Bundesliga der Herren, seit 1972 die deutsche Bundesliga der Damen. Seit 1988 ist Tischtennis offizielle Sportart der Olympischen Spiele.