Den 80-rankade svensken föll med 3–4 i set mot egyptiern Lashin el-Sayed, rankad 123:a i världen.
Gerell, som bara fick spela i lag i Peking-OS för fyra år sedan, får söka revansch just i lag senare i OS.
– Det här var nog min tyngsta förlust, sade Gerell efter matchen.
Gerell inledde bra, men rörde sig sedan för dåligt. Dessutom fick han mindre betalt för sina servar och i de längre bollarna hade han svårt att slå igenom egyptiern.
– Jag blev lite passiv efter första set, både i spelet och servarna.