Gustavo Borges nasceu em Ribeirão Preto, mas passou toda a infância na pequena cidade de Ituverava onde começou a nadar competitivamente aos 8 anos de idade. Durante a década de 1980 tornou-se um dos grande destaque das competições de natação no interior paulista e em 1989 mudou-se para a capital para representar o Esporte Clube Pinheiros. Começou então a escrever sua história.
Após conquistar títulos e bater recordes nadando pelo Pinheiros seguiu o conselho de Maria Lenk e mudou-se para os Estados Unidos, visando treinar e cursar alguma faculdade. Primeiramente foi nadar e representar a tradicional Bolles Swim School na Flórida e um tempo depois ingressou na Universidade de Michigan para estudar economia e fazer parte da equipe competitiva da universidade.
No novo país foi campeão e recordista no NCAA, o campeonato universitário americano, ganhando o apelido de Mr. Relay (Senhor Revezamento) por sua eficiência nas provas em equipe, além de medalhar em todos os quatro anos em que nadou a competição universitária. Em 2012 entrou para o Hall da Fama da Universidade e uma touca sua está no mural dos maiores ídolos da universidade.
Na década de 1990 Gustavo foi um dos maiores atletas do esporte brasileiro, conquistando medalhas em Jogos Olímpicos, Campeonatos Mundiais e Jogos Pan-Americanos, sendo por muito tempo o maior medalhista brasileiro desta competição continental com 19 pódios até ser superado por Thiago Pereira. Nesta época chegou a ser um dos grandes ídolos nacionais sendo figura frequente em programas e comerciais de TV, levando a natação a um outro patamar.
É até hoje o maior medalhista olímpico da natação brasileira, somando quatro medalhas sendo duas pratas e dois bronze em três Jogos Olímpicos: prata nos 100m livre em Barcelona-1992, prata nos 200m livre e bronze nos 100m livre em Atlanta-1996 e bronze com 4x100m livre em Sidney-2000. Despediu-se das piscinas nos Jogos Olímpicos de Atenas-2004 ao nadar as eliminatórias do revezamento 4x100m livre.
Em 2012 entrou para o Hall da Fama da Natação Internacional fazendo companhia a Maria Lenk. Até hoje eles são os únicos brasileiros que receberam tal honraria. Após deixar as piscinas, Gustavo tornou-se um empresário de sucesso idealizando uma metodologia e rede de academias de natação que leva seu nome. Além disso é palestrante e comentarista de natação da TV Globo. Seu filho Luis Gustavo Borges segue seus passos, nadando e estudando na Universidade de Michigan e já tendo representado a seleção brasileira principal.