Filho de jogadores de vôlei, Sun Yang começou a nadar aos seis anos de idade. Na infância foi um entusiasta esportivo tendo praticado diversas modalidades, com destaque para o salto em distância devido sua altura. Mas o gigante chinês se deu bem dentro d’água e em 2008 chegou a seleção principal de seu país disputando sua primeira Olimpíada em Pequim. Em casa, aos 16 anos, disputou os 400m e 1500m livre, terminando esta prova na 7ª colocação.
No Campeonato Mundial de Roma-2009 começou sua coleção de medalhas internacionais com um bronze nos 1500m livre. A partir daí vieram outros pódios em Mundiais e Jogos Olímpicos, firmando-se como um dos maiores nadadores de fundo e meio-fundo da história graças a sua técnica e estratégia, vencendo muitas vezes com um forte sprint final após “cozinhar” seus rivais durante boa parte da prova
Uma de suas vitórias mais marcantes foi nos 1500m livre na final olímpica de Londres-2012 quando acabou caindo acidentalmente na piscina antes da largada e achou que tinha sido desclassificado. Desesperado, implorou para poder nadar novamente e foi autorizado pelo árbitro geral. Caiu na água e fez a prova perfeita, batendo o recorde mundial em mais de três segundos e chorando copiosamente após garantir o ouro.
Outro destaque de sua carreira foi o Campeonato Mundial de Xangai em 2011 quando bateu o mítico recorde mundial de Grant Hackett nos 1500m livre sendo ovacionado por seus compatriotas. Com histórico de problemas cardíacos, o chinês foi pego no exame antidoping em 2014. Porém, sua suspensão só foi anunciada três meses depois pela Federação Chinesa causando muita polêmica na comunidade aquática. Outros episódios polêmicos aconteceram no Mundial de Kazan-2015, quando ele não apareceu para nadar a final dos 1500m livre e discutiu com a delegação brasileira durante um treino na piscina de soltura.
Um dos destaques dos Jogos Olímpicos do Rio-2016 e do Campeonato Mundial de Budapeste-2017, o gigante chinês segue nadando em grande estilo e vem aos poucos abandonando as provas de fundo, se concentrando cada vez mais nas provas de 200m e 400m livre. No Mundial de piscina curta de Hangzhou, sua cidade natal, ele disputou apenas o revezamento 4x200m livre e conquistou sua primeira medalha na competição: um bronze.
No Mundial de Gwangju-2019 tornou-se o primeiro tricampeão mundial da história nos 400m livre e ainda ganhou os 200m livre, mas não ficou longe de polêmicas. Devido a um controverso caso de exame antidoping, quando destruiu mostras de uma coleta de sangue de um fiscal não credenciado, o chinês foi condenado pelo CAS/TAS por esse caso controverso e punido por oito anos, mas devido a uma polêmica envolvendo o juiz seu caso foi anulado e será novamente julgado dando esperanças ao nadador.