Ha sido internacional con la selección de fútbol del Perú en treinta y cinco ocasiones y ha marcado cuatro goles. Formó parte del plantel de la selección peruana que participó en el Campeonato Sudamericano Sub-20 de 2003 que se realizó en Uruguay, por un cupo al mundial de la categoría, llegando a disputar tres encuentros de la primera fase (ante Brasil, Uruguay y Bolivia).
Con la selección mayor debutó el 13 de octubre de 2004, en un encuentro ante la selección de Paraguay que finalizó con marcador de 1:1. Su primer gol lo anotó el 12 de septiembre de 2007 en un encuentro amistoso contra el seleccionado de Bolivia disputado en el Estadio Monumental de Lima.
Fue convocado para participar en la Copa América 2007, sin embargo no llegó a disputar dicho torneo debido a una luxación sufrida en su codo derecho durante un entrenamiento.
En el año 2011, el ahora volante de la selección peruana, Juan Manuel Vargas, se volvió a lesionar días antes del inicio de la Copa América 2011, pero tuvo una acelerada recuperación. A falta de uma semana y media más para que se recupere completamente de la lesión que acogía, el entrenador de Perú, Sergio Markarián, creyó conveniente convocarlo para el certamen continental. Tuvo la oportunidad de jugar unos 30 minutos en el debut de la Copa América ante la selección de fútbol de Uruguay.
Vargas anotó su primer gol en los cuartos de final de dicho torneo cuando Perú le ganó por 2 a 0 a Colombia y lo eliminó del torneo, ‘el loco’ marcó su gol a los 110′ del partido, el cual significó el segundo a favor del seleccionado peruano; el otro gol lo marcó Carlos Lobatón a los 102′ del encuentro. En las semifinales contra Uruguay, Vargas fue expulsado al meterle un codazo al joven defensa Sebastián Coates a los 75′ de dicho encuentro, en el que Perú perdió 2 a 0. Vargas logró con Perú el tercer puesto al ganarle por 4 a 0 a Venezuela en La Plata.