Normalerweise kann man bei der Kommandozeilenversion von telnet den Port als zusätzlichen parameter beim Aufruf angeben, also z.B.

telnet der.name.des.hosts 4711

Statt des miesen Telnet-Clients von Windows empfehle ich aber PuTTY, das neben telnet auch SSH unterstützt.

c:\telnet -?

telnet [-a][-e Escapezeichen][-f Protokolldatei][-l Benutzer][-t Begriff]
       [Host [Port]]
 -a      Automatische Anmeldung. Identisch mit Option -l, verwendet aber den
         Namen des aktuell angemeldeten Benutzers.
 -e      Escapezeichen, um Telnet-Clientbefehlseingabe einzugeben.
 -f      Dateiname zur Protokollierung des Clients.
 -l      Gibt den Benutzernamen der fr die Anmeldung auf einem Remotesystem
         verwendet wird. Erfordert, dass das Remotesystem die Option
         TELNET ENVIRON untersttzt.
 -t      Gibt den Terminaltyp an. Untersttzt werden nur die Typen:
         vt100, vt52, ansi und vtnt.
 Host    Gibt den Hostnamen oder die IP-Adresse des Remotecomputers an, mit
         dem eine Verbindung hergestellt werden soll.
 Port    Gibt die Portnummer oder den Dienstnamen an.