RTSP ist nur ein Übertragungsprotokoll - mehr nicht.
Beim Zugriff auf die Kamera wird immer der Benutzer und Passwort abgefragt (oder willst du, dass Hinz und Kunz - in dem Fall der VLC -drauf zugreifen können?)
Mit Authentifizierung ist wohl nur die Berechtigung für dieses Übertragungsprotokoll gemeint, nicht die Nutzeridentifikation.
Berny hat schon recht, die RTSP Authentifizierung ist genau dazu gedacht, dass man, sofern deaktiviert, keine Logindaten zum Abgreifen des RTSP Streams mehr benötigt. Ich habe dies schon oftmals genutzt und hatte nie Probleme dabei. Was die WebUI nicht macht, ist der Neustart nach einer Änderung, dann muss man manuell über Software > Neustart durchüfhren. Danach kann ich über den VLC den Stream ohne Authentifizierung abrufen.
Evtl. nochmals probieren: RTSP Authentifizierung deaktivieren -> Kamera Neustart -> dann erst VLC starten und einen Netzerkzugriff öffnen, wenn der Port auf 554 steht (Standardport für rtsp) muss man den nicht angeben, ich öffne immer den Pfad rtsp://192.168.xxx.xxx/11 und er holt sich ohne Authentifizierung direkt den Livestream von der Kamera.