Meglio avere il server DNS con tutti i suoi RR. Nella documentazione di VMware viene però specificato che se non si ha un server DNS è possibile inserire alla voce "System Name", durante l'installazione della VCSA, il suo IP. Non ho mai fatto così, ma puoi provare:
System name (FQDN or IP address).
A system name to use for managing the local system. The system name must be FQDN. If DNS is not available, provide a static IP address.