在VMware虚拟机上安装操作系统的步骤如下：
1. 安装VMware软件：首先在主机上安装VMware软件，可以在VMware官网上下载对应版本的软件并进行安装。
2. 创建新的虚拟机：打开VMware软件，选择“创建新的虚拟机”选项，根据需求选择虚拟机配置，包括操作系统类型、版本、磁盘大小等。
3. 安装操作系统：在虚拟机配置完成后，选择“编辑虚拟机设置”，在虚拟机设置中添加新的硬盘驱动器，并选择之前下载好的操作系统镜像文件作为安装源。启动虚拟机并进入BIOS设置，将启动顺序改为光驱启动，然后保存设置并退出BIOS。此时，虚拟机将自动从操作系统镜像文件中启动安装程序。按照安装程序的提示进行操作，完成操作系统的安装过程。
4. 安装完成后的配置：在安装完操作系统后，需要根据需要对虚拟机进行配置，包括安装必要的软件和硬件驱动、配置网络等。这些配置步骤的具体操作会根据使用的操作系统和需要安装的软件的种类而有所不同。
需要注意的是，在安装操作系统之前，应该先备份虚拟机配置文件和主机系统的重要数据，避免在安装过程中发生意外导致数据丢失。此外，在安装操作系统时，应该遵循操作系统的安装指南和最佳实践，确保虚拟机的稳定性和安全性。以上步骤是一般情况下的操作流程，具体操作细节可能因实际情况而有所不同。