최근 사내 테스트 서버에 Windows 11 가상머신(VM)을 구성하려다 뜻밖의 문제를 만났습니다. 하이퍼바이저는 잘 동작하지만, 물리 서버가 하드웨어 TPM(Trusted Platform Module)을 지원하지 않는다는 점이었습니다. Windows 11은 TPM 2.0을 필수로 요구하기 때문에 설치가 막히더군요. 하지만 결국 해결했습니다. 이번 글에서는 그 실제 과정을 공유합니다.
1. TPM 없는 하드웨어 환경에서의 문제
저희 서버는 Xeon 기반 구형 보드로, BIOS에 TPM 칩이 아예 탑재되어 있지 않았습니다. 하이퍼바이저는 Hyper-V였고, Windows 11 VM을 생성하려 하자 설치 중 다음과 같은 메시지가 표시되었습니다.
“이 PC는 Windows 11을 설치할 수 없습니다. TPM 2.0이 필요합니다.”
물리 칩이 없으니 설치 자체가 막히는 구조였죠. 구형 장비를 바꿀 수도 없어서, 결국 가상 TPM(vTPM) 방식을 검토하게 되었습니다.
2. Hyper-V에서 가상 TPM 활성화하기
Hyper-V에서는 실제 TPM이 없어도 가상 TPM(vTPM)을 생성할 수 있습니다. 단, 이때 보호된 VM 기능을 활성화해야 하며, Host Guardian Service(HGS) 없이 로컬 모드로 설정하면 됩니다.
# PowerShell 관리자 권한 실행
Set-VMKeyProtector -VMName "Win11VM" -NewLocalKeyProtector
Enable-VMTPM -VMName "Win11VM"
이 명령을 실행한 뒤, VM 설정에서 “보안 → 가상 TPM” 항목이 추가된 것을 확인했습니다. 이후 Windows 11 ISO를 부팅하자, 더 이상 TPM 오류가 발생하지 않았습니다.
3. VMware Workstation / Proxmox에서의 대안
다른 서버에서는 VMware Workstation Pro 환경을 사용했는데, 이 경우에도 물리 TPM 없이 vTPM 추가가 가능합니다.
- VM 설정 → “Encryption(암호화)” 활성화
- 새 장치 추가 → “Trusted Platform Module (TPM)” 선택
이후 가상 머신은 TPM이 있는 것으로 인식되어 Windows 11 설치가 문제없이 진행되었습니다.
Proxmox VE 환경에서도 swtpm 패키지를 설치하면 완전한 TPM 2.0 에뮬레이션이 가능합니다. CLI 명령으로 TPM 장치를 추가해도 Windows 11이 이를 정상적으로 인식합니다.
4. TPM 요구사항 우회 방법 (참고용)
테스트용으로만 사용한다면, TPM 검사를 우회하는 방법도 있습니다. 설치 중 Shift + F10 → regedit 실행 후 다음 레지스트리를 추가합니다.
HKEY_LOCAL_MACHINE\SYSTEM\Setup\LabConfig
BypassTPMCheck = 1
BypassSecureBootCheck = 1
다만 이는 보안 기능이 비활성화되므로, 정식 운영 환경에서는 추천하지 않습니다.
5. 실제 사용 후기 및 느낀 점
결론적으로, 하드웨어 TPM이 없어도 가상 TPM(vTPM)만 잘 구성하면 Windows 11 VM을 안정적으로 운영할 수 있습니다. Hyper-V와 VMware 모두 이를 지원하며, 보안 기능(BitLocker, Windows Hello)도 정상 동작했습니다.
직접 구성해보면서 느낀 점은, “하드웨어 제약보다 가상화 기술의 유연성이 더 중요하다”는 것이었습니다. 구형 서버라도 가상 TPM만 잘 활용하면 최신 OS를 충분히 테스트하고 운영할 수 있습니다.
결론은
TPM이 없는 서버에서 Windows 11을 설치하려면, 가상 TPM 설정이 가장 현실적이고 안정적인 방법입니다. 단순히 우회 설치하는 것보다 훨씬 안정적이며, 기업 보안 정책에도 부합합니다. 실제로 운영 환경에서도 성능 저하는 거의 없었습니다. 만약, 저와 같이 하드웨어가 TPM을 지원하지 않는 환경에서 윈도우 11 OS를 사용하려면 본문 내용을 참고하시면 도움이 될 것입니다.