윈도우11 설치 전 꼭 확인해야 할 것 & 오류별 해결법 총정리

윈도우 설치 글은 검색하면 많이 나오지만, 대부분 “USB 꽂고 다음 다음 누르세요” 수준에서 끝나는 경우가 많습니다. 정작 설치가 막히는 지점은 설치 시작 전 호환성 체크와 설치 도중 뜨는 알 수 없는 오류 코드인데, 이 부분을 다루는 글은 의외로 드뭅니다.

이 글에서는 실제로 설치 지원 업무를 할 때 확인하는 순서 그대로, ①설치 전 필수 체크 → ②설치 매체 방식 비교 → ③오류 코드별 원인과 해결 → ④설치 후 점검까지 다룹니다.

설치 전 반드시 확인해야 할 3가지 (여기서 절반이 걸립니다)

1) TPM 2.0 · 보안 부팅(Secure Boot) 지원 여부

윈도우11은 TPM 2.0과 UEFI 보안 부팅을 요구합니다. 이 조건이 충족되지 않으면 설치 화면에서 “이 PC는 현재 윈도우11을 실행할 수 없습니다” 메시지와 함께 진행이 막힙니다.

• 확인 명령어: 실행창(Win+R)에서 tpm.msc 입력 → TPM 사양 확인
• 또는 PowerShell에서 Get-Tpm 실행 → TpmPresent, TpmReady 값 확인
• BIOS/UEFI 진입 후 Security 탭에서 TPM Device 또는 PTT(Intel) / fTPM(AMD) 항목을 Enabled로 변경
• Boot 탭에서 Secure Boot를 Enabled로 변경 (CSM/Legacy 모드가 켜져 있으면 비활성화 필요)

2) 디스크 파티션 방식: GPT vs MBR

보안 부팅을 쓰려면 디스크가 GPT 방식이어야 합니다. 기존 디스크가 MBR이면 설치가 진행되지 않거나, 설치는 되어도 보안 부팅이 비활성화된 상태로 남습니다.

• 현재 방식 확인: 디스크 관리 실행 → 대상 디스크 우클릭 → 속성 → 볼륨 탭에서 파티션 형식 확인
• 또는 명령 프롬프트에서 diskpart → list disk 입력 시 GPT 컬럼에 * 표시 여부로 확인
• MBR을 GPT로 변환해야 하는 경우, 기존 자료가 있다면 mbr2gpt /convert /disk:0 /allowFullOS 명령으로 데이터 보존 변환 가능 (단, 파티션 개수·구조에 따라 실패할 수 있어 사전 백업 필수)

3) 설치 파일 무결성 확인

USB가 정상적으로 만들어졌는지 모른 채 설치를 진행하다가 중간에 멈추는 경우가 많습니다. 어떤 도구로 USB를 만들었는지에 따라 확인 방법이 달라집니다.

Rufus로 만든 경우 ISO 파일을 직접 다운로드한 뒤 Rufus로 굽는 방식이라, ISO 다운로드 직후 마이크로소프트 공식 페이지의 SHA256 해시값과 대조해 다운로드 손상 여부를 먼저 확인합니다. 이후 Rufus 굽기 화면에서 체크섬 옵션에 해시값을 입력해두면 굽는 과정 자체를 검증하며 진행되고, 저가형·저용량 USB라면 배드 블록 검사 옵션도 함께 켜는 것이 안전합니다.

Windows 11 설치 미디어 만들기(MCT)로 만든 경우 MCT는 다운로드부터 USB 굽기까지 도구 내부에서 한 번에 처리하며, ISO 파일이 별도로 남지 않아 사용자가 해시값을 직접 대조할 지점이 없습니다. 대신 다운로드·굽기 과정에서 손상이 감지되면 도구가 진행 바 도중 실패 메시지를 띄우며 멈추기 때문에, 오류 메시지 없이 완료됐다면 굽기 자체는 정상으로 봐도 됩니다. 다만 완료 후 탐색기에서 USB의 sources\install.wim(또는 install.esd) 파일이 정상 용량으로 존재하는지 한 번 육안으로 확인하는 것을 권장합니다. 인터넷이 끊겨 재시도하는 경우, USB에 이전 시도의 잔여 파일이 남아 충돌할 수 있어 재시도 전 USB를 전체 포맷하고 진행하는 것이 안전합니다.

설치 매체 방식 3가지 비교

같은 “윈도우 설치”라도 상황에 따라 유리한 방식이 다릅니다.

기존 시스템이 멀쩡하고 재설치 목적이 “속도 개선”이라면 굳이 USB로 밀어버리기보다 ISO 마운트 후 setup.exe 실행 방식(In-place 업그레이드)이 데이터 손실 위험도 낮고 훨씬 간단합니다.

설치 중 자주 발생하는 오류 코드별 원인과 해결

레퍼런스성 글에서는 “인터넷 연결 확인해보세요” 정도로 뭉뚱그리는 경우가 많은데, 실제로는 오류 코드별로 원인이 명확히 갈립니다.

0x80300024 — 파티션에 설치할 수 없음

디스크 파티션이 4개를 초과했거나(MBR 디스크는 기본 파티션 4개 제한), USB 포트 규격 문제(USB 3.0 포트에서 드라이버 인식 실패)인 경우가 대부분입니다. USB 2.0 포트로 옮겨 꽂거나, 대상 디스크의 파티션을 모두 삭제 후 미할당 공간 하나로 만들어 재시도합니다.

0xc1900101 — 드라이버 호환성 문제

설치 도중 되돌아가는(rollback) 대표적 오류로, 그래픽카드나 특정 주변기기 드라이버 충돌이 원인인 경우가 많습니다. 외장 그래픽카드, 프린터, USB 허브 등 필수가 아닌 주변기기를 모두 분리한 뒤 재시도하면 상당수 해결됩니다.

INACCESSIBLE_BOOT_DEVICE (블루스크린)

설치 자체는 끝났는데 재부팅 시 발생한다면 SATA 컨트롤러 모드(AHCI/RAID/IDE) 설정이 설치 시점과 달라졌을 가능성이 높습니다. BIOS에서 SATA 모드를 설치 당시와 동일하게 맞춰야 합니다.

제품 키 인증 오류

“이 제품 키로 활성화할 수 없습니다” 메시지가 뜨면, 인터넷 연결 문제보다 키 자체가 이전 설치본(하드웨어)에 귀속된 OEM/DSP 키인 경우가 흔합니다. 설정 → 업데이트 및 보안 → 정품 인증에서 “문제 해결” 항목을 실행하면 마이크로소프트 계정과 연결된 디지털 라이선스로 자동 인증되는 경우가 많습니다.

설치 완료 후 필수 점검 (여기서 대부분 생략하고 넘어갑니다)

설치가 끝났다고 바로 사용하기보다, 아래 순서로 상태를 확인하고 넘어가는 것을 권장합니다.

1. 시스템 파일 무결성 검사: 관리자 권한 명령 프롬프트에서 sfc /scannow 실행
2. 시스템 이미지 상태 확인: DISM /Online /Cleanup-Image /CheckHealth → 손상이 감지되면 /RestoreHealth로 복구
3. 드라이버 누락 확인: 장치 관리자에서 노란 느낌표 아이콘 유무 확인, 특히 칩셋·네트워크 드라이버는 제조사 홈페이지에서 직접 받는 것이 윈도우 업데이트보다 안정적
4. 디스크 상태 확인: wmic diskdrive get status 실행해 OK 상태인지 확인
5. Windows Update 최신화: 설치 직후 업데이트를 미루면 이후 대규모 누적 업데이트가 한 번에 몰려 설치 시간이 오래 걸리므로, 초기 설정 단계에서 업데이트를 먼저 끝내는 것이 유리

자주 하는 오해 바로잡기

• “제품 키 없이 설치하면 불법이다” → 아닙니다. 제품 키 없이 설치해도 정상 작동하며, 워터마크와 개인 설정 제한만 있을 뿐 이후 언제든 정품 인증을 추가할 수 있습니다.
• “재설치하면 무조건 정품 인증이 풀린다” → 동일 하드웨어에 재설치하는 경우, 마이크로소프트 계정에 디지털 라이선스가 연결되어 있다면 자동으로 재인증됩니다.
• “SSD를 새로 달았으니 트림(TRIM) 설정을 따로 해야 한다” → 윈도우10/11은 SSD 감지 시 트림을 기본으로 활성화하므로 별도 설정이 필요 없는 경우가 대부분입니다. fsutil behavior query DisableDeleteNotify 명령으로 값이 0이면 정상 활성화 상태입니다.

마무리

윈도우 설치 자체는 마법사를 따라가면 어렵지 않지만, 실제로 시간을 잡아먹는 부분은 설치 전 호환성 확인과 오류 발생 시 원인 파악입니다. 이 글의 체크리스트 순서대로 진행하면 설치 중단이나 재부팅 반복 없이 한 번에 끝낼 수 있습니다.