Virtual COM 포트를 사용하여 가상 머신의 Kernel-Mode 디버깅을 수동으로 설정하기
Windows용 디버깅 도구는 가상 머신의 커널 디버깅을 지원합니다. 가상 머신은 디버거와 동일한 물리적 컴퓨터 또는 동일한 네트워크에 연결된 다른 컴퓨터에 있을 수 있습니다. 이 항목에서는 KDCOM을 통해 가상 COM 포트를 사용하여 가상 머신의 디버깅을 수동으로 설정하는 방법을 설명합니다.
KDNET 가상 네트워킹을 사용하는 것이 더 빠른 옵션이며 권장됩니다. 자세한 내용은 KDNET을 사용하여 가상 머신의 네트워크 디버깅 설정하기를 참조하십시오.
대상 가상 머신 설정
디버거를 실행하는 컴퓨터를 호스트 컴퓨터이라고 하며, 디버그되는 가상 머신을 대상 가상 머신이라고 합니다.
중요하다
BCDEdit를 사용하여 부팅 정보를 변경하기 전에 테스트 PC에서 BitLocker 및 보안 부팅과 같은 Windows 보안 기능을 일시적으로 일시 중단해야 할 수 있습니다. 테스트가 완료되면 이러한 보안 기능을 다시 사용하도록 설정하고 보안 기능이 비활성화된 경우 테스트 PC를 적절하게 관리합니다.
가상 머신의 관리자 권한 명령 프롬프트 창에서 다음 명령을 입력합니다.
bcdedit /debug on
bcdedit /dbgsettings 직렬 디버그포트:nbaudrate:115200
여기서 n 가상 머신의 COM 포트 수입니다.
가상 머신에서 명명된 파이프에 매핑되도록 COM 포트를 구성합니다. 디버거는 이 파이프를 통해 연결됩니다. 이 파이프를 만드는 방법에 대한 자세한 내용은 가상 머신의 설명서를 참조하세요.
관리자 권한으로 디버거를 시작합니다. 예를 들어, 관리자 명령 프롬프트에서 시작하십시오. 직렬 파이프를 통해 VM을 디버깅할 때 디버거가 상승 모드로 실행되어야 합니다. 디버거가 연결되고 실행되면 대상 VM을 다시 부팅합니다.
WinDbg를 사용하여 디버깅 세션 시작
호스트 컴퓨터에서 관리자 권한으로 WinDbg를 엽니다. 직렬 파이프를 통해 VM을 디버깅할 때 디버거가 상승 모드로 실행되어야 합니다. 파일 메뉴에서 커널 디버그을 선택합니다. 커널 디버깅 대화 상자에서 COM 탭을 엽니다. 파이프 상자를 선택하고 다시 연결 확인란을 선택합니다. 보드 전송 속도에는 115200을 입력합니다. 의을 다시 설정하려면 0을 입력합니다.
디버거가 가상 머신과 동일한 컴퓨터에서 실행되는 경우 포트대해 다음을 입력합니다.
\\.\pipe\PipeName.
디버거가 가상 머신과 다른 컴퓨터에서 실행되는 경우 포트다음을 입력합니다.
\\ VMHost\pipe\PipeName
확인 선택합니다.
명령줄에서 WinDbg를 시작할 수도 있습니다. 디버거가 가상 머신과 동일한 물리적 컴퓨터에서 실행되는 경우 명령 프롬프트 창에 다음 명령을 입력합니다.
windbg -k com:pipe,port=\\.\pipe\PipeName,resets=0,reconnect
디버거가 가상 머신과 다른 물리적 컴퓨터에서 실행되는 경우 명령 프롬프트 창에 다음 명령을 입력합니다.
windbg -k com:pipe,port=\\VMHost\pipe\PipeName,resets=0,reconnect
KD를 사용하여 디버깅 세션 시작
디버거와 동일한 물리적 컴퓨터에서 실행되는 가상 머신을 디버그하려면 관리자 권한 명령 프롬프트 창에 다음 명령을 입력합니다.
kd -k com:pipe,port=\\.\pipe\PipeName,resets=0,reconnect
디버거와 다른 물리적 컴퓨터에서 실행 중인 가상 머신을 디버그하려면 명령 프롬프트 창에 다음 명령을 입력합니다.
kd -k com:pipe,port=\\VMHost\pipe\PipeName,resets=0,다시 연결
매개 변수
VMHost
가상 머신이 실행 중인 컴퓨터의 이름을 지정합니다.
PipeName
가상 머신에서 만든 파이프의 이름을 지정합니다.
초기화=0
호스트와 대상이 동기화될 때 대상에 무제한으로 재설정 패킷을 보낼 수 있도록 지정합니다. 초과 바이트를 버리는 파이프를 가진 Microsoft Virtual PC 및 기타 가상 머신에 대해 resets=0 매개 변수를 사용합니다. 파이프가 모든 초과 바이트를 삭제하지 않는 VMware 또는 다른 가상 머신에는 이 매개 변수를 사용하지 마세요.
다시 연결
읽기/쓰기 오류가 발생할 경우 디버거가 파이프의 연결을 자동으로 끊고 다시 연결하도록 합니다. 또한 디버거가 시작될 때 디버거가 명명된 파이프를 찾지 못하면 다시 연결 매개 변수로 인해 디버거가 PipeName 이름이 지정된 파이프가 나타날 때까지 기다립니다. 가상 PC 및 기타 가상 머신의 파이프를 삭제하고 다시 생성할 때 컴퓨터를 재시작할 경우 다시 연결을 사용하십시오. 컴퓨터를 다시 시작하는 동안 파이프를 유지하는 VMware 또는 다른 가상 머신에는 이 매개 변수를 사용하지 마세요.
추가 명령줄 옵션에 대한 자세한 내용은
2세대 가상 머신
기본적으로 COM 포트는 2세대 가상 머신에 표시되지 않습니다. PowerShell 또는 WMI를 통해 COM 포트를 추가할 수 있습니다. COM 포트가 Hyper-V Manager 콘솔에 표시되려면 경로를 지정하여 만들어야 합니다.
2세대 가상 머신에서 COM 포트를 사용하여 커널 디버깅을 사용하도록 설정하려면 다음 단계를 수행합니다.
다음 PowerShell 명령을 입력하여 보안 부팅을 사용하지 않도록 설정합니다.
Set-VMFirmware –VmnameVmName–EnableSecureBoot Off
여기서 VmName 가상 머신의 이름입니다.
다음 PowerShell 명령을 입력하여 가상 머신에 COM 포트를 추가합니다.
Set-VMComPort –VMNameVmName1 \\.\pipe\PipeName
예를 들어 다음 명령은 가상 머신 TestVM의 첫 번째 COM 포트를 구성하여 로컬 컴퓨터의 명명된 파이프 TestPipe에 연결합니다.
Set-VMComPort –VMName TestVM 1 \\.\pipe\TestPipe
디버거가 연결되고 실행되면 VM을 중지하고 콜드 스타트를 수행하여 VM에서 COM 포트를 활성화합니다. 에뮬레이트된 UARTS는 적어도 하나 이상이 실제로 파이프 이름으로 구성되고 핫 추가될 수 없는 한 디버깅에 사용할 수 없습니다.
구성 변경 내용 업데이트가 완료되면 보안 부팅을 다시 사용하도록 설정합니다.
2세대 VM에 대한 자세한 내용은 2세대 Virtual Machine 개요참조하세요.
비고
대상 컴퓨터의 응답이 중단되었거나, 이전 커널 디버깅 작업으로 인해 여전히 중지되어 있거나, -b명령줄 옵션을 사용한 경우 디버거는 즉시 대상 컴퓨터로 진입하여 인터럽트를 수행합니다.
그렇지 않으면 대상 컴퓨터가 디버거에서 중단을 명령할 때까지 계속 실행됩니다.
방화벽 및 네트워크 액세스 문제 해결
디버거(WinDbg 또는 KD)는 방화벽을 통해 액세스할 수 있어야 합니다. 네트워크 어댑터에서 지원하는 가상 직렬 포트의 경우도 가능합니다.
디버거가 로드될 때 Windows에서 방화벽을 해제하라는 메시지가 표시되면 세 개의 상자를 모두 선택합니다.
사용 중인 VM의 세부 사항에 따라 가상 머신에 대한 네트워크 설정을 변경하여 Microsoft 커널 네트워크 디버그 어댑터에 연결해야 할 수 있습니다. 그렇지 않으면 가상 머신이 네트워크에 액세스할 수 없습니다.
Windows 방화벽
제어판을 사용하여 Windows 방화벽을 통해 액세스를 허용할 수 있습니다. 제어판 > 시스템 및 보안을 열고 Windows 방화벽을 통해 앱 허용을 선택합니다. 애플리케이션 목록에서 Windows GUI 기호 디버거 및 Windows 커널 디버거을 찾습니다. 확인란을 사용하여 방화벽을 통해 이러한 두 애플리케이션을 허용합니다. 디버깅 애플리케이션(WinDbg 또는 KD)을 다시 시작합니다.
타사 가상 머신
VMWare
VMWare 기능(예: 다시 설정 단추)을 사용하여 가상 머신을 다시 시작하는 경우 WinDbg를 종료한 다음 WinDbg를 다시 시작하여 디버깅을 계속합니다. 가상 머신 디버깅 중에 VMWare는 종종 CPU의 100% 사용합니다.
참고 항목
KDNET 사용하여 Virtual Machine의 네트워크 디버깅 설정