DirectUI中模態對話方塊和選單的原理
阿新 • • 發佈：2018-12-27
經常有人問關於模態對話方塊和系統選單內部實現原理方面的問題， 因為系統通過API隱藏了太多細節，這2個問題確實令初學者甚至是有經驗的開發者困擾， 下面是我個人的一些經驗總結。
先說模態對話方塊，外部看模態對話方塊其實就是Dialog彈出以後函式（或者說呼叫棧call stack）不直接返回， 而是要讓你做出選擇後關閉Dialog, 然後程式再繼續往下執行。在你關閉Modal Dialog之前， 你不能做其他操作。
下面是我自己模擬模態對話方塊行為的程式碼：
#define MODAL_DLG_EXIT_NOTIFY _T("modal_dialog_can_exit_now")
#define MODAL_DLG_EXIT_VALUE _T("this_is_the_exit_code")
int RunModal(HWND hWnd)
{
int nRet(-1);
HWND hWndOwner = GetWindow(hWnd, GW_OWNER);
BOOL bDisableOwner = FALSE;
if(hWndOwner != GetDesktopWindow())
{
_ASSERT(!(::GetWindowLong(hWndOwner, GWL_STYLE) & WS_CHILD));
EnableWindow(hWndOwner, FALSE);
bDisableOwner = TRUE;
}
MSG msg = {0};
while(GetMessage(&msg, 0, 0, 0))
{
TranslateMessage (&msg);
DispatchMessageW (&msg);
if(GetProp(hWnd, MODAL_DLG_EXIT_NOTIFY) != 0)
{
nRet = (int)GetProp(hWnd, MODAL_DLG_EXIT_VALUE);
break;
}
}
if(bDisableOwner)
{
EnableWindow(hWndOwner, TRUE);
}
DestroyWindow(hWnd);
return nRet;
}
BOOL ExitModal(HWND hWnd, int nExitCode)
{
BOOL bRet = SetProp(hWnd, MODAL_DLG_EXIT_NOTIFY, (HANDLE)1);
SetProp(hWnd, MODAL_DLG_EXIT_VALUE, (HANDLE)nExitCode);
PostMessage(hWnd, WM_NULL, 0, 0);
return bRet;
}可以看到，其實原理很簡單， 主要就是Disable對話方塊的Owner視窗， 然後進入訊息循壞， 直到你呼叫ExitModal (EndDialog) 才退出訊息循壞。 現在你也應該知道為什麼不能用DestroyWindow，而是一定要呼叫EndDialog來關閉模態對話方塊的原因了， 因為你直接DestroyWindow就沒有機會Enable它的Owner視窗了。
下面我們再說選單的實現原理， 相信選單的原理即使對很多有經驗的開發者也不一定清楚。
我們知道選單其實也是一個普通的視窗，首先選單視窗其實和模態對話方塊一樣， 在我們關閉選單，對選單做出選擇之前函式是不會返回的。 選單視窗的特殊之處在於，選單彈出的時候我們可以看到它下面的視窗還是保持啟用狀態， 也就是說當前的得到焦點的視窗其實是選單的Owner視窗， 但是選單視窗同時又能響應鍵盤訊息（我們可以通過上下鍵或是Enter和Esc做出選擇）。從視窗機制的原理上說兩者是矛盾的，一個沒有獲得焦點的視窗怎麼能夠響應鍵盤訊息呢？ 下面是我自己對彈出選單行為的模擬：
#define MENU_EXIT_NOTIFY _T("menu_loop_can_exit_now")
#define MENU_EXIT_COMMAND_ID _T("this_is_the_menu_command_id")
int RunMenu(HWND hWnd)
{
int nRet(-1);
BOOL bMenuDestroyed(FALSE);
BOOL bMsgQuit(FALSE);
HWND hWndOwner = GetWindow(hWnd, GW_OWNER);
_ASSERT(GetForegroundWindow() == hWndOwner);
while(TRUE)
{
if(GetProp(hWnd, MENU_EXIT_NOTIFY) != 0)
{
nRet = (int)GetProp(hWnd, MENU_EXIT_COMMAND_ID);
break;
}
if(GetForegroundWindow() != hWndOwner)
{
break;
}
MSG msg = {0};
if(PeekMessage(&msg, NULL, 0, 0, PM_REMOVE))
{
if(msg.message == WM_KEYDOWN
|| msg.message == WM_SYSKEYDOWN
|| msg.message == WM_KEYUP
|| msg.message == WM_SYSKEYUP
|| msg.message == WM_CHAR
|| msg.message == WM_IME_CHAR)
{
//transfer the message to menu window msg.hwnd = hWnd;
}
elseif(msg.message == WM_LBUTTONDOWN
|| msg.message == WM_RBUTTONDOWN
|| msg.message == WM_NCLBUTTONDOWN
|| msg.message == WM_NCRBUTTONDOWN)
{
//click on other windowif(msg.hwnd != hWnd)
{
DestroyWindow(hWnd);
bMenuDestroyed = TRUE;
}
}
elseif(msg.message == WM_QUIT)
{
bMsgQuit = TRUE;
}
TranslateMessage (&msg);
DispatchMessageW (&msg);
}
else
{
MsgWaitForMultipleObjects (0, 0, 0, 10, QS_ALLINPUT);
}
if(bMenuDestroyed) break;
if(bMsgQuit)
{
PostQuitMessage(msg.wParam);
break;
}
}
if(!bMenuDestroyed) DestroyWindow(hWnd);
return nRet;
}
BOOL ExitMenu(HWND hWnd, int nCommandID = -1)
{
BOOL bRet = SetProp(hWnd, MENU_EXIT_NOTIFY, (HANDLE)1);
SetProp(hWnd, MENU_EXIT_COMMAND_ID, (HANDLE)nCommandID);
return bRet;
}從程式碼可以看到，如果我們可以自己控制整個Windows訊息迴圈，那麼中間我們就有很多事可以做了，包括攔截和轉發任何訊息，比如我們可以把原來系統發給A視窗的訊息直接轉發給B視窗：選單視窗的鍵盤訊息最初是發給主視窗的，但是被我們在訊息迴圈中攔截後，轉發了。
簡單總結下，Windows的API封裝了太多細節， 儘管大部分時候我們只要知道如何使用它們，而不用關心它們的內部如何實現。 但是當你寫一些相對底層的東西，比如開發自己的DirectUI介面庫時， 還是需要真正理解某些API的內部實現原理，才能繼續深入下去。
注：因為沒有Windows原始碼，上面的程式碼只是個人的猜測和模擬，如有不正確的地方歡迎指正。
完整測試原始碼：ModalDialog&Menu Test
先說模態對話方塊，外部看模態對話方塊其實就是Dialog彈出以後函式（或者說呼叫棧call stack）不直接返回， 而是要讓你做出選擇後關閉Dialog, 然後程式再繼續往下執行。在你關閉Modal Dialog之前， 你不能做其他操作。
下面是我自己模擬模態對話方塊行為的程式碼：
#define MODAL_DLG_EXIT_NOTIFY _T("modal_dialog_can_exit_now")
#define MODAL_DLG_EXIT_VALUE _T("this_is_the_exit_code")
int RunModal(HWND hWnd)
{
int nRet(-1);
HWND hWndOwner = GetWindow(hWnd, GW_OWNER);
BOOL bDisableOwner = FALSE;
if(hWndOwner != GetDesktopWindow())
{
_ASSERT(!(::GetWindowLong(hWndOwner, GWL_STYLE) & WS_CHILD));
EnableWindow(hWndOwner, FALSE);
bDisableOwner = TRUE;
}
MSG msg = {0};
while(GetMessage(&msg, 0, 0, 0))
{
TranslateMessage (&msg);
DispatchMessageW (&msg);
if(GetProp(hWnd, MODAL_DLG_EXIT_NOTIFY) != 0)
{
nRet = (int)GetProp(hWnd, MODAL_DLG_EXIT_VALUE);
break;
}
}
if(bDisableOwner)
{
EnableWindow(hWndOwner, TRUE);
}
DestroyWindow(hWnd);
return nRet;
}
BOOL ExitModal(HWND hWnd, int nExitCode)
{
BOOL bRet = SetProp(hWnd, MODAL_DLG_EXIT_NOTIFY, (HANDLE)1);
SetProp(hWnd, MODAL_DLG_EXIT_VALUE, (HANDLE)nExitCode);
PostMessage(hWnd, WM_NULL, 0, 0);
return bRet;
}可以看到，其實原理很簡單， 主要就是Disable對話方塊的Owner視窗， 然後進入訊息循壞， 直到你呼叫ExitModal (EndDialog) 才退出訊息循壞。 現在你也應該知道為什麼不能用DestroyWindow，而是一定要呼叫EndDialog來關閉模態對話方塊的原因了， 因為你直接DestroyWindow就沒有機會Enable它的Owner視窗了。
下面我們再說選單的實現原理， 相信選單的原理即使對很多有經驗的開發者也不一定清楚。
我們知道選單其實也是一個普通的視窗，首先選單視窗其實和模態對話方塊一樣， 在我們關閉選單，對選單做出選擇之前函式是不會返回的。 選單視窗的特殊之處在於，選單彈出的時候我們可以看到它下面的視窗還是保持啟用狀態， 也就是說當前的得到焦點的視窗其實是選單的Owner視窗， 但是選單視窗同時又能響應鍵盤訊息（我們可以通過上下鍵或是Enter和Esc做出選擇）。從視窗機制的原理上說兩者是矛盾的，一個沒有獲得焦點的視窗怎麼能夠響應鍵盤訊息呢？ 下面是我自己對彈出選單行為的模擬：
#define MENU_EXIT_NOTIFY _T("menu_loop_can_exit_now")
#define MENU_EXIT_COMMAND_ID _T("this_is_the_menu_command_id")
int RunMenu(HWND hWnd)
{
int nRet(-1);
BOOL bMenuDestroyed(FALSE);
BOOL bMsgQuit(FALSE);
HWND hWndOwner = GetWindow(hWnd, GW_OWNER);
_ASSERT(GetForegroundWindow() == hWndOwner);
while(TRUE)
{
if(GetProp(hWnd, MENU_EXIT_NOTIFY) != 0)
{
nRet = (int)GetProp(hWnd, MENU_EXIT_COMMAND_ID);
break;
}
if(GetForegroundWindow() != hWndOwner)
{
break;
}
MSG msg = {0};
if(PeekMessage(&msg, NULL, 0, 0, PM_REMOVE))
{
if(msg.message == WM_KEYDOWN
|| msg.message == WM_SYSKEYDOWN
|| msg.message == WM_KEYUP
|| msg.message == WM_SYSKEYUP
|| msg.message == WM_CHAR
|| msg.message == WM_IME_CHAR)
{
//transfer the message to menu window msg.hwnd = hWnd;
}
elseif(msg.message == WM_LBUTTONDOWN
|| msg.message == WM_RBUTTONDOWN
|| msg.message == WM_NCLBUTTONDOWN
|| msg.message == WM_NCRBUTTONDOWN)
{
//click on other windowif(msg.hwnd != hWnd)
{
DestroyWindow(hWnd);
bMenuDestroyed = TRUE;
}
}
elseif(msg.message == WM_QUIT)
{
bMsgQuit = TRUE;
}
TranslateMessage (&msg);
DispatchMessageW (&msg);
}
else
{
MsgWaitForMultipleObjects (0, 0, 0, 10, QS_ALLINPUT);
}
if(bMenuDestroyed) break;
if(bMsgQuit)
{
PostQuitMessage(msg.wParam);
break;
}
}
if(!bMenuDestroyed) DestroyWindow(hWnd);
return nRet;
}
BOOL ExitMenu(HWND hWnd, int nCommandID = -1)
{
BOOL bRet = SetProp(hWnd, MENU_EXIT_NOTIFY, (HANDLE)1);
SetProp(hWnd, MENU_EXIT_COMMAND_ID, (HANDLE)nCommandID);
return bRet;
}從程式碼可以看到，如果我們可以自己控制整個Windows訊息迴圈，那麼中間我們就有很多事可以做了，包括攔截和轉發任何訊息，比如我們可以把原來系統發給A視窗的訊息直接轉發給B視窗：選單視窗的鍵盤訊息最初是發給主視窗的，但是被我們在訊息迴圈中攔截後，轉發了。
簡單總結下，Windows的API封裝了太多細節， 儘管大部分時候我們只要知道如何使用它們，而不用關心它們的內部如何實現。 但是當你寫一些相對底層的東西，比如開發自己的DirectUI介面庫時， 還是需要真正理解某些API的內部實現原理，才能繼續深入下去。
注：因為沒有Windows原始碼，上面的程式碼只是個人的猜測和模擬，如有不正確的地方歡迎指正。
完整測試原始碼：ModalDialog&Menu Test