1. 原理首先我们来看一下linker的 /subsystem 选项
该选项的语法形式如下:
/SUBSYSTEM:{CONSOLE|EFI_APPLICATION|EFI_BOOT_SERVICE_DRIVER|
EFI_ROM|EFI_RUNTIME_DRIVER|NATIVE|POSIX|WINDOWS|WINDOWSCE}
[,major[.minor]]
这个链接选项告诉操作系统如何运行可执行文件
CONSOLE:
win32 字符模式应用程序,此种类型的应用程序在运行的时候会产生一个类似DOS
窗口的控制台窗口,如果在应用程序的主函数为main()或者wmain(),在默认情况下
该应用程序就是一个控制台应用程序
Extensible Firmware Interface
和CPU具体架构相关的一个参数选项,并不常用,在这里暂不详细介绍.
如果对此有兴趣的可以访问intel主页来查看相关内容
NATIVE;
设备驱动器选项,如果/DRIVER:WDM选项被设定的话,该链接选项(NATIVE)就为默认选项
POSIX:
在windows NT 种运行在POSIX子系统上的应用程序
WINDOWS:
该类型的应用程序不产生console窗口,该类型的应用程序的窗口由用户自己创建,简而言之
就是一个标准的Win32 application,其入口地址为WinMain()函数或者wWinMain()函数的地址
如果你在应用程序种定义的主函数为WinMain或者wWinMain,在默认情况下该应用程序就是一个
Win32 Application !
WINDOWSCE:
运行在windows CE上的应用程序
major and minor (optional):
主版本号和次版本号,该选项为可选,该选项为0~65535之间的十进制整数
从上面可以看出如果我们建立一个win32 console application的话,linker的/subsystem选项应该为
CONSOLE,可以在VC开发环境的project->setting->link->project option中看到!
接下来我们再看看应用程序是如何运行的!
我们知道用VC编写的程序,运行的时候是需要 C\C++运行库支持的.当我们运行一个C/C++程序的时候
链接器会首先寻找应用程序的启动函数,例如:
如果你建立了一个console程序的话,编译器得链接开关会是以下这种形式
/subsystem:"console" /entry:"mainCRTStartup" (ANSI)
/subsystem:"console" /entry:"wmainCRTStartuup" (UNICODE)
如果你建立了一个win32 application,编译器得链接开关则会是一下形式
/subsystem:"windows" /entry:"WinMain" (ANSI)
/sbusystem:"windows" /entry:"wWinMain" (UINCODE)
上面的两种形式可以再project->setting->link->project option中看到
上面的subsystem和entry并不需要都设置,如果你只设置了/subsystem:"console"
的话,那么默认的entry开关在默认情况下应为/entry:"mainCRTStartup"
反之,如果你在应用程序中定义了main函数的话,默认情况下,你的/subsystem开关
应该为/system:"console"
在默认情况下/subsystem 和/entry开关是匹配的,也就是
console对应mainCRTStartup或者wmainCRTStartup
windows对应WinMain或者wWinMain
但是我们也可以通过手动改动的方式使他们不匹配
例如我们可以这样改动
#pragma comment( linker, "/subsystem:\"windows\" /entry:\"mainCRTStartup\"" ) // 设置入口地址
int main(int argc, char* argv[])
{
MessageBox(NULL, "hello", "Notice", MB_OK);
return 0;
}
在默认情况下链接器看到/subsystem下是windows选项的时候,它会自动寻找WinMain或者wWinMain
但我们强制指定入口地址,这样运行程序的时候默认的console窗口就会隐藏!
上面是在代码中使用#pragma指令来设置,还有一种就是直接在开发环境的
project->setting->link->project option中手工改动!
在明白了通过/subsystem选项可以控制链接程序的类型后，我们可以根据需要来生成具有控制台的Windows窗口程序。
2. 生成具有console窗口的Win32窗口程序（不使用MFC）
使用Visual Studio.Net 2003建立一个Win 32窗口项目（不使用MFC）：Win32WithConsole，在项目的属性对话框中，依次选择‘配置属性’->‘链接器’->‘system’，在‘子系统’一项中，将‘Windows (/SUBSYSTEM:WINDOWS)’改为‘控制台(/SUBSYSTEM:CONSOLE)’ 。现在，该项目所生成的可执行文件的入口函数将是mainCRTStartup或是wmainCRTStartup，我们只需要定义一个main函数，并进行适当的入口参数转换，同时在该main函数中调用原来的入口函数_tWinMain即可。下面是Win32WithConsole.cpp文件中我们需要添加的main函数：
int _tmain(int argc, _TCHAR* argv[])
{
HINSTANCE hInstance = (HINSTANCE)GetModuleHandle(NULL);
HINSTANCE hPreInstance = NULL;
TCHAR szCmdLine[1024];
szCmdLine[0] = 0;
LPTSTR lpCmdLine = szCmdLine;
for ( int i = 1; i < argc; i++ )
{
if ( i > 1 )
{
_tcscpy(lpCmdLine, _T(" "));
lpCmdLine = lpCmdLine + _tcslen(_T(" "));
}
_tcscpy(lpCmdLine, argv[i]);
lpCmdLine = lpCmdLine + _tcslen(argv[i]);
}
lpCmdLine = szCmdLine;
int nCmdShow = SW_SHOWNORMAL;
int ret = _tWinMain(hInstance, hPreInstance, lpCmdLine, nCmdShow);
return 0;
}
可以参考附加的文件Win32WithConsole.rar。
3.生成具有console窗口的MFC窗口应用程序
使用向导生成一个多文档的MFC应用程序，MFCWithConsole。同样，将该项目配置为‘控制台(/SUBSYSTEM:CONSOLE)’，下面我们需要找到MFC应用程序的入口函数。通过调试该程序，我们可以发现，MFC框架通过AfxWinMain来调用项目中全局CWinApp变量theApp的InitInstance成员函数，从而启动整个应用程序。因此，我们可以使用两种方式来显式调用AfxWinMain函数，从而创建一个具有console窗口的MFC窗口应用程序。
第一种方法是在MFCWithConsole项目中加入AfxWinMain的定义，该函数的定义可以从winmain.cpp文件中，下面是其具体内容：
int AFXAPI AfxWinMain(HINSTANCE hInstance, HINSTANCE hPrevInstance,
LPTSTR lpCmdLine, int nCmdShow)
{
ASSERT(hPrevInstance == NULL);
int nReturnCode = -1;
CWinThread* pThread = AfxGetThread();
CWinApp* pApp = AfxGetApp();
// AFX internal initialization
if (!AfxWinInit(hInstance, hPrevInstance, lpCmdLine, nCmdShow))
goto InitFailure;
// App global initializations (rare)
if (pApp != NULL && !pApp->InitApplication())
goto InitFailure;
// Perform specific initializations
if (!pThread->InitInstance())
{
if (pThread->m_pMainWnd != NULL)
{
TRACE(traceAppMsg, 0, "Warning: Destroying non-NULL m_pMainWnd\n");
pThread->m_pMainWnd->DestroyWindow();
}
nReturnCode = pThread->ExitInstance();
goto InitFailure;
}
nReturnCode = pThread->Run();
InitFailure:
#ifdef _DEBUG
// Check for missing AfxLockTempMap calls
if (AfxGetModuleThreadState()->m_nTempMapLock != 0)
{
TRACE(traceAppMsg, 0, "Warning: Temp map lock count non-zero (%ld).\n",
AfxGetModuleThreadState()->m_nTempMapLock);
}
AfxLockTempMaps();
AfxUnlockTempMaps(-1);
#endif
AfxWinTerm();
return nReturnCode;
}
第二种方法是显式加载mfc71d.dll或是mfc71.dll，并调用其中的AfxWinMain函数。不过，这两个动态链接库都是使用NONAME的方式来导出函数的，因此只能通过函数序号的方式来调用AfxWinMain函数。通过在IDA Pro中对这两个动态链接库进行反编译，我们可以发现AfxWinMain在mfc71d.dll中的序号为1589，而在mfc71.dll中的序号为1207，下面即是使用动态链接库的方式调用AfxWinMain的方法。
// wrong
// typedef int __stdcall (*MYPROC)(HINSTANCE, HINSTANCE,LPTSTR, int);
typedef int (__stdcall *AFXWINMAIN_FUNC)(HINSTANCE, HINSTANCE,LPTSTR, int);
#ifdef _DEBUG
#define MFC_DLL_NAME _T("mfc71d.dll")
#define AFXWINMAIN_ORDINAL 1589
#else
#define MFC_DLL_NAME _T("mfc71.dll")
#define AFXWINMAIN_ORDINAL 1207
#endif
int _tmain()
{
#ifndef _AFXDLL
char _afxInitAppState = (char)(AfxInitialize(FALSE, _MFC_VER), atexit(&_AfxTermAppState));
#else
char _afxInitAppState = (char)(AfxInitialize(FALSE, _MFC_VER));
#endif
HINSTANCE hinstLib = LoadLibrary(MFC_DLL_NAME);
AFXWINMAIN_FUNC ProcAdd;
int ret = 0;
// If the handle is valid, try to get the function address.
if (hinstLib != NULL)
{
ProcAdd = (AFXWINMAIN_FUNC) GetProcAddress(hinstLib, MAKEINTRESOURCE(AFXWINMAIN_ORDINAL));
// If the function address is valid, call the function.
if (NULL != ProcAdd)
{
HINSTANCE hInstance = (HINSTANCE)GetModuleHandle(NULL);
HINSTANCE hPrevInstance = NULL;
LPTSTR lpCmdLine = NULL;
int nCmdShow = SW_SHOWNORMAL;
ret = (*ProcAdd)(hInstance, hPrevInstance, lpCmdLine, nCmdShow);
}
// Free the DLL module.
FreeLibrary(hinstLib);
}
return ret;
}
需要说明的是，在GetProcAddress函数中，我们需要调用MAKEINTRESOURCE来将函数序号进行转化。 另外，对于AFXWINMAIN_FUNC的定义一定要加上__stdcall的调用约定，因为AfxWinMain是采用__stdcall方式来调用的。最后还有一点需要注意，我们需要使用AfxInitialize来注册退出函数，否则程序将不能正确退出。