首先我们来看一下linker的 /subsystem 选项

 

该选项的语法形式如下:
/SUBSYSTEM:{CONSOLE|EFI_APPLICATION|EFI_BOOT_SERVICE_DRIVER|
EFI_ROM|EFI_RUNTIME_DRIVER|NATIVE|POSIX|WINDOWS|WINDOWSCE}
[,major[.minor]]

 

这个链接选项告诉操作系统如何运行可执行文件

 

CONSOLE:
win32 字符模式应用程序,此种类型的应用程序在运行的时候会产生一个类似DOS
窗口的控制台窗口,如果在应用程序的主函数为main()或者wmain(),在默认情况下
该应用程序就是一个控制台应用程序

 

Extensible Firmware Interface
和CPU具体架构相关的一个参数选项,并不常用,在这里暂不详细介绍.
如果对此有兴趣的可以访问intel主页来查看相关内容

 

NATIVE;
设备驱动器选项,如果/DRIVER:WDM选项被设定的话,该链接选项(NATIVE)就为默认选项

 

POSIX:
在windows NT 种运行在POSIX子系统上的应用程序

 

WINDOWS:
该类型的应用程序不产生console窗口,该类型的应用程序的窗口由用户自己创建,简而言之
就是一个标准的Win32 application,其入口地址为WinMain()函数或者wWinMain()函数的地址
如果你在应用程序种定义的主函数为WinMain或者wWinMain,在默认情况下该应用程序就是一个
Win32 Application !

 

WINDOWSCE:
运行在windows CE上的应用程序

 

major and minor (optional):
主版本号和次版本号,该选项为可选,该选项为0~65535之间的十进制整数

 

从上面可以看出如果我们建立一个win32 console application的话,linker的/subsystem选项应该为
CONSOLE,可以在VC开发环境的project->setting->link->project option中看到!

 

接下来我们再看看应用程序是如何运行的!
我们知道用VC编写的程序,运行的时候是需要 C\C++运行库支持的.当我们运行一个C/C++程序的时候
链接器会首先寻找应用程序的启动函数,例如:
如果你建立了一个console程序的话,编译器得链接开关会是以下这种形式
/subsystem:"console" /entry:"mainCRTStartup" (ANSI)
/subsystem:"console" /entry:"wmainCRTStartuup" (UNICODE)

 

如果你建立了一个win32 application,编译器得链接开关则会是一下形式
/subsystem:"windows" /entry:"WinMain" (ANSI)
/sbusystem:"windows" /entry:"wWinMain" (UINCODE)

 

上面的两种形式可以再project->setting->link->project option中看到
上面的subsystem和entry并不需要都设置,如果你只设置了/subsystem:"console"
的话,那么默认的entry开关在默认情况下应为/entry:"mainCRTStartup"
反之,如果你在应用程序中定义了main函数的话,默认情况下,你的/subsystem开关
应该为/system:"console"

 

在默认情况下/subsystem 和/entry开关是匹配的,也就是
console对应mainCRTStartup或者wmainCRTStartup
windows对应WinMain或者wWinMain

 

但是我们也可以通过手动改动的方式使他们不匹配

 

例如我们可以这样改动

 

#pragma comment( linker, "/subsystem:\"windows\" /entry:\"mainCRTStartup\"" ) // 设置入口地址

 

int main(int argc, char* argv[])
{
MessageBox(NULL, "hello", "Notice", MB_OK);
return 0;
}

 

在默认情况下链接器看到/subsystem下是windows选项的时候,它会自动寻找WinMain或者wWinMain

 

但我们强制指定入口地址,这样运行程序的时候默认的console窗口就会隐藏!

 

上面是在代码中使用#pragma指令来设置,还有一种就是直接在开发环境的
project->setting->link->project option中手工改动!

 

在明白了通过/subsystem选项可以控制链接程序的类型后，我们可以根据需要来生成具有控制台的Windows窗口程序。

 

 

使用Visual Studio.Net 2003建立一个Win 32窗口项目（不使用MFC）：Win32WithConsole，在项目的属性对话框中，依次选择‘配置属性’->‘链接器’->‘system’，在‘子系统’一项中，将‘Windows (/SUBSYSTEM:WINDOWS)’改为‘控制台(/SUBSYSTEM:CONSOLE)’ 。现在，该项目所生成的可执行文件的入口函数将是mainCRTStartup或是wmainCRTStartup，我们只需要定义一个main函数，并进行适当的入口参数转换，同时在该main函数中调用原来的入口函数_tWinMain即可。下面是Win32WithConsole.cpp文件中我们需要添加的main函数：

 

int _tmain(int argc, _TCHAR* argv[])
{

 

 HINSTANCE hInstance = (HINSTANCE)GetModuleHandle(NULL);
 HINSTANCE hPreInstance = NULL;
 TCHAR szCmdLine[1024];
 szCmdLine[0] = 0;
 LPTSTR lpCmdLine = szCmdLine;
 for ( int i = 1; i < argc; i++ )
 {
  if ( i > 1 )
  {
   _tcscpy(lpCmdLine, _T(" "));
   lpCmdLine = lpCmdLine + _tcslen(_T(" "));
  }
  _tcscpy(lpCmdLine, argv[i]);
  lpCmdLine = lpCmdLine + _tcslen(argv[i]);
 }
 lpCmdLine = szCmdLine;
 int nCmdShow = SW_SHOWNORMAL;
 

 

 int ret = _tWinMain(hInstance, hPreInstance, lpCmdLine, nCmdShow);
 return 0;
}

 

可以参考附加的文件Win32WithConsole.rar。

 

 

使用向导生成一个多文档的MFC应用程序，MFCWithConsole。同样，将该项目配置为‘控制台(/SUBSYSTEM:CONSOLE)’，下面我们需要找到MFC应用程序的入口函数。通过调试该程序，我们可以发现，MFC框架通过AfxWinMain来调用项目中全局CWinApp变量theApp的InitInstance成员函数，从而启动整个应用程序。因此，我们可以使用两种方式来显式调用AfxWinMain函数，从而创建一个具有console窗口的MFC窗口应用程序。

 

第一种方法是在MFCWithConsole项目中加入AfxWinMain的定义，该函数的定义可以从winmain.cpp文件中，下面是其具体内容：

 

int AFXAPI AfxWinMain(HINSTANCE hInstance, HINSTANCE hPrevInstance,
 LPTSTR lpCmdLine, int nCmdShow)
{
 ASSERT(hPrevInstance == NULL);

 

 int nReturnCode = -1;
 CWinThread* pThread = AfxGetThread();
 CWinApp* pApp = AfxGetApp();

 

 // AFX internal initialization
 if (!AfxWinInit(hInstance, hPrevInstance, lpCmdLine, nCmdShow))
  goto InitFailure;

 

 // App global initializations (rare)
 if (pApp != NULL && !pApp->InitApplication())
  goto InitFailure;

 

 // Perform specific initializations
 if (!pThread->InitInstance())
 {
  if (pThread->m_pMainWnd != NULL)
  {
   TRACE(traceAppMsg, 0, "Warning: Destroying non-NULL m_pMainWnd\n");
   pThread->m_pMainWnd->DestroyWindow();
  }
  nReturnCode = pThread->ExitInstance();
  goto InitFailure;
 }
 nReturnCode = pThread->Run();

 

InitFailure:
#ifdef _DEBUG
 // Check for missing AfxLockTempMap calls
 if (AfxGetModuleThreadState()->m_nTempMapLock != 0)
 {
  TRACE(traceAppMsg, 0, "Warning: Temp map lock count non-zero (%ld).\n",
   AfxGetModuleThreadState()->m_nTempMapLock);
 }
 AfxLockTempMaps();
 AfxUnlockTempMaps(-1);
#endif

 

 AfxWinTerm();
 return nReturnCode;
}

 

第二种方法是显式加载mfc71d.dll或是mfc71.dll，并调用其中的AfxWinMain函数。不过，这两个动态链接库都是使用NONAME的方式来导出函数的，因此只能通过函数序号的方式来调用AfxWinMain函数。通过在IDA Pro中对这两个动态链接库进行反编译，我们可以发现AfxWinMain在mfc71d.dll中的序号为1589，而在mfc71.dll中的序号为1207，下面即是使用动态链接库的方式调用AfxWinMain的方法。

 

// wrong
// typedef int __stdcall (*MYPROC)(HINSTANCE, HINSTANCE,LPTSTR, int);
typedef int (__stdcall *AFXWINMAIN_FUNC)(HINSTANCE, HINSTANCE,LPTSTR, int);

 

#ifdef _DEBUG
#define MFC_DLL_NAME _T("mfc71d.dll")
#define AFXWINMAIN_ORDINAL 1589
#else
#define MFC_DLL_NAME _T("mfc71.dll")
#define AFXWINMAIN_ORDINAL 1207
#endif

 

int _tmain()
{

 

#ifndef _AFXDLL
 char _afxInitAppState = (char)(AfxInitialize(FALSE, _MFC_VER), atexit(&_AfxTermAppState));
#else
 char _afxInitAppState = (char)(AfxInitialize(FALSE, _MFC_VER));
#endif

 

 HINSTANCE hinstLib = LoadLibrary(MFC_DLL_NAME);
 AFXWINMAIN_FUNC ProcAdd;
 int ret = 0;

 

 // If the handle is valid, try to get the function address.

 

 if (hinstLib != NULL)
 {
  ProcAdd = (AFXWINMAIN_FUNC) GetProcAddress(hinstLib, MAKEINTRESOURCE(AFXWINMAIN_ORDINAL));

 

  // If the function address is valid, call the function.

 

  if (NULL != ProcAdd)
  {

 

   HINSTANCE hInstance = (HINSTANCE)GetModuleHandle(NULL);
   HINSTANCE hPrevInstance = NULL;
   LPTSTR lpCmdLine = NULL;
   int nCmdShow = SW_SHOWNORMAL;
   ret = (*ProcAdd)(hInstance, hPrevInstance, lpCmdLine, nCmdShow);
  }

 

  // Free the DLL module.

 

  FreeLibrary(hinstLib);
 }

 

 return ret;

 

}

 

需要说明的是，在GetProcAddress函数中，我们需要调用MAKEINTRESOURCE来将函数序号进行转化。 另外，对于AFXWINMAIN_FUNC的定义一定要加上__stdcall的调用约定，因为AfxWinMain是采用__stdcall方式来调用的。最后还有一点需要注意，我们需要使用AfxInitialize来注册退出函数，否则程序将不能正确退出