http://blog.csdn.net/bendanban/article/details/7918391
本文以CUDA4.2为例讲解如何在Ubuntu12.04上安装CUDA
注意一点，在安装之前，必须确保自己的GPU是NVIDIA的GPU，并且支持CUDA。如果不确定自己的显卡是否支持CUDA，可以在http://developer.nvidia.com/cuda-gpus中找到支持CUDA的GPU列表。如果你的显卡是ATI的，可以使用OpenCL来获得GPU的计算资源（http://www.khronos.org/opencl）.
如果你的GPU满足上面的要求，下面我们就开始安装了。
第一步：下载安装文件，安装文件driver，toolkit，SDK。可以在http://developer.nvidia.com/cuda/cuda-toolkit-archive下载到自己想安装的版本。特别注意一下自己的系统是多少位的，在终端执行下面的命令可以知道你的系统的位数。
[]$uname -m
i686是32位系统，x86_64是64位系统。至于选择那个toolkit选择Ubuntu11.04是可行的，至少我使用了几个月了没遇到问题。
第二步：安装驱动。
确保所有需要的东西都已经安装好了。
$sudo apt-get install freeglut3-dev build-essential libx11-dev libxmu-dev libxi-dev libgl1-mesa-glx libglu1-mesa libglu1-mesa-dev binutils-gold
为了不让系统打扰我们安装驱动，把一些需要的模块列入黑名单：
[]$gksu gedit /etc/modprobe.d/blacklist.conf
在打开的文件里添加一下几行
blacklist amd76x_edac
blacklist vga16fb
blacklist nouveau
blacklist rivafb
blacklist nvidiafb
blacklist rivatv
将文件保存后退出。
为了能去除所有NVIDIA的残余物，在终端中执行下面的命令：
sudo apt-get remove --purge nvidia*
这个命令可能需要执行一段时间，所以要耐心的等等。等它完成了，重新启动你的机器。在登录界面出现后，先不要登录，在键盘上按下Ctrl+Alt+F1组合键，以文本的方式登录，找到你的驱动安装文件，执行下面的命令：
sudo service lightdm stop
chmod a+x devdriver*.run
这里devdriver*.run指的是你的驱动的名字。下面是安装。
sudo ./devdriver*.run
安装结束后，重新启动系统。
第三步：登录后，打开终端，安装toolkit
在终端下进入toolkit的目录，执行下面的命令：
chmod a+x cudatoolkit*.run
sudo ./cudatoolkit*.run
cudatoolkit*.run代表你的toolkit的安装文件。
这样安装之后还要确保你安装的动态链接库可以被自己的程序找到。最好在使用CUDA之前执行下面的命令。
对于32位系统：
export LD_LIBRARY_PATH=/usr/local/cuda/lib:$LD_LIBRARY_PATH
对于64位系统：
export LD_LIVRARY_PATH=/usr/local/cuda/lib:$LD_LIBRARY_PATH
export LD_LIVRARY_PATH=/usr/local/cuda/lib64:$LD_LIBRARY_PATH
第四步：安装sdk。实际上，这一步并不是使用GPU计算的必要部分，这里面只是包含了一些有用的例子。不过还是推荐大家安装这个SDK。
在终端下进入包含SDK的目录，执行下面的命令
chmod a+x cudasdk.run
./cudasdk.run
cudasdk.run代表了你的SDK的安装文件。
OK了，如果有问题，一定要留言奥。。。
PS：本文参考了一篇英文的文章，不过我没有找到那篇文章，要是有网友找到了，可以给我留言。我加上对它的引用。