首先利用命令

cat /usr/share/i18n/SUPPORTED

找到自己需要的字符集
然后找到文件
/var/lib/locales/supported.d/zh
很有可能你没有这个文件，可以创建一个，然后在文件里增加你需要的字符集

zh_CN.GBK GBK
zh_CN.UTF-8 UTF-8
zh_CN GB2312
zh_HK.UTF-8 UTF-8

最后就 

sudo locale-gen
#或者
dpkg-reconfigure

还要记得修改用户的配置，增加用户使用的字符集

export TZ='Asia/Shanghai'
export LANG=zh_CN.UTF-8

如果是Windows下的话，还需要修改SSH客户端的字符编码。