mplayer(gmlayer 동일)에서 한글로 된 자막을 보려면 설정을 다음과 같이 한다.
gmplayer 기준으로 설명하겠다. 설정 창이 따로 있어서 설정하기 쉽기 때문이다. ㅡㅡ;

Preferences -> Font 에서 :
Font 파일을 한글이 지원되는 폰트로 설정한다.
- 일반적으로 /usr/share/fonts 아래에 있다. 은폰트건, 백묵폰트건...
Encoding은 Unicode로 설정한다.

Subtitle & OSD 에서 :
Encoding을 Korean charset (CP949) 로 설정한다.

이렇게 하면 한글 자막을 볼 수 있다.
설정이 맞지 않으면 콘솔로 SUB: error recoding line (1) 에러가 뜬다.