영어가 안되는 관계로 여러 한글 커뮤니티 사이트에 질문을 올렸지만 답을 해 주는 사람이 없어서, 이게 맞는지 모르겠지만 혹시나 나 같이 고민을 하는 사람을 위해....
제가 사용한 방법은 꼼수 이니 더 좋은 방법이 있으신 분은 알려 주시기 바랍니다.

1 먼저 접속하는 사용자의 디바이스 정보를 알아야 했습니다.
iphone, ipad 는 userAgent 정보에 iphone, ipad 라는 문자가 들어가 있으나 안드로이드 기기의 경우
갤럭시S 같은 명칭이 없고 android 란 단어만 있었습니다.

2 애플 계열의 경우 rel="apple-touch-icon" 을 사용했습니다. apple-touch-icon-precomposed
도 사용할수 있음, 차이점은 이미지 모양, 아이폰 이미지의 경우 자동으로 줄여 줘서 114*114
아이패드는 72*72를 사용하였습니다.
안드로이드 폰의 경우 apple-touch-icon 이 적용 되지 않고 rel="shortcut icon"
favicon 을 사용 하였습니다.

3 갤럭시S, 갤럭시탭의 경우 웹 페이지에서 북마크를 할 경우 박스안에 아이콘이 생기는 현상이
있었는데 이건 os 정책인거 같습니다.

4 아이폰, 아이패드, 갤럭시S, 갤럭시탭, 기타 안드로이드 폰에서 문제 없이 잘 되었습니다.

// 접속 핸드폰 정보
var userAgent = navigator.userAgent.toLowerCase();
// 모바일 홈페이지 바로가기 링크 생성
if(userAgent.match('iphone')) {
document.write('')
} else if(userAgent.match('ipad')) {
document.write('')
} else if(userAgent.match('ipod')) {
document.write('')
} else if(userAgent.match('android')) {
document.write('')
} else {
document.write('')
}

출처 : okky gt1003님 글입니다.
해당 페이지 바로가기