2012-24 / PHP でエンコードの違う HTML を上手く捌く方法
マッシュアップの検索エンジンを使って遊んでる研究してるのだけど、現状shift_jisやeuc-jp等の日本語エンコードが扱えなかったので対応させるにはどうすればいいかな、と悩んでた。要件としては、
- コードはPHP
- URLからHTMLヘッダーのkeywordsとdecriptionをUTF-8で出力する
- 日本語扱えればいいしShift-JIS,EUC-JPくらいまで対応出来ればおk ISO-2022-JPあたりも
最初はページ全部貰って来てエンコード判定スクリプトに突っ込めばええやんとか思ったのだけど処理速度考えるとちょっと辛い。
なのでHTMLヘッダを get_headers(url)
で貰ってきて、その中の Content-Type を見ることにした。
本当はUTF-8をわざわざ書くまでも無いのだけど、コード判定の結果をフォント変えて出力したかったので。
これで7割以上は対処できるようになったけど、一部リダイレクトとか text/html;
以降が読み込まれずまだ完全ではない。
読み込めなかったページに関しては判定スクリプトで回して対処すればええと思うけど、そこまで重要な課題では無いので気楽に考えとこう。