post Image
Golang による文字エンコーディング変換

文字エンコーディング変換に関してはあちこちに記事があるのだが,微妙に古い気がするので,メモとして書き記しておく。

Go 言語の文字エンコーディング

Go 言語では Unicode が既定となっている。文字の単位である runeint32 でおそらく UTF-32 相当だし,コード上の文字エンコーディングも UTF-8 である(「その4」参照)。

したがって UTF-8 以外の文字エンコーディングを扱う場合は何らかの変換処理を挟む必要がある。そのためのパッケージが transform である。またエンコーディングについても各種そろっていて,日本語の場合は encoding/japanese パッケージを使う。 encoding/japanese パッケージでは Shift-JIS, EUC-JP, ISO-2022-JP を扱える。

encoding/japanese/all.go
// All is a list of all defined encodings in this package.
var All = []encoding.Encoding{EUCJP, ISO2022JP, ShiftJIS}

パッケージの導入

日本語が必要なだけなら golang.org/x/text/encoding/japanesego get すれば全てインストールされる。

C:>go get -v golang.org/x/text/encoding/japanese
Fetching https://golang.org/x/text/encoding/japanese?go-get=1
Parsing meta tags from https://golang.org/x/text/encoding/japanese?go-get=1 (status code 200)
get "golang.org/x/text/encoding/japanese": found meta tag main.metaImport{Prefix:"golang.org/x/text", VCS:"git", RepoRoot:"https://go.googlesource.com/text"} at https://golang.org/x/text/encoding/japanese?go-get=1
get "golang.org/x/text/encoding/japanese": verifying non-authoritative meta tag
Fetching https://golang.org/x/text?go-get=1
Parsing meta tags from https://golang.org/x/text?go-get=1 (status code 200)
golang.org/x/text (download)
golang.org/x/text/transform
golang.org/x/text/encoding/internal/identifier
golang.org/x/text/encoding
golang.org/x/text/encoding/internal
golang.org/x/text/encoding/japanese

(かつてパッケージの場所は code.google.com/p/go.text/transform および code.google.com/p/go.text/encoding/japanese だったが,ここの repository は今は存在しないので注意)

変換ロジック(サンプルコード)

変換ロジックのサンプルを以下に示す。

conversion.go
package main

import (
    "bufio"
    "fmt"
    "io"

    "golang.org/x/text/encoding/japanese"
    "golang.org/x/text/transform"
)

//Conversion
func Conversion(inStream io.Reader, outStream io.Writer) error {
    //read from stream (Shift-JIS to UTF-8)
    scanner := bufio.NewScanner(transform.NewReader(inStream, japanese.ShiftJIS.NewDecoder()))
    list := make([]string, 0)
    for scanner.Scan() {
        list = append(list, scanner.Text())
    }
    if err := scanner.Err(); err != nil {
        return err
    }
    //write to stream (UTF-8 to EUC-JP)
    writer := bufio.NewWriter(transform.NewWriter(outStream, japanese.EUCJP.NewEncoder()))
    for _, line := range list {
        _, err = fmt.Fprintln(writer, line)
        if err != nil {
            return err
        }
    }
    return writer.Flush()
}

Shift-JIS ─(Decoder)→ UTF-8 ─(Encoder)→ EUC-JP の手順で変換していることがお分かりであろうか。

このように文字エンコーディング変換は stream 処理として行う。サンプルコードはテキストファイルを想定しているが, stream として扱えるならファイル以外でも使えるはずである。

コメントでファイルを丸ごと一気に読み込んで変換するコード例を紹介していただきました。こちらもどうぞ。

文字エンコーディング変換に関する注意点

Shift-JIS/EUC-JP と UTF-8/32 ではベースとなっている文字集合(文字エンコーディングではない)が異なる。 Shift-JIS/EUC-JP の文字集合は基本的に JIS 規格だが UTF-8/32 は Unicode であり,両者は非対称の関係である。このため,今回のような異なる文字集合を跨ぐ変換を行うと変換が正しく行われない場合もあり得る。

更に困ったことに,歴史的経緯(便利な言葉だw)から Shift-JIS や EUC-JP の実装にはいくつかバリエーションがあるため,実装間の差異が問題になる場合もある。

更に更に言えば,汎用機などは旧JIS+外字の構成になっていることが多く,このような需要に応えるなら独自の変換ロジックを開発するしかない。

変換ロジックの別解

これまで述べた方法でうまく変換ができない場合は djimenez/iconv-go パッケージを使う手もある。ただし, djimenez/iconv-go パッケージのビルドには libiconv および glibc が必要である(クロス環境では注意)。このパッケージを使うことで iconv 相当の処理が可能になる。

(別の変換パッケージとして mahonia を紹介しているところがいくつか見られたが,ドキュメントを見る限り DEPRECATED となっていて使えないようだ。また repository にもアクセスできない)

ブックマーク


『 Go 』Article List
Category List

Eye Catch Image
Read More

Androidに関する現役のエンジニアのノウハウ・トレンドのトピックなど技術的な情報を提供しています。コード・プログラムの丁寧な解説をはじめ、初心者にもわかりやすいように写真や動画を多く使用しています。

Eye Catch Image
Read More

AWSに関する現役のエンジニアのノウハウ・トレンドのトピックなど技術的な情報を提供しています。コード・プログラムの丁寧な解説をはじめ、初心者にもわかりやすいように写真や動画を多く使用しています。

Eye Catch Image
Read More

Bitcoinに関する現役のエンジニアのノウハウ・トレンドのトピックなど技術的な情報を提供しています。コード・プログラムの丁寧な解説をはじめ、初心者にもわかりやすいように写真や動画を多く使用しています。

Eye Catch Image
Read More

CentOSに関する現役のエンジニアのノウハウ・トレンドのトピックなど技術的な情報を提供しています。コード・プログラムの丁寧な解説をはじめ、初心者にもわかりやすいように写真や動画を多く使用しています。

Eye Catch Image
Read More

dockerに関する現役のエンジニアのノウハウ・トレンドのトピックなど技術的な情報を提供しています。コード・プログラムの丁寧な解説をはじめ、初心者にもわかりやすいように写真や動画を多く使用しています。

Eye Catch Image
Read More

GitHubに関する現役のエンジニアのノウハウ・トレンドのトピックなど技術的な情報を提供しています。コード・プログラムの丁寧な解説をはじめ、初心者にもわかりやすいように写真や動画を多く使用しています。

Eye Catch Image
Read More

Goに関する現役のエンジニアのノウハウ・トレンドのトピックなど技術的な情報を提供しています。コード・プログラムの丁寧な解説をはじめ、初心者にもわかりやすいように写真や動画を多く使用しています。

Eye Catch Image
Read More

Javaに関する現役のエンジニアのノウハウ・トレンドのトピックなど技術的な情報を提供しています。コード・プログラムの丁寧な解説をはじめ、初心者にもわかりやすいように写真や動画を多く使用しています。

Eye Catch Image
Read More

JavaScriptに関する現役のエンジニアのノウハウ・トレンドのトピックなど技術的な情報を提供しています。コード・プログラムの丁寧な解説をはじめ、初心者にもわかりやすいように写真や動画を多く使用しています。

Eye Catch Image
Read More

Laravelに関する現役のエンジニアのノウハウ・トレンドのトピックなど技術的な情報を提供しています。コード・プログラムの丁寧な解説をはじめ、初心者にもわかりやすいように写真や動画を多く使用しています。

Eye Catch Image
Read More

Pythonに関する現役のエンジニアのノウハウ・トレンドのトピックなど技術的な情報を提供しています。コード・プログラムの丁寧な解説をはじめ、初心者にもわかりやすいように写真や動画を多く使用しています。

Eye Catch Image
Read More

Rubyに関する現役のエンジニアのノウハウ・トレンドのトピックなど技術的な情報を提供しています。コード・プログラムの丁寧な解説をはじめ、初心者にもわかりやすいように写真や動画を多く使用しています。

Eye Catch Image
Read More

Scalaに関する現役のエンジニアのノウハウ・トレンドのトピックなど技術的な情報を提供しています。コード・プログラムの丁寧な解説をはじめ、初心者にもわかりやすいように写真や動画を多く使用しています。

Eye Catch Image
Read More

Swiftに関する現役のエンジニアのノウハウ・トレンドのトピックなど技術的な情報を提供しています。コード・プログラムの丁寧な解説をはじめ、初心者にもわかりやすいように写真や動画を多く使用しています。

Eye Catch Image
Read More

Unityに関する現役のエンジニアのノウハウ・トレンドのトピックなど技術的な情報を提供しています。コード・プログラムの丁寧な解説をはじめ、初心者にもわかりやすいように写真や動画を多く使用しています。

Eye Catch Image
Read More

Vue.jsに関する現役のエンジニアのノウハウ・トレンドのトピックなど技術的な情報を提供しています。コード・プログラムの丁寧な解説をはじめ、初心者にもわかりやすいように写真や動画を多く使用しています。

Eye Catch Image
Read More

Wordpressに関する現役のエンジニアのノウハウ・トレンドのトピックなど技術的な情報を提供しています。コード・プログラムの丁寧な解説をはじめ、初心者にもわかりやすいように写真や動画を多く使用しています。

Eye Catch Image
Read More

機械学習に関する現役のエンジニアのノウハウ・トレンドのトピックなど技術的な情報を提供しています。コード・プログラムの丁寧な解説をはじめ、初心者にもわかりやすいように写真や動画を多く使用しています。