Keyboard shortcuts

Press or to navigate between chapters

Press S or / to search in the book

Press ? to show this help

Press Esc to hide this help

[インデックス 19627] ファイルの概要

このコミットは、Go言語のランタイムにおけるガベージコレクタ(GC)の性能改善を目的としています。具体的には、GCのビットマップ逆方向スキャン処理を削除することで、GCの一時停止時間とCPU時間を削減し、全体的なパフォーマンスを向上させています。

コミット

commit 03f2189a1b20a5140191d51fc660422bc172f2b5
Author: Dmitriy Vyukov <dvyukov@google.com>
Date:   Fri Jun 27 18:19:02 2014 -0700

    runtime: make garbage collector faster by deleting code again
    Remove GC bitmap backward scanning.
    This was already done once in https://golang.org/cl/5530074/
    Still makes GC a bit faster.
    On the garbage benchmark, before:
            gc-pause-one=237345195
            gc-pause-total=4746903
            cputime=32427775
            time=32458208
    after:
            gc-pause-one=235484019
            gc-pause-total=4709680
            cputime=31861965
            time=31877772
    Also prepares mgc0.c for future changes.
    
    R=golang-codereviews, khr, khr
    CC=golang-codereviews, rsc
    https://golang.org/cl/105380043

GitHub上でのコミットページへのリンク

https://github.com/golang/go/commit/03f2189a1b20a5140191d51fc660422bc172f2b5

元コミット内容

このコミットの元々の内容は、Goランタイムのガベージコレクタを高速化するために、GCビットマップの逆方向スキャンを再度削除するというものです。以前にも同様の変更(https://golang.org/cl/5530074/)が行われていますが、このコミットでもさらにGCの高速化が図られています。ベンチマーク結果として、gc-pause-one(単一GCポーズ時間)、gc-pause-total(GCポーズ合計時間)、cputime(CPU時間)、time(実時間)のいずれも改善が見られます。また、mgc0.cファイルが将来の変更に備えて準備されることも示唆されています。

変更の背景

Go言語のガベージコレクタは、アプリケーションの実行中に不要になったメモリを自動的に解放する重要なコンポーネントです。GCの効率は、Goアプリケーションのパフォーマンスに直接影響します。特に、GCが実行される際に発生する「一時停止(pause)」時間は、アプリケーションの応答性に大きな影響を与える可能性があります。

このコミットの背景には、GCの一時停止時間をさらに短縮し、全体的なGCのオーバーヘッドを削減するという継続的な取り組みがあります。コミットメッセージに「deleting code again」とあるように、GCビットマップの逆方向スキャンは以前にも削除された経緯があり、その後のGoランタイムの進化の中で、この処理が再び不要または非効率と判断された可能性があります。

GoのGCは、オブジェクトグラフを走査して到達可能なオブジェクトをマークし、到達不能なオブジェクトを解放するマーク&スイープアルゴリズムを基本としています。このプロセスにおいて、メモリ上のオブジェクトのレイアウトやポインタの位置を効率的に特定するために「GCビットマップ」が使用されます。ビットマップは、メモリ領域内のどの位置にポインタが存在するかを示すメタデータとして機能します。

逆方向スキャンは、特定のメモリ位置からオブジェクトの開始位置を特定するために使用されていた可能性があります。しかし、Goランタイムのメモリ管理戦略やGCアルゴリズムの改善により、この逆方向スキャンが不要になった、あるいはより効率的な代替手段が導入されたため、削除されることになったと考えられます。

前提知識の解説

ガベージコレクタ (GC)

ガベージコレクタは、プログラムが動的に割り当てたメモリのうち、もはやプログラムから到達できない(参照されていない)メモリ領域を自動的に解放するシステムです。これにより、プログラマは手動でのメモリ管理から解放され、メモリリークのリスクを低減できます。GoのGCは、並行(concurrent)かつ低遅延(low-latency)な設計が特徴です。

マーク&スイープ (Mark and Sweep)

GoのGCが採用している基本的なアルゴリズムの一つです。

  1. マークフェーズ (Mark Phase): GCは、プログラムが現在使用しているすべてのオブジェクト(ルートオブジェクトから到達可能なオブジェクト)を特定し、「マーク」します。Goでは、このフェーズの一部がアプリケーションの実行と並行して行われます(並行マーク)。
  2. スイープフェーズ (Sweep Phase): マークされなかったオブジェクト(到達不能なオブジェクト)は不要なメモリとして識別され、解放されます。

GCビットマップ (GC Bitmap)

Goランタイムは、メモリ上のオブジェクトの構造に関する情報を効率的に管理するためにGCビットマップを使用します。これは、特定のメモリ領域(スパン)内の各ワードがポインタであるかどうかを示すビットの配列です。GCがオブジェクトをスキャンする際、このビットマップを参照することで、どの部分がポインタであり、さらに走査する必要があるかを迅速に判断できます。これにより、GCはオブジェクトの内部構造を詳細に解析することなく、ポインタを効率的に追跡できます。

mgc0.c

mgc0.cは、Goランタイムの初期のバージョン(Go 1.2以前など)において、ガベージコレクタのコアロジックの一部を実装していたC言語のソースファイルです。GoのGCは、時間の経過とともに進化し、その実装は主にGo言語で書かれるようになりました(例: src/runtime/mgc.go, src/runtime/mgcmark.go)。このコミットが2014年のものであることを考えると、当時のGoランタイムではまだC言語で書かれたGCコンポーネントが重要な役割を担っていたことがわかります。

bitAllocatedbitBlockBoundary

これらはGCビットマップ内で使用されるフラグ(ビット)であると推測されます。

  • bitAllocated: そのメモリ領域がオブジェクトとして割り当てられていることを示すビット。
  • bitBlockBoundary: メモリブロックの境界を示すビット。GCがメモリをスキャンする際に、オブジェクトの開始位置やブロックの区切りを識別するために使用されます。

技術的詳細

このコミットの主要な変更点は、src/pkg/runtime/mgc0.cファイルから、markonly関数とflushptrbuf関数内の特定のループ構造を削除したことです。これらのループは、GCビットマップを逆方向にスキャンして、オブジェクトの開始位置やブロック境界を特定しようとしていました。

具体的には、以下のコードブロックが削除されています。

markonly関数内:

	// Pointing just past the beginning?
	// Scan backward a little to find a block boundary.
	for(j=shift; j-->0; ) {
		if(((xbits>>j) & (bitAllocated|bitBlockBoundary)) != 0) {
			shift = j;
			bits = xbits>>shift;
			if(CollectStats)
				runtime·xadd64(&gcstats.markonly.foundword, 1);
			goto found;
		}
	}

flushptrbuf関数内:

		// Pointing just past the beginning?
		// Scan backward a little to find a block boundary.
		for(j=shift; j-->0; ) {
			if(((xbits>>j) & (bitAllocated|bitBlockBoundary)) != 0) {
				obj = (byte*)obj - (shift-j)*PtrSize;
				shift = j;
				bits = xbits>>shift;
				if(CollectStats)
					runtime·xadd64(&gcstats.flushptrbuf.foundword, 1);
				goto found;
			}
		}

これらのコードは、GCがポインタを処理する際に、現在のポインタがオブジェクトの途中を指している可能性がある場合に、そのオブジェクトの先頭(ブロック境界)を見つけるために逆方向にビットマップを走査していました。j-->0というループ条件は、jが0になるまでデクリメントしながらループを回すことを意味し、逆方向へのスキャンを示唆しています。

この逆方向スキャンが削除された理由はいくつか考えられます。

  1. メモリレイアウトの最適化: Goランタイムのメモリ割り当て戦略やオブジェクトの配置方法が改善され、GCがポインタを処理する際に、常にオブジェクトの先頭を直接参照できるようになり、逆方向スキャンが不要になった。
  2. GCアルゴリズムの変更: GCのマークフェーズやスキャンロジックが根本的に変更され、オブジェクトの境界を特定するためのより効率的な方法が導入された。例えば、オブジェクトのメタデータに直接サイズ情報が含まれるようになった、あるいは順方向スキャンで十分な情報が得られるようになった、など。
  3. 性能ボトルネックの解消: 逆方向スキャンが特定のシナリオで性能ボトルネックとなっていたため、その処理を削除することでGCのオーバーヘッドを削減した。コミットメッセージのベンチマーク結果がこの仮説を裏付けています。

この変更により、GCは不要なスキャン処理をスキップできるようになり、結果としてGCの一時停止時間とCPU使用率が削減され、全体的なアプリケーションのパフォーマンスが向上しました。

コアとなるコードの変更箇所

変更はsrc/pkg/runtime/mgc0.cファイルに集中しています。

  • markonly関数: 27行の削除(298行目から315行目にかけての18行と、270行目の変数宣言からjの削除)
  • flushptrbuf関数: 13行の削除(496行目から513行目にかけての19行と、424行目の変数宣言からjの削除)

具体的には、markonly関数とflushptrbuf関数内の、for(j=shift; j-->0; )で始まる逆方向スキャンを行うループとその関連コードが削除されています。また、それに伴い、これらの関数内の変数宣言からjが削除されています。

コアとなるコードの解説

削除されたコードは、GCがメモリ上のポインタを処理する際に、そのポインタが指すメモリ領域がどのオブジェクトに属するかを特定するための補助的なロジックでした。

markonly関数は、GCのマークフェーズにおいて、特定のオブジェクトが既にマークされているか、あるいはマークする必要があるかを判断する際に使用される可能性があります。flushptrbuf関数は、GCがスキャン中に見つけたポインタを一時的にバッファリングし、後でそれらのポインタが指すオブジェクトをマークするために使用される可能性があります。

削除されたループは、以下のような状況を処理しようとしていたと考えられます。

  • GCがポインタを検出したが、そのポインタがオブジェクトの先頭ではなく、オブジェクトの内部を指している場合。
  • このような場合、GCはビットマップを逆方向にスキャンして、bitAllocatedまたはbitBlockBoundaryフラグが設定されている場所(つまり、オブジェクトの先頭またはブロックの開始点)を見つけようとしていました。

この逆方向スキャンが削除されたということは、GoランタイムのGCが、ポインタを処理する際に常にオブジェクトの先頭を直接特定できるようになったか、あるいはオブジェクトの境界を特定するためのより効率的なメカニズムが導入されたことを強く示唆しています。これにより、不要なスキャン処理が削減され、GCの効率が向上しました。

関連リンク

  • Go言語のガベージコレクタに関する公式ドキュメントやブログ記事:
    • The Go Blog: Go's high-performance garbage collector: https://go.dev/blog/go15gc (このコミットより後のGo 1.5でのGC改善に関する記事ですが、Go GCの進化を理解する上で参考になります)
  • 以前の関連コミット: https://golang.org/cl/5530074/ (このコミットで言及されている、以前の逆方向スキャン削除の変更)
  • Go言語のソースコードリポジトリ: https://github.com/golang/go

参考にした情報源リンク

  • コミット情報: ./commit_data/19627.txt
  • GitHubコミットページ: https://github.com/golang/go/commit/03f2189a1b20a5140191d51fc660422bc172f2b5
  • Web検索結果: "Go runtime GC bitmap backward scanning mgc0.c" の検索結果 (Go GCの一般的な動作、ビットマップの役割、mgc0.cの歴史的役割に関する情報)
    • 特に、Go GCが並行マーク&スイープアルゴリズムを使用していること、GCビットマップがポインタの特定に用いられること、mgc0.cが古いGC実装の一部であったことなどが参考になりました。
  • Go言語のガベージコレクタに関する一般的な知識と概念。
  • C言語のポインタ操作とビット演算に関する一般的な知識。