{ "componentChunkName": "component---src-templates-post-js", "path": "/firestoren-write/", "result": {"data":{"ghostPost":{"id":"Ghost__Post__6103f3e53986b000013a44b3","title":"Firestoreの書き込み速度の検証","slug":"firestoren-write","featured":false,"feature_image":null,"excerpt":"結論\n1つのcollectionに大量のdocumentを一括書き込みする際、500件のバッチ書き込みを20並列で実行したところ、以下の時間で完了した。\n\n\n\nFirestoreの書き込み制限\nFirestoreは書き込み時にいくつかの制限があります。詳しくは\nhttps://firebase.google.com/docs/firestore/quotas\n[https://firebase.google.com/docs/firestore/quotas?hl=ja] にあります。\n\n今回気になったのは4番目の制限です。ある条件下では1つのcollectionに対するdocumentの書き込みは 1秒間に500件が上限、という事です。\n\n※2022/05/11 追記\n\n制限について、以下のように変更されていました。「できなくは無いがパフォーマンスが悪くなるかも」という閾値のようです。\n\n\n\nあるシステムのパフォーマンス調査をしていて、この上限のせいで遅くなってるかも？という話になりました。書き込み速度について調べていると以下の記事を見つけました。\n\nFirestoreに負荷試験(L","custom_excerpt":null,"visibility":"public","created_at_pretty":"30 July, 2021","published_at_pretty":"31 July, 2020","updated_at_pretty":"11 May, 2022","created_at":"2021-07-30T21:43:17.000+09:00","published_at":"2020-08-01T00:00:00.000+09:00","updated_at":"2022-05-11T10:18:02.000+09:00","meta_title":null,"meta_description":null,"og_description":null,"og_image":null,"og_title":null,"twitter_description":null,"twitter_image":null,"twitter_title":null,"authors":[{"name":"Yu Takahashi","slug":"yu","bio":null,"profile_image":null,"twitter":null,"facebook":null,"website":null}],"primary_author":{"name":"Yu Takahashi","slug":"yu","bio":null,"profile_image":null,"twitter":null,"facebook":null,"website":null},"primary_tag":{"name":"Firestore","slug":"firestore","description":null,"feature_image":null,"meta_description":null,"meta_title":null,"visibility":"public"},"tags":[{"name":"Firestore","slug":"firestore","description":null,"feature_image":null,"meta_description":null,"meta_title":null,"visibility":"public"},{"name":"golang","slug":"golang","description":null,"feature_image":null,"meta_description":null,"meta_title":null,"visibility":"public"}],"plaintext":"結論\n1つのcollectionに大量のdocumentを一括書き込みする際、500件のバッチ書き込みを20並列で実行したところ、以下の時間で完了した。\n\n\n\nFirestoreの書き込み制限\nFirestoreは書き込み時にいくつかの制限があります。詳しくは\nhttps://firebase.google.com/docs/firestore/quotas\n[https://firebase.google.com/docs/firestore/quotas?hl=ja] にあります。\n\n今回気になったのは4番目の制限です。ある条件下では1つのcollectionに対するdocumentの書き込みは 1秒間に500件が上限、という事です。\n\n※2022/05/11 追記\n\n制限について、以下のように変更されていました。「できなくは無いがパフォーマンスが悪くなるかも」という閾値のようです。\n\n\n\nあるシステムのパフォーマンス調査をしていて、この上限のせいで遅くなってるかも？という話になりました。書き込み速度について調べていると以下の記事を見つけました。\n\nFirestoreに負荷試験(Loadroid)してみた+補足 - Qiitaこちらの記事は，Firebase.yebisu\n#1のLTに補足解説を加えたものになります．発表スライド当日お話できなかった，実施する際の注意などもありますので，ごさしゅーください． tl;dr\n高頻度のドキュメント作成（自...QiitaYatima\n[https://qiita.com/Yatima/items/2abb633191080ee1447c?utm_content=buffera86fe&utm_medium=social&utm_source=facebook.com&utm_campaign=buffer]\nこの記事では10秒間で70,000件のdocumentの登録に成功されたようです。負荷を少しずつ上げていけば 500/s\nの制限を超えられるみたいです。少しずつ負荷を上げるとスケールできることは以下に書いてあります。\n\nCloud Firestore のベスト プラクティス | FirebaseFirebase\n[https://firebase.google.com/docs/firestore/best-practices?hl=ja#ramping_up_traffic]\nどのような条件の時に 500/s の制限に引っかかるのか気になったので試してみることにしました。\n\n環境\n * Google Compute Engine、e2-medium (2 vCPU、4GB メモリ)\n * Ubuntu 20.04 LTS\n * Docker 19.03.13\n * Golang 1.14.9\n * cloud.google.com/go/firestore 1.3.0\n\n負荷を徐々に上げてみる\n上の記事を参考に、以下のような処理を書いて試してみました。\n\n500件のバッチ書き込みを実行\n=> 500件のバッチ書き込みを2並列で実行\n=> 500件のバッチ書き込みを4並列で実行\n=> 500件のバッチ書き込みを8並列で実行\n=> (10,000件まで繰り返す)\n\nコード全体は以下になります。3つの変数（一度のバッチ書き込みの件数、登録件数、初回書き込み時の並列数）を変えられるように実装しました。\n\npackage main import ( \"context\" \"flag\" \"fmt\" \"log\" \"os\" \"strconv\" \"sync\" \"time\" \n\"cloud.google.com/go/firestore\" ) var ( size = flag.Int(\"size\", 0, \"chunk size\") \ntotal = flag.Int(\"total\", 0, \"total count\") multi = flag.Int(\"multi\", 0, \"multi\"\n) ) func main() { flag.Parse() ctx := context.Background() client, err := \nfirestore.NewClient(ctx, os.Getenv(\"PROJECT_ID\")) if err != nil { log.Fatal(err) \n} data := generateDocumentData(client) fmt.Println(\"create\") exec(ctx, client, \ndata, create) fmt.Println(\"update\") exec(ctx, client, data, update) // exec(ctx,\nclient, data, updateIncrement) // exec(ctx, client, data, updateArrayUnion) //\nexec(ctx, client, data, updateServerTimestamp) fmt.Println(\"read\") read(ctx, \nclient.Collection(\"articles\")) // fmt.Println(\"delete\") // exec(ctx, client,\ndata, delete) } func panicIf(err error) { if err != nil { panic(err) } } func \ngenerateDocumentData(client *firestore.Client) []map[*firestore.DocumentRef]map[\nstring]interface{} { limit := *size totalCount := *total count := totalCount/\nlimit + 1 data := make([]map[*firestore.DocumentRef]map[string]interface{}, 0, \ncount) col := client.Collection(\"articles\") for j := 0; j < count; j++ { min := \nlimit * j max := limit * (j + 1) if max > totalCount { max = totalCount } if min \n == max { break } results := make(map[*firestore.DocumentRef]map[string]\ninterface{}, limit) for i := min; i < max; i++ { doc := col.NewDoc() results[doc\n] = map[string]interface{}{ \"title\": \"title_\" + strconv.FormatInt(int64(i), 10), \n\"tags\": []string{\"tag_1\", \"tag_2\", \"tag_3\"}, \"author_id\": \"author_id_\" + strconv\n.FormatInt(int64(i), 10), \"view_count\": i, \"is_published\": true, \"text\": \n\"0123456789012345678901234567890123456789012345678901234567890123456789012345678901234567890123456789\"\n, // \"update_timestamp\": firestore.ServerTimestamp, } } data = append(data, \nresults) } return data } func exec(ctx context.Context, client *firestore.Client\n, data []map[*firestore.DocumentRef]map[string]interface{}, execFunc func(ctx \ncontext.Context, client *firestore.Client, col *firestore.CollectionRef, \narticles map[*firestore.DocumentRef]map[string]interface{})) { col := client.\nCollection(\"articles\") fmt.Println(\"start\") start := time.Now() multi := *multi \ndataLen := len(data) current := 0 for { wg := &sync.WaitGroup{} for i := 0; i < \nmulti; i++ { articles := data[current] wg.Add(1) go func() { execFunc(ctx, \nclient, col, articles) wg.Done() }() current++ if dataLen == current { break } } \nwg.Wait() if dataLen == current { break } multi *= 2 } fmt.Println(time.Now().\nSub(start)) fmt.Println(\"end\") last, err := col.OrderBy(\"view_count\", firestore.\nDesc).Limit(1).Documents(ctx).GetAll() panicIf(err) if len(last) > 0 { fmt.\nPrintln(last[0].Data()[\"view_count\"]) } } func create(ctx context.Context, \nclient *firestore.Client, col *firestore.CollectionRef, articles map[*firestore.\nDocumentRef]map[string]interface{}) { batch := client.Batch() for doc, article \n:= range articles { batch.Create(doc, article) } _, err := batch.Commit(ctx) \npanicIf(err) } func update(ctx context.Context, client *firestore.Client, col *\nfirestore.CollectionRef, articles map[*firestore.DocumentRef]map[string]\ninterface{}) { batch := client.Batch() for col, article := range articles { \nbatch.Update(col, []firestore.Update{ {Path: \"title\", Value: article[\"title\"].(\nstring) + \"_update\"}, {Path: \"view_count\", Value: article[\"view_count\"].(int) + \n10000}, }) } _, err := batch.Commit(ctx) panicIf(err) } func updateIncrement(ctx \ncontext.Context, client *firestore.Client, col *firestore.CollectionRef, \narticles map[*firestore.DocumentRef]map[string]interface{}) { batch := client.\nBatch() for col := range articles { batch.Update(col, []firestore.Update{ {Path: \n\"view_count\", Value: firestore.Increment(10000)}, }) } _, err := batch.Commit(\nctx) panicIf(err) } func updateArrayUnion(ctx context.Context, client *\nfirestore.Client, col *firestore.CollectionRef, articles map[*firestore.\nDocumentRef]map[string]interface{}) { batch := client.Batch() for col := range \narticles { batch.Update(col, []firestore.Update{ {Path: \"tags\", Value: firestore\n.ArrayUnion(\"tag_3\", \"tag_4\")}, }) } _, err := batch.Commit(ctx) panicIf(err) } \nfunc updateServerTimestamp(ctx context.Context, client *firestore.Client, col *\nfirestore.CollectionRef, articles map[*firestore.DocumentRef]map[string]\ninterface{}) { batch := client.Batch() for col := range articles { batch.Update(\ncol, []firestore.Update{ {Path: \"update_timestamp\", Value: firestore.\nServerTimestamp}, }) } _, err := batch.Commit(ctx) panicIf(err) } func delete(\nctx context.Context, client *firestore.Client, col *firestore.CollectionRef, \narticles map[*firestore.DocumentRef]map[string]interface{}) { batch := client.\nBatch() for col := range articles { batch.Delete(col) } _, err := batch.Commit(\nctx) panicIf(err) } func read(ctx context.Context, col *firestore.CollectionRef)\n{ fmt.Println(\"start\") start := time.Now() last, err := col.Where(\"view_count\", \n\">=\", 10000).Documents(ctx).GetAll() fmt.Println(time.Now().Sub(start)) fmt.\nPrintln(\"end\") fmt.Println(\"count: \", len(last)) panicIf(err) } view raw\n[https://gist.github.com/yutakahashi114/f2452c02c5bf762daa39afeb04afe5eb/raw/e24aec530289ded32f30e290845d22e3a0bfe0b3/firestore_limit_test.go]\n firestore_limit_test.go\n[https://gist.github.com/yutakahashi114/f2452c02c5bf762daa39afeb04afe5eb#file-firestore_limit_test-go]\nhosted with ❤ by GitHub [https://github.com] \n3つの変数のうち登録件数は10,000件で固定し、一度のバッチ書き込みの件数、初回書き込み時の並列数を適当に変えて時間を測ってみました。結果は以下になります。\n\n\n\n500/s を大きく超えて最大 9407/s\n出てました。実はそんなに気にしなくても大丈夫なのでしょうか。連続で試行したので既に十分スケールしていたのかもしれません。\n\n500/s に引っかかるのはどんな条件？\n公式ドキュメントには条件として以下のように書かれています。\n\n> Maximum write rate to a collection in which documents contain sequential values\nin an indexed field\n\n\nIncrement 関数を使った更新が影響するのかと思い試しました。ついでにArrayUnion や ServerTimestamp\nも試してみました。登録件数は10,000件で固定です。結果は以下になります。\n\n\n\n殆ど変わりませんでした。逆にどうやったら引っかかるのでしょうか？\n\nそもそも負荷を徐々にあげる必要があるのか？\n色々試したくなってきたので、最初から負荷を高めで固定してみました。\n\nfunc exec2(ctx context.Context, client *firestore.Client, data []map[*firestore.\nDocumentRef]map[string]interface{}, execFunc func(ctx context.Context, client *\nfirestore.Client, col *firestore.CollectionRef, articles map[*firestore.\nDocumentRef]map[string]interface{})) { col := client.Collection(\"articles\") fmt.\nPrintln(\"start\") start := time.Now() multi := *multi limit := make(chan struct\n{}, multi) wg := &sync.WaitGroup{} for _, articles := range data { limit <- \nstruct{}{} wg.Add(1) go func(articles map[*firestore.DocumentRef]map[string]\ninterface{}) { execFunc(ctx, client, col, articles) <-limit wg.Done() }(articles\n) } wg.Wait() fmt.Println(time.Now().Sub(start)) fmt.Println(\"end\") last, err := \n col.OrderBy(\"view_count\", firestore.Desc).Limit(1).Documents(ctx).GetAll() \npanicIf(err) if len(last) > 0 { fmt.Println(last[0].Data()[\"view_count\"]) } } \nview raw\n[https://gist.github.com/yutakahashi114/93c8561b788bf638c7f0e13a88f20d51/raw/1f690cca8034fcd76bf436d5b931625a8f7e9b6b/firestore_limit_test_2.go]\n firestore_limit_test_2.go\n[https://gist.github.com/yutakahashi114/93c8561b788bf638c7f0e13a88f20d51#file-firestore_limit_test_2-go]\nhosted with ❤ by GitHub [https://github.com] \n単純な並列化に変更しました。こちらも登録件数は10,000件で固定しています。結果は以下になります。\n\n\n\nさらに速くなりました。本当に計測方法が合っているのか不安になってきました。一応更新後に件数を確認し、更新されていることを確認しました。こちらも連続で試行していたので、既に十分スケールしていたのかもしれません。\n\n以後の計測は負荷を徐々に上げず、単純な並列化で試しています。\n\n削除の速度も測りました。あまり重視していないので1条件だけです。(最初から測定しておけばよかった）\n\n\n\n更新より少し遅いくらいでした。\n\n最大何件まで成功するか\n登録件数を変えていくつか試してみました。効果があるか分かりませんが、1条件ごとに2,3時間おいて試しました。結果は以下になります。\n\n\n\n40,000件は成功、50,000件は登録中にエラーとなりました。エラーが起きた後に確認しましたが、49,000件くらいまでは登録できていました。\n\nリクエスト数を2倍にしてみる\n最後にインスタンスをもう一台立て、2つのインスタンスでほぼ同時に実行してみました。\n\n\n\n40,000件 * 2 までは遅くなっているものの成功、50,000件 * 2 の更新で両方エラーになりました。思ったよりだいぶ耐えました。\n\nまとめ\n予想以上に書き込み可能件数が多かったです。自分で調べておいて何ですが合っているか不安なので、どこか間違ってたら教えていただけると非常に助かります。","html":"

結論

\n

1つのcollectionに大量のdocumentを一括書き込みする際、500件のバッチ書き込みを20並列で実行したところ、以下の時間で完了した。

\n

\"----------2022-05-11-10.11.13\"

\n

Firestoreの書き込み制限

\n

Firestoreは書き込み時にいくつかの制限があります。詳しくはhttps://firebase.google.com/docs/firestore/quotas にあります。

\n

今回気になったのは4番目の制限です。ある条件下では1つのcollectionに対するdocumentの書き込みは 1秒間に500件が上限、という事です。

\n

※2022/05/11 追記

\n

制限について、以下のように変更されていました。「できなくは無いがパフォーマンスが悪くなるかも」という閾値のようです。

\n

\"----------2022-05-11-10.14.04\"

\n

あるシステムのパフォーマンス調査をしていて、この上限のせいで遅くなってるかも？という話になりました。書き込み速度について調べていると以下の記事を見つけました。

\n
Firestoreに負荷試験(Loadroid)してみた+補足 - Qiita
こちらの記事は，Firebase.yebisu #1のLTに補足解説を加えたものになります．発表スライド当日お話できなかった，実施する際の注意などもありますので，ごさしゅーください． tl;dr 高頻度のドキュメント作成（自...
QiitaYatima

この記事では10秒間で70,000件のdocumentの登録に成功されたようです。負荷を少しずつ上げていけば 500/s の制限を超えられるみたいです。少しずつ負荷を上げるとスケールできることは以下に書いてあります。

Cloud Firestore のベスト プラクティス | Firebase
Firebase

どのような条件の時に 500/s の制限に引っかかるのか気になったので試してみることにしました。

\n

環境

\n\n

負荷を徐々に上げてみる

\n

上の記事を参考に、以下のような処理を書いて試してみました。

\n

500件のバッチ書き込みを実行
\n=> 500件のバッチ書き込みを2並列で実行
\n=> 500件のバッチ書き込みを4並列で実行
\n=> 500件のバッチ書き込みを8並列で実行
\n=> (10,000件まで繰り返す)

\n

コード全体は以下になります。3つの変数（一度のバッチ書き込みの件数、登録件数、初回書き込み時の並列数）を変えられるように実装しました。

\n\n\n
\n
\n
\n
\n
\n \n
\n\n \n\n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n
package main
\n
import (
\t"context"
\t"flag"
\t"fmt"
\t"log"
\t"os"
\t"strconv"
\t"sync"
\t"time"
\n
\t"cloud.google.com/go/firestore"
)
\n
var (
\tsize = flag.Int("size", 0, "chunk size")
\ttotal = flag.Int("total", 0, "total count")
\tmulti = flag.Int("multi", 0, "multi")
)
\n
func main() {
\tflag.Parse()
\n
\tctx := context.Background()
\n
\tclient, err := firestore.NewClient(ctx, os.Getenv("PROJECT_ID"))
\tif err != nil {
\t\tlog.Fatal(err)
\t}
\n
\tdata := generateDocumentData(client)
\n
\tfmt.Println("create")
\texec(ctx, client, data, create)
\n
\tfmt.Println("update")
\texec(ctx, client, data, update)
\t// exec(ctx, client, data, updateIncrement)
\t// exec(ctx, client, data, updateArrayUnion)
\t// exec(ctx, client, data, updateServerTimestamp)
\n
\tfmt.Println("read")
\tread(ctx, client.Collection("articles"))
\n
\t// fmt.Println("delete")
\t// exec(ctx, client, data, delete)
}
\n
func panicIf(err error) {
\tif err != nil {
\t\tpanic(err)
\t}
}
\n
func generateDocumentData(client *firestore.Client) []map[*firestore.DocumentRef]map[string]interface{} {
\tlimit := *size
\ttotalCount := *total
\tcount := totalCount/limit + 1
\tdata := make([]map[*firestore.DocumentRef]map[string]interface{}, 0, count)
\tcol := client.Collection("articles")
\tfor j := 0; j < count; j++ {
\t\tmin := limit * j
\t\tmax := limit * (j + 1)
\t\tif max > totalCount {
\t\t\tmax = totalCount
\t\t}
\t\tif min == max {
\t\t\tbreak
\t\t}
\t\tresults := make(map[*firestore.DocumentRef]map[string]interface{}, limit)
\t\tfor i := min; i < max; i++ {
\t\t\tdoc := col.NewDoc()
\t\t\tresults[doc] = map[string]interface{}{
\t\t\t\t"title": "title_" + strconv.FormatInt(int64(i), 10),
\t\t\t\t"tags": []string{"tag_1", "tag_2", "tag_3"},
\t\t\t\t"author_id": "author_id_" + strconv.FormatInt(int64(i), 10),
\t\t\t\t"view_count": i,
\t\t\t\t"is_published": true,
\t\t\t\t"text": "0123456789012345678901234567890123456789012345678901234567890123456789012345678901234567890123456789",
\t\t\t\t// "update_timestamp": firestore.ServerTimestamp,
\t\t\t}
\t\t}
\t\tdata = append(data, results)
\t}
\treturn data
}
\n
func exec(ctx context.Context, client *firestore.Client, data []map[*firestore.DocumentRef]map[string]interface{},
\texecFunc func(ctx context.Context, client *firestore.Client, col *firestore.CollectionRef, articles map[*firestore.DocumentRef]map[string]interface{})) {
\tcol := client.Collection("articles")
\n
\tfmt.Println("start")
\tstart := time.Now()
\tmulti := *multi
\n
\tdataLen := len(data)
\tcurrent := 0
\tfor {
\t\twg := &sync.WaitGroup{}
\t\tfor i := 0; i < multi; i++ {
\t\t\tarticles := data[current]
\n
\t\t\twg.Add(1)
\t\t\tgo func() {
\t\t\t\texecFunc(ctx, client, col, articles)
\t\t\t\twg.Done()
\t\t\t}()
\t\t\tcurrent++
\t\t\tif dataLen == current {
\t\t\t\tbreak
\t\t\t}
\t\t}
\t\twg.Wait()
\t\tif dataLen == current {
\t\t\tbreak
\t\t}
\t\tmulti *= 2
\t}
\n
\tfmt.Println(time.Now().Sub(start))
\tfmt.Println("end")
\tlast, err := col.OrderBy("view_count", firestore.Desc).Limit(1).Documents(ctx).GetAll()
\tpanicIf(err)
\tif len(last) > 0 {
\t\tfmt.Println(last[0].Data()["view_count"])
\t}
}
\n
func create(ctx context.Context, client *firestore.Client, col *firestore.CollectionRef, articles map[*firestore.DocumentRef]map[string]interface{}) {
\tbatch := client.Batch()
\tfor doc, article := range articles {
\t\tbatch.Create(doc, article)
\t}
\t_, err := batch.Commit(ctx)
\tpanicIf(err)
}
\n
func update(ctx context.Context, client *firestore.Client, col *firestore.CollectionRef, articles map[*firestore.DocumentRef]map[string]interface{}) {
\tbatch := client.Batch()
\tfor col, article := range articles {
\t\tbatch.Update(col, []firestore.Update{
\t\t\t{Path: "title", Value: article["title"].(string) + "_update"},
\t\t\t{Path: "view_count", Value: article["view_count"].(int) + 10000},
\t\t})
\t}
\t_, err := batch.Commit(ctx)
\tpanicIf(err)
}
\n
func updateIncrement(ctx context.Context, client *firestore.Client, col *firestore.CollectionRef, articles map[*firestore.DocumentRef]map[string]interface{}) {
\tbatch := client.Batch()
\tfor col := range articles {
\t\tbatch.Update(col, []firestore.Update{
\t\t\t{Path: "view_count", Value: firestore.Increment(10000)},
\t\t})
\t}
\t_, err := batch.Commit(ctx)
\tpanicIf(err)
}
\n
func updateArrayUnion(ctx context.Context, client *firestore.Client, col *firestore.CollectionRef, articles map[*firestore.DocumentRef]map[string]interface{}) {
\tbatch := client.Batch()
\tfor col := range articles {
\t\tbatch.Update(col, []firestore.Update{
\t\t\t{Path: "tags", Value: firestore.ArrayUnion("tag_3", "tag_4")},
\t\t})
\t}
\t_, err := batch.Commit(ctx)
\tpanicIf(err)
}
\n
func updateServerTimestamp(ctx context.Context, client *firestore.Client, col *firestore.CollectionRef, articles map[*firestore.DocumentRef]map[string]interface{}) {
\tbatch := client.Batch()
\tfor col := range articles {
\t\tbatch.Update(col, []firestore.Update{
\t\t\t{Path: "update_timestamp", Value: firestore.ServerTimestamp},
\t\t})
\t}
\t_, err := batch.Commit(ctx)
\tpanicIf(err)
}
\n
func delete(ctx context.Context, client *firestore.Client, col *firestore.CollectionRef, articles map[*firestore.DocumentRef]map[string]interface{}) {
\tbatch := client.Batch()
\tfor col := range articles {
\t\tbatch.Delete(col)
\t}
\t_, err := batch.Commit(ctx)
\tpanicIf(err)
}
\n
func read(ctx context.Context, col *firestore.CollectionRef) {
\tfmt.Println("start")
\tstart := time.Now()
\tlast, err := col.Where("view_count", ">=", 10000).Documents(ctx).GetAll()
\tfmt.Println(time.Now().Sub(start))
\tfmt.Println("end")
\tfmt.Println("count: ", len(last))
\tpanicIf(err)
}
\n\n\n
\n\n
\n
\n\n
\n
\n view raw\n firestore_limit_test.go\n hosted with ❤ by GitHub\n
\n
\n
\n\n

3つの変数のうち登録件数は10,000件で固定し、一度のバッチ書き込みの件数、初回書き込み時の並列数を適当に変えて時間を測ってみました。結果は以下になります。

\n

\"----------2022-05-11-10.05.15\"

\n

500/s を大きく超えて最大 9407/s 出てました。実はそんなに気にしなくても大丈夫なのでしょうか。連続で試行したので既に十分スケールしていたのかもしれません。

\n

500/s に引っかかるのはどんな条件？

\n

公式ドキュメントには条件として以下のように書かれています。

\n
\n

Maximum write rate to a collection in which documents contain sequential values in an indexed field

\n
\n

Increment 関数を使った更新が影響するのかと思い試しました。ついでにArrayUnion や ServerTimestamp も試してみました。登録件数は10,000件で固定です。結果は以下になります。

\n

\"----------2022-05-11-10.05.58\"

\n

殆ど変わりませんでした。逆にどうやったら引っかかるのでしょうか？

\n

そもそも負荷を徐々にあげる必要があるのか？

\n

色々試したくなってきたので、最初から負荷を高めで固定してみました。

\n\n\n
\n
\n
\n
\n
\n \n
\n\n \n\n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n \n
\n
func exec2(ctx context.Context, client *firestore.Client, data []map[*firestore.DocumentRef]map[string]interface{},
\texecFunc func(ctx context.Context, client *firestore.Client, col *firestore.CollectionRef, articles map[*firestore.DocumentRef]map[string]interface{})) {
\tcol := client.Collection("articles")
\n
\tfmt.Println("start")
\tstart := time.Now()
\tmulti := *multi
\n
\tlimit := make(chan struct{}, multi)
\twg := &sync.WaitGroup{}
\tfor _, articles := range data {
\t\tlimit <- struct{}{}
\t\twg.Add(1)
\t\tgo func(articles map[*firestore.DocumentRef]map[string]interface{}) {
\t\t\texecFunc(ctx, client, col, articles)
\t\t\t<-limit
\t\t\twg.Done()
\t\t}(articles)
\t}
\twg.Wait()
\n
\tfmt.Println(time.Now().Sub(start))
\tfmt.Println("end")
\tlast, err := col.OrderBy("view_count", firestore.Desc).Limit(1).Documents(ctx).GetAll()
\tpanicIf(err)
\tif len(last) > 0 {
\t\tfmt.Println(last[0].Data()["view_count"])
\t}
}
\n\n\n
\n\n
\n
\n\n
\n
\n view raw\n firestore_limit_test_2.go\n hosted with ❤ by GitHub\n
\n
\n
\n\n

単純な並列化に変更しました。こちらも登録件数は10,000件で固定しています。結果は以下になります。

\n

\"----------2022-05-11-10.07.12\"

\n

さらに速くなりました。本当に計測方法が合っているのか不安になってきました。一応更新後に件数を確認し、更新されていることを確認しました。こちらも連続で試行していたので、既に十分スケールしていたのかもしれません。

\n

以後の計測は負荷を徐々に上げず、単純な並列化で試しています。

\n

削除の速度も測りました。あまり重視していないので1条件だけです。(最初から測定しておけばよかった）

\n

\"----------2022-05-11-10.08.29\"

\n

更新より少し遅いくらいでした。

\n

最大何件まで成功するか

\n

登録件数を変えていくつか試してみました。効果があるか分かりませんが、1条件ごとに2,3時間おいて試しました。結果は以下になります。

\n

\"----------2022-05-11-10.09.36\"

\n

40,000件は成功、50,000件は登録中にエラーとなりました。エラーが起きた後に確認しましたが、49,000件くらいまでは登録できていました。

\n

リクエスト数を2倍にしてみる

\n

最後にインスタンスをもう一台立て、2つのインスタンスでほぼ同時に実行してみました。

\n

\"----------2022-05-11-10.10.16\"

\n

40,000件 * 2 までは遅くなっているものの成功、50,000件 * 2 の更新で両方エラーになりました。思ったよりだいぶ耐えました。

\n

まとめ

\n

予想以上に書き込み可能件数が多かったです。自分で調べておいて何ですが合っているか不安なので、どこか間違ってたら教えていただけると非常に助かります。

\n","url":"https://ghost.tech.anti-pattern.co.jp/firestoren-write/","canonical_url":null,"uuid":"1bb8095f-9ae2-4b22-a946-ba8ce7183984","page":null,"codeinjection_foot":null,"codeinjection_head":null,"codeinjection_styles":null,"comment_id":"6103f3e53986b000013a44b3","reading_time":8}},"pageContext":{"slug":"firestoren-write"}}, "staticQueryHashes": ["176528973","2358152166","2561578252","2731221146","4145280475"]}