Go 源码之 gorm 并发安全机制 clone
一、简介
gorm 框架已经成为国内 go 开发者操作 mysql 数据库的必备 orm 框架,那么在使用过程中,你有没有好奇过,gorm 是如何处理并发安全的呢?
全局 gorm db 只初始化一次,全局并发使用,为什么不会出现并发安全呢?
在处理并发安全问题上,一般来说就两种处理机制:
-
1.使用锁机制
-
2.深拷贝,解决数据竞态问题(没有竞争不就没有并发安全喽….)
gorm 框架在处理并发安全问题上采用的就是方法 2,通过深拷贝,解决并发安全问题
二、并发机制:Clone 字段的设计
gorm DB 结构中有一个 clone 字段,该字段的设置就是用来控制并发安全的
(一) clone = 1
表示一个全新配置、全新statement(sql条件)的db
func main(){
// 创建一个db句柄,此时db.clone=1
db, err := gorm.Open(mysql.New(mysql.Config{
}), &gorm.Config{})
}
func Open(dialector Dialector, opts ...Option) (db *DB, err error) {
config := &Config{}
.............
db = &DB{Config: config, clone: 1}
.............
return
}
(二)clone = 0
表示db的statement将会持续复用
func main(){
db,_:=gorm.Open(...) // db.clone = 1
db.Where(...) // 这里db的statement条件时不会生效的,db.clone=1
db=db.Where(...) // db.clone = 0, 内部调用了db.getInstance(),可以理解为返回了db.statement的副本,并发安全
}
调用db.Table,Where,Or,Not等链式操作方法,都会调用此方法
// 传入的db的clone:
// 1.clone为0:
// 则返回原先的db,后续的db操作会影响原先的db,clone为原先的clone的值为0
// 2.clone为1:
// 返回一个带有db.Config的新db,且Statement为全新创建的,且clone值为0,后续的操作不会影响原先的db
// 3.clone为2:
// 返回一个带有db.Config的新db,且Statement为原先db的Statement,且clone值为0,后续的操作不会影响原先的db
func (db *DB) getInstance() *DB {
if db.clone > 0 { // clone=1 or clone=2,修改db的一些参数,然后返回副本
tx := &DB{Config: db.Config, Error: db.Error} // 复用db的配置创建新的db,db.clone=0
if db.clone == 1 {
// clone with new statement
tx.Statement = &Statement{
DB: tx,
ConnPool: db.Statement.ConnPool,
Context: db.Statement.Context,
Clauses: map[string]clause.Clause{},
Vars: make([]interface{}, 0, 8),
}
} else {
// db.clone=2,则复杂db的statement
// with clone statement
tx.Statement = db.Statement.clone()
tx.Statement.DB = tx
}
return tx
}
// db.clone = 0,则直接返回当前db
return db
}
// 代码简化
func (db *DB) getInstance() *DB {
switch db.clone:
case 0:
return db
case 1:
return newStatement() // 一个全新的,空白的Statement
case 2:
return db.cloneStatement() // 将之前的Statement复制一份
}
(三)clone = 2
则创建新的 db,并且复用之前旧 db 的 配置和Statement
func main(){
db,_:=gorm.Open(...) // db.clone = 1
db.Transaction(func(tx *gorm.DB) error {} // 内部调用 fc(db.Session(&Session{})) 返回db且db.clone=2
db.Session(&gorm.Session{NewDB: true, Context: context.Background()}) // 带NewDB: true,则返回的db为全新的db,全新的statement的
}
通过 clone 字段的值不同,来决定是是否深拷贝 db 句柄,所以但是你使用 db:=GlobalDB.where(….)之后, 实际上这里的 db 是一个全新的、独立的 db,自然不会有并发安全问题
工具
// CloneDB 只会复制 db.Statement
func CloneDB(db *gorm.DB) *gorm.DB {
// return db.WithContext(db.Statement.Context)
return db.WithContext(context.Background())
}
// NewDB 完全新创建一个 DB
func NewDB(db *gorm.DB) *gorm.DB {
return db.Session(&gorm.Session{NewDB: true, Context: context.Background()})
// return db.Session(&gorm.Session{NewDB: true, Context: db.Statement.Context})
}
// CleanDB 使用原有 context 创建一个新的 DB
func CleanDB(db *gorm.DB) *gorm.DB {
// return db.Session(&gorm.Session{NewDB: true, Context: context.Background()})
}
疑问
- gorm创建的全局句柄在使用过程中为什么不会出现statement(where等)混乱
// 创建全局DB句柄,此时的clone=1
var db=dao.NewDevInventoryDBHelper().DB
func TestGorm(t *testing.T) {
db.Where("name=?","******") //clone=1会返回的新的db,如果不用新的变量接受,该where不做落在原的db上,
db=db.Where("name=?","******") // clone=1,会返回一个新的db,但是会覆盖原先全局的db,导致后续的db操作都会带上此where的条件
db2:=db.Where("name=?","******") // 该操作合理,返回新的db的clone=0,后续的操作可以不需要用变量再接收,也不会影响全局的db
db2.Where("name=?","******")
}
- 官方所说的协程安全?https://gorm.io/zh_CN/docs/method_chaining.html
## Where 内部会调用db.getInstance()
## 此时的db的clone为 1
db, err := gorm.Open(sqlite.Open("test.db"), &gorm.Config{})
// 安全的使用新初始化的 *gorm.DB
for i := 0; i < 100; i++ {
## 每次返回的db都是clone为0的新db,所以是安全的
go db.Where(...).First(&user)
}
## 此tx的clone=0
tx := db.Where("name = ?", "jinzhu")
// 不安全的复用 Statement
for i := 0; i < 100; i++ {
## 此处的tx的clone为0,调用where之后会复用tx,导致所有的where都坐落在同一个tx上
go tx.Where(...).First(&user)
}
ctx, _ := context.WithTimeout(context.Background(), time.Second)
## db.Session(&Session{Context: ctx}) 将clone重置为2
ctxDB := db.WithContext(ctx)
// 在 `新建会话方法` 之后是安全的
for i := 0; i < 100; i++ {
## 每次返回的db都是clone为0的新db,所以是安全的
go ctxDB.Where(...).First(&user)
}
ctx, _ := context.WithTimeout(context.Background(), time.Second)
ctxDB := db.Where("name = ?", "jinzhu").WithContext(ctx)
// 在 `新建会话方法` 之后是安全的
for i := 0; i < 100; i++ {
go ctxDB.Where(...).First(&user) // `name = 'jinzhu'` 会应用到查询中
}
tx := db.Where("name = ?", "jinzhu").Session(&gorm.Session{})
// 在 `新建会话方法` 之后是安全的
for i := 0; i < 100; i++ {
go tx.Where(...).First(&user) // `name = 'jinzhu'` 会应用到查询中
}
总结
clone | 描述 | 设置 |
---|---|---|
1 | 创建 DB 的默认值,表示 全新 DB,但是复用 | db.Session如果NewDb=true时,则clone=1 |
2 | 则创建新的 db,并且复用之前旧 db 的 配置和Statement | db.Session如果NewDb=false时,则clone=2 |
0 | 则直接复用原 db | db.Where 等链式调用 |
-
clone = 1
表示全新的db句柄;open创建时,clone默认=1,db.Session如果NewDb=true时,clone=1
-
clone = 0
表示db的statement将会持续复用,调用db=db.Where(),db.clone=0
-
clone = 2
则创建新的 db,并且复用之前旧 db 的 配置和Statement
clone的设计目的:并发安全,我们都知道解决并发安全方法有:加锁解决,避免数据冲突;
gorm通过设计clone的值来避免并发操作db,如在构建where条件时,内部通过调用db.getInstance()返回db的副本,从而避免并发操作