Golang SQL生成库 Squirrel 教程及源码阅读
可能看到标题会产生一个疑问:为啥不用ORM?使用ORM的好处显而易见,能够自动帮我们处理好面向对象和数据库之间的映射,Python中 我使用的是SQLAlchemy,但是Go语言目前没有一个比较好用的ORM,目前的ORM都是处于半自动形态的,而且还要处理零值和非零值时的坑, 想要省略某些字段要这样写,不想省略要那样写,很难记忆,因此还不如使用SQL这种已经是事实标准的,学一次就能用很久的东西。 在Go的项目中,我一般使用sqlx + squirrel 进行开发。首先我们来看一个简单的例子:
var db *sqlx.DB
// InsertPost 插入帖子
func InsertPost(p Post) (int64, error) {
now := time.Now()
sql, args, err := squirrel.Insert("post").Columns(
"created_at", "updated_at", "app", "user_id", "tag", "content", "comment_count",
).Values(now, now, p.App, p.UserID, p.Tag, p.Content, p.CommentCount).ToSql()
if err != nil {
return 0, err
}
return db.MustExec(sql, args...).LastInsertId()
}
首先我得承认,从写简单语句的复杂度上来看,上述代码比ORM还是要复杂一些,却又比裸写SQL好一些(可维护性好一些,不容易出
SQL注入问题)。squirrel的写法基本上与SQL一致,通过 ToSql()
调用,最后会返回3个参数:sql, args, err,sql是一条sql
语句,args是给sql用的参数,err表明是否出错。
接下来我们继续看几个简单的例子:
import sq "github.com/Masterminds/squirrel"
users := sq.Select("*").From("users").Join("emails USING (email_id)")
active := users.Where(sq.Eq{"deleted_at": nil})
sql, args, err := active.ToSql()
sql == "SELECT * FROM users JOIN emails USING (email_id) WHERE deleted_at IS NULL"
sql, args, err := sq.
Insert("users").Columns("name", "age").
Values("moe", 13).Values("larry", sq.Expr("? + 5", 12)).
ToSql()
sql == "INSERT INTO users (name,age) VALUES (?,?),(?,? + 5)"<Paste>
当然squirrel也不是没有缺点,那就是文档比较缺乏,不过一般来说,看看 项目 里 的测试用例,以及首页文档,基本用法都涵盖在其中了。
源码分析
首先想想,我们现在已经知道 squirrel 的用法了,那么如果你是这个项目的开发者,你会如何实现呢?看上面的例子我们就能想得出来,
答案很简单:记录这些链式函数调用,然后在最后 ToSQL()
这个函数调用的时候,把前面链式调用拼接成SQL。
我们就拿第一个例子,来跳到 squirrel 的源码里看看,分析代码的过程写在注释里:
sql, args, err := squirrel.Insert("post").Columns(
"created_at", "updated_at", "app", "user_id", "tag", "content", "comment_count",
).Values(now, now, p.App, p.UserID, p.Tag, p.Content, p.CommentCount).ToSql()
// 首先我们看 Insert
// Insert returns a new InsertBuilder with the given table name.
//
// See InsertBuilder.Into.
func Insert(into string) InsertBuilder {
return StatementBuilder.Insert(into)
}
// 继续跟进 StatementBuilder.Insert(into)
// Insert returns a InsertBuilder for this StatementBuilderType.
func (b StatementBuilderType) Insert(into string) InsertBuilder {
return InsertBuilder(b).Into(into)
}
// 继续跟进 InsertBuilder(b).Into(into)
// Into sets the INTO clause of the query.
func (b InsertBuilder) Into(from string) InsertBuilder {
return builder.Set(b, "Into", from).(InsertBuilder)
}
// 继续看看 InsertBuilder
type InsertBuilder builder.Builder
type Builder struct {
builderMap ps.Map
}
// ps.Map 来自 https://godoc.org/github.com/lann/ps,看其描述是 Fully persistent data structures. A persistent data
// structure is a data structure that always preserves the previous version of itself when it is modified. Such data
// structures are effectively immutable, as their operations do not update the structure in-place, but instead always
// yield a new structure.
// 也就是说ps这个库里提供的数据结构,总是会保持其历史内容,而不是直接覆盖。不过不知道目前引入这个库的作用,先按下不表。
// 继续看一下 .Columns 和 .Values,发现都是差不多的逻辑。
// 接下来我们来看看最重要的 `.ToSql()`
// ToSql builds the query into a SQL string and bound args.
func (b InsertBuilder) ToSql() (string, []interface{}, error) {
data := builder.GetStruct(b).(insertData)
return data.ToSql()
}
// 先看 builder.GetStruct
// GetStruct builds a new struct from the given registered builder.
// It will return nil if the given builder's type has not been registered with
// Register or RegisterValue.
//
// All values set on the builder with names that start with an uppercase letter
// (i.e. which would be exported if they were identifiers) are assigned to the
// corresponding exported fields of the struct.
//
// GetStruct will panic if any of these "exported" values are not assignable to
// their corresponding struct fields.
func GetStruct(builder interface{}) interface{} {
structVal := newBuilderStruct(reflect.TypeOf(builder))
if structVal == nil {
return nil
}
return scanStruct(builder, structVal)
}
// 所以是这样的,通过传入 InsertBuilder 这个类型,structVal := newBuilderStruct(reflect.TypeOf(builder)) 输出一个
// insertData 的struct实例,再通过 scanStruct(builder, structVal) 把之前我们存储的值放到struct里,这里就要使用到
// Go的反射能力了。
// 而之所以能通过 InsertBuilder 找到 insertData ,是因为 `insert.go` 里有这样几行代码:
func init() {
builder.Register(InsertBuilder{}, insertData{})
}
// 因此在这里我们就拿到了一个 `insertData` 的实例,我们之前链式调用的值都保存在里面了,我们来看看这个struct长啥样:
type insertData struct {
PlaceholderFormat PlaceholderFormat
RunWith BaseRunner
Prefixes exprs
Options []string
Into string
Columns []string
Values [][]interface{}
Suffixes exprs
Select *SelectBuilder
}
// 然后看看 `ToSql` 函数的实现:
func (d *insertData) ToSql() (sqlStr string, args []interface{}, err error) {
if len(d.Into) == 0 {
err = errors.New("insert statements must specify a table")
return
}
if len(d.Values) == 0 && d.Select == nil {
err = errors.New("insert statements must have at least one set of values or select clause")
return
}
sql := &bytes.Buffer{}
if len(d.Prefixes) > 0 {
args, _ = d.Prefixes.AppendToSql(sql, " ", args)
sql.WriteString(" ")
}
sql.WriteString("INSERT ")
if len(d.Options) > 0 {
sql.WriteString(strings.Join(d.Options, " "))
sql.WriteString(" ")
}
sql.WriteString("INTO ")
sql.WriteString(d.Into)
sql.WriteString(" ")
if len(d.Columns) > 0 {
sql.WriteString("(")
sql.WriteString(strings.Join(d.Columns, ","))
sql.WriteString(") ")
}
if d.Select != nil {
args, err = d.appendSelectToSQL(sql, args)
} else {
args, err = d.appendValuesToSQL(sql, args)
}
if err != nil {
return
}
if len(d.Suffixes) > 0 {
sql.WriteString(" ")
args, _ = d.Suffixes.AppendToSql(sql, " ", args)
}
sqlStr, err = d.PlaceholderFormat.ReplacePlaceholders(sql.String())
return
}
// 很明显,就是各种根据所输入的条件,进行SQL拼接了
至此,我们简单的看了一下一个insert在 squirrel 里是怎么实现的,其它的例如 select, update 等,逻辑都是类似的。通过阅读 这个库的代码,我们了解了要怎样去实现一个类似的SQL生成库。
参考资料:
更多文章
- socks5 协议详解
- zerotier简明教程
- 搞定面试中的系统设计题
- frp 源码阅读与分析(一):流程和概念
- 用peewee代替SQLAlchemy
- Golang(Go语言)中实现典型的fork调用
- DNSCrypt简明教程
- 一个Gunicorn worker数量引发的血案
- Golang validator使用教程
- Docker组件介绍(二):shim, docker-init和docker-proxy
- Docker组件介绍(一):runc和containerd
- 使用Go语言实现一个异步任务框架
- 协程(coroutine)简介 - 什么是协程?
- SQLAlchemy简明教程
- Go Module 简明教程