使用 apollo-server 帮助你快速开发 GraphQL。
- GraphQL.js, apollo-server, koa, DataLoader —- API 层
PostgresSQL
,Redis
, ioredis, sequelize, lru-cache -- 存储- TypeScript, sequelize-typescript -- ts 支持
Joi
,consul
, node-consul, winston, sentry -- 校验,配置,日志与报警Docker
,docker-compose
,gitlab-CI
,traefik
,-- 部署kubernetes
.
├── config # 配置文件
│ ├── config.json # 自动生成,有 consul 拉取
│ ├── consul.ts # 关于 consul 拉取配置的配置文件
│ ├── db.json # 自动生成,由 consul 拉取
│ ├── index.ts # 导出 config.json
│ └── project.ts # 关于本项目的私有配置,将与 consul 中的私有配置合并
├── db # 关于 db
│ ├── index.ts # 关于数据库的配置以及日志 (sequelize)
│ ├── migrations/ # 关于数据库的迁移脚本
│ └── models/ # 关于数据库的 Model (typescript-sequelize)
├── lib # 关于 lib
│ ├── consul.ts # 关于 consul 的初始化
│ ├── error.ts # 异常的结构化与自定义异常
│ ├── logger.ts # 关于日志的配置 (winston)
│ ├── redis.ts # 关于 redis 的配置以及日志 (ioredis)
│ ├── sentry.ts # 关于 sentry 的配置以及初始化
│ └── session.ts # 关于 CLS 的控制
├── logs # 日志,自动生成
│ ├── api.log # graphql 的日志
│ ├── common.log # 通用日志
│ ├── db.log # 关于数据库 `SQL` 的日志
│ └── redis.log # 关于 redis 执行语句的日志
├── middlewares # KOA 中间件
│ ├── auth.ts # 认证,解析出 user
│ ├── context.ts # requestId,以及一些列上下文打进日志以及 Sentry
│ └── index.ts # 导出所有中间件
├── scripts # 脚本
│ └── pullConfig.ts # 使用 consul 拉取配置并自动生成配置至 config/
├── src # 关于 graphql 的一系列
│ ├── index.ts # graphql typeDefs & resolvers
│ ├── directives/ # graphql directives
│ ├── resolvers/ # graphql resolvers (Mutation & Query)
│ ├── scalars/ # graphql scalars
│ └── utils.ts # graphql 的辅助函数
├── Dockerfile # Dockerfile
├── docker-compose.yml # docker-compose
├── package-lock.json # pakcage-lock.json
├── package.json # package.json
├── tsconfig.json # 关于 ts 的配置
├── index.ts # 服务入口
└── type.ts # typescript 支持
consul
你需要它管理配置,如果没有,可以根据type.ts
中的AppConfig
补充 config.jsonsentry
你需要它上报异常,如果没有,可以先注释掉代码...postgres
你需要指定 database,用于生成 tableredis
git clone git@github.com:shfshanyue/apollo-server-starter.git
cd apollo-server-starter
npm run config # 拉取 consul 上的配置,如果没有,请使用 config.json 替代
npm run migrate # 迁移数据库,事先你需要指定 database
npm run dev
关于数据库的操作
npm run migrate:new # 生成新的迁移文件
npm run migrate # 执行迁移文件
npm run migrate:undo # 撤销执行的迁移文件
如下,在单文件中定义 ObjectType
与其在 Query
以及 Mutation
中对应的查询。并把 typeDef
与 resolver
集中管理。
// src/resolvers/Todo.ts
const typeDef = gql`
type Todo @sql {
id: ID!
}
extend type Query {
todos: [Todo!]
}
extend type Mutation {
createTodo: TODO!
}
`
const resolver: IResolverObject<any, AppContext> = {
Todo: {
user () {}
},
Query: {
todos () {}
},
Mutation: {
createTodo () {}
}
}
使用 @findOption
可以按需查询,并注入到 resolver
函数中的 info.attributes
字段
type Query {
users: [User!] @findOption
}
query USERS {
users {
id
name
}
}
function users ({}, {}, { models }, { attributes }: any) {
return models.User.findAll({
attributes
})
}
对列表添加 page
以及 pageSize
参数来进行分页
type User {
id: ID!
todos (
page: Int = 1
pageSize: Int = 10
): [Todo!] @findOption
}
query TODOS {
todos (page: 1, pageSize: 10) {
id
name
}
}
使用 dataloader-sequelize 解决数据库查询的 batch 问题
当使用以下查询时,会出现 N+1 查询问题
{
users (page: 1, pageSize: 3) {
id
todos {
id
name
}
}
}
如果不做优化,生成的 SQL
如下
select id from users limit 3
select id, name from todo where user_id = 1
select id, name from todo where user_id = 2
select id, name from todo where user_id = 3
而使用 dataloader
解决 N+1 问题后,会大大减少 SQL
语句的条数,生成的 SQL
如下
select id from users limit 3
select id, name, user_id from todo where user_id in (1, 2, 3)
注意 Batch 请求后需要返回
user_id
字段,为了重新分组
当有如下所示多级分页查询时,N+1 优化失效,所以应避免多级分页操作
此处只能在客户端避免多层分页查询,而当有恶意查询时会加大服务器压力。可以使用以下的 Hash Query 避免此类问题,同时也在生产环境禁掉
introspection
{
users (page: 1, pageSize: 3) {
id
todos (page: 1, pageSize: 3) {
id
name
}
}
}
select id from users limit 3
select id, name from todo where user_id = 1 limit 3
select id, name from todo where user_id = 2 limit 3
select id, name from todo where user_id = 3 limit 3
TODO 需要客户端配合
当 Query
越来越大时,http 所传输的请求体积越来越大,严重影响应用的性能,此时可以把 Query
映射成 hash
。
当请求体变小时,此时可以替代使用 GET
请求,方便缓存。
我发现掘金的 GraphQL Query 已由 ID 替代
project
代表本项目在 consul
中对应的 key
。项目将会拉取该 key
对应的配置并与本地的 config/project.ts
做 Object.assign
操作。
dependencies
代表本项目所依赖的配置,如数据库,缓存以及用户服务等的配置,项目将会在 consul
上拉取依赖配置。
项目最终生成的配置为 AppConfig
标识。
// config/consul.ts
export const project = 'todo'
export const dependencies = ['redis', 'pg']
使用 @auth
指令表示该资源受限,需要用户登录,roles
表示只有特定角色才能访问受限资源
directive @auth(
# USER, ADMIN 可以自定义
roles: [String]
) on FIELD_DEFINITION
type Query {
authInfo: Int @auth
}
以下是相关代码
// src/directives/auth.ts
function visitFieldDefinition (field: GraphQLField<any, AppContext>) {
const { resolve = defaultFieldResolver } = field
const { roles } = this.args
// const roles: UserRole[] = ['USER', 'ADMIN']
field.resolve = async (root, args, ctx, info) => {
if (!ctx.user) {
throw new AuthenticationError('Unauthorized')
}
if (roles && !roles.includes(ctx.user.role)) {
throw new ForbiddenError('Forbidden')
}
return resolve.call(this, root, args, ctx, info)
}
}
当用户认证成功时,检查其 token 有效期,如果剩余一半时间,则生成新的 token 并赋值到响应头中。
为 graphql
,sql
,redis
以及一些重要信息(如 user) 添加日志,并设置标签
// lib/logger.ts
export const apiLogger = createLogger('api')
export const dbLogger = createLogger('db')
export const redisLogger = createLogger('redis')
export const logger = createLogger('common')
为日志添加 requestId
方便追踪 bug 以及检测性能问题
// lib/logger.ts
const requestId = format((info) => {
info.requestId = session.get('requestId')
return info
})
结构化 API 异常信息,其中 extensions.code
代表异常错误码,方便调试以及前端使用。extensions.exception
代表原始异常,堆栈以及详细信息。注意在生产环境需要屏蔽掉 extensions.exception
$ curl 'https://todo.xiange.tech/graphql' -H 'Content-Type: application/json' --data-binary '{"query":"{\n dbError\n}"}'
{
"errors": [
{
"message": "column User.a does not exist",
"locations": [
{
"line": 2,
"column": 3
}
],
"path": [
"dbError"
],
"extensions": {
"code": "SequelizeDatabaseError",
"exception": {
"name": "SequelizeDatabaseError",
"original": {
"name": "error",
"length": 104,
"severity": "ERROR",
"code": "42703",
"position": "57",
"file": "parse_relation.c",
"line": "3293",
"routine": "errorMissingColumn",
"sql": "SELECT count(*) AS \"count\" FROM \"users\" AS \"User\" WHERE \"User\".\"a\" = 3;"
},
"sql": "SELECT count(*) AS \"count\" FROM \"users\" AS \"User\" WHERE \"User\".\"a\" = 3;",
"stacktrace": [
"SequelizeDatabaseError: column User.a does not exist",
" at Query.formatError (/code/node_modules/sequelize/lib/dialects/postgres/query.js:354:16)",
]
}
}
}
],
"data": {
"dbError": null
}
}
避免把原始异常以及堆栈信息暴露在生产环境
{
"errors": [
{
"message": "column User.a does not exist",
"locations": [
{
"line": 2,
"column": 3
}
],
"path": [
"dbError"
],
"extensions": {
"code": "SequelizeDatabaseError"
}
}
],
"data": {
"dbError": null
}
}
根据异常的 code
对异常进行严重等级分类,并上报监控系统。这里监控系统采用的 sentry
// lib/error.ts:formatError
let code: string = _.get(error, 'extensions.code', 'Error')
let info: any
let level = Severity.Error
if (isAxiosError(originalError)) {
code = `Request${originalError.code}`
} else if (isJoiValidationError(originalError)) {
code = 'JoiValidationError'
info = originalError.details
} else if (isSequelizeError(originalError)) {
code = originalError.name
if (isUniqueConstraintError(originalError)) {
info = originalError.fields
level = Severity.Warning
}
} else if (isApolloError(originalError)){
level = originalError.level || Severity.Warning
} else if (isError(originalError)) {
code = _.get(originalError, 'code', originalError.name)
level = Severity.Fatal
}
Sentry.withScope(scope => {
scope.setTag('code', code)
scope.setLevel(level)
scope.setExtras(formatError)
Sentry.captureException(originalError || error)
})
在 k8s
上根据健康检查监控应用状态,当应用发生异常时可以及时响应并解决
$ curl http://todo.xiange.tech/.well-known/apollo/server-health
{"status":"pass"}
通过 filebeat
把日志文件发送到 elk
日志系统,方便日后分析以及辅助 debug
在日志系统中监控 SQL 慢查询以及耗时 API 的日志,并实时邮件通知 (可以考虑钉钉)
使用 Joi 做参数校验
function createUser ({}, { name, email, password }, { models, utils }) {
Joi.assert(email, Joi.string().email())
}
function createTodo ({}, { todo }, { models, utils }) {
Joi.validate(todo, Joi.object().keys({
name: Joi.string().min(1),
}))
}
npm start
npm test
npm run dev