卓越飞翔博客卓越飞翔博客

卓越飞翔 - 您值得收藏的技术分享站
技术文章34675本站已运行393

MySQL与GORM并发写入导致错误

mysql与gorm并发写入导致错误

MySQL与GORM的并发写入问题一直是开发者们头疼的难题。在高并发的情况下,多个线程同时写入数据库可能导致数据不一致或者错误的结果。php小编百草为你解析该问题的原因和解决方案,帮助你避免并发写入带来的困扰。通过合理的设计和优化,可以有效地解决MySQL与GORM的并发写入问题,保证数据的一致性和准确性。

问题内容

我在 golang 中实现了一个复杂的 csv 导入脚本。 我使用 workerpool 实现。在该工作池中,工作人员运行 1000 个小型 csv 文件,对产品进行分类、标记和品牌化。 它们都写入同一个数据库表。到目前为止一切顺利。

我面临的问题是,如果我选择了 2 个以上的工作人员,进程会随机崩溃并显示以下消息

工作流程是

foreach (csv) {
 workerPool.submit(csv)
}

func worker(csv) {
 foreach (line) {
   import(line)
 }
}

import(line) {
 product = get(line)
 product.category = determine_category(product)
 product.brand = determine_brand(product)
 save(brand)
 product.tags = determine_tags(product)
 //and after all
 save(product)
}

我尝试将 save() 调用包装在事务中,但没有帮助。

现在我有以下问题:

  1. mysql 是否适合同时保存到 1 个表?
  2. 如果需要事务来完成此任务,应该在哪里设置?
  3. go sql 驱动程序(错误总是发生在 packet.go:1102 中)是否适合执行此操作?
  4. 有人可以帮助我吗(也许可以雇佣几个小时)?

我完全被困住了。如果有帮助的话我也可以分享源代码。但我首先想知道你猜这是我的代码还是一般问题。

解决方法

在每个 goroutine(或线程,对于使用线程的语言)中打开一个新的数据库连接。

MySQL 的协议是有状态的,这意味着如果多个 goroutine 尝试使用同一个连接,请求和响应会变得非常混乱。

尝试在 goroutine 之间共享任何其他类型的有状态协议连接时,您也会遇到同样的问题。

例如ftp也是一个有状态的协议,这可能更容易理解。客户端 goroutine 可能会发送类似“获取文件 x”的消息,响应应该是一系列包含该文件内容的消息。如果另一个 goroutine 在请求/响应正在进行时尝试使用相同的连接,则两个客户端都会感到困惑。第二个 goroutine 将读取属于它未请求的文件的数据包。第一个请求该文件的 goroutine 会发现它所期望的一些数据包已被读取。

同样,MySQL 的协议也不支持多个客户端 goroutine 共享单个连接。

卓越飞翔博客
上一篇: 为什么Go Channel的缓冲区不能正确限制写入/读取?
下一篇: 返回列表
留言与评论(共有 0 条评论)
   
验证码:
隐藏边栏