白话MySQL分库分表
为什么要分库分表? 当然是数据库有了性能瓶颈,IO或CPU瓶颈会导致数据库的活跃连接数增加,可能会达到可承受的最大活跃连接数阈值,导致应用服务无连接可用,造成灾难性后果。可以先从代码、SQL、索引、硬件条件(比如CPU、内存、磁盘IO、网络带宽)等方面优化,如果这几项没有太多优化空间,就该考虑分库分表了。 分库可以提高MySQL集群的并发能力和数据容量,分表可以降低单表的数据量,提高...
为什么要分库分表? 当然是数据库有了性能瓶颈,IO或CPU瓶颈会导致数据库的活跃连接数增加,可能会达到可承受的最大活跃连接数阈值,导致应用服务无连接可用,造成灾难性后果。可以先从代码、SQL、索引、硬件条件(比如CPU、内存、磁盘IO、网络带宽)等方面优化,如果这几项没有太多优化空间,就该考虑分库分表了。 分库可以提高MySQL集群的并发能力和数据容量,分表可以降低单表的数据量,提高...
序言 引子 毕玄曾在QCon的围炉夜话中分享——09年之前,阿里的技术团队都处于陪(业务)跑状态。 大型互联网公司都一定经历了业务初创阶段,再到业务稳定阶段的过程。公司在不同阶段,技术团队的重心会有所不同。初创阶段更多重视业务,业务稳定阶段则会更重视技术本身。 业务初创时期,面临的主要问题是把业务转变成真正的系统工程实现,这时的系统架构并不需要设计的非常复杂,因为还没有外部真实流...
序言 数据分片(Shard),是分治模式在存储领域的落地。在高并发、大数据量场景下,数据分片是让服务达到高性能、高可用的常用方案之一。 日常用的存储中间件基本上都有数据分片的实现,比如, ES中可以把一个索引分成多个分片。每个ES节点可以容纳多个分片,但分片数固定,还有副本,扩容迁移需重建索引; RedisCluster中分成多个节点,每个节点管理一部分哈希槽。...
序言 德鲁克管理准则揭示,效能是做正确的事,效率是正确地做事。研发效能必须以系统视角融合目标校准(价值有效性)、流动优化(端到端交付)、能力沉淀(知识复用)三重维度,避免陷入个体效率的局部优化陷阱。 研发效能 = ∑(个人效率) × 流程润滑度 × 目标对齐度 × 知识复用率。如同交响乐团——个人演奏技巧(效率)是基础,但指挥协同(效能)才能成就完美乐章。 个人效率,...
Overview BGE,BAAI General Embedding,北京智源人工智能研究院(BAAI)在2023年推出的Bert类通用文本嵌入模型。 BGE论文中,提出了C-PACK,一个中文Embedding领域的资源包,C-Pack包括三个关键资源:C-MTEB、C-MTP和C-TEM。 C-MTEB为中文Embedding领域的benchmark; C-MTP为中文语料...
Overview BERT BERT,全称Bidirectional Encoder Representations from Transformers,翻译成中文,就是Transformer双向编码器特征。 BERT本质上是一个两段式的NLP模型。 第一个阶段叫做Pre-training,跟WordEmbedding类似,利用现有无标记的语料训练一个语言模型。 第二个阶段叫做F...
本文译自 The Illustrated Transformer Overview Attention is All You Need论文原文中介绍,Transformer模型,完全摒弃了RNN和CNN的先验假设,它是一个只使用了Attention机制的Seq2Seq模型,通过Attention机制连接两部分——Encoder和Decoder完成Seq2Seq任务。 Transfo...
定位 意图识别,是自然语言处理(NLP)的一个分支领域——自然语言理解(NLU)/口语理解(SLU)。 NLP、NLU、NLG之间的关系(图片来自网络) 理解——对话系统场景+意图识别 举个例子 举个正常对话的例子, >> 用户:帮我推荐一家餐厅 >> Bot:几个人? >> 用户:2个人 (Bot赶紧拿出本本记下) >> Bot:好的,...
序言 一款好用、可靠的ID生成器,是业务稳定运行的基石。 场景 假如你的业务系统是微服务分布式架构,但数据库是单库单表,没有分库分表就意味着服务单库并发不高,且单库数据量也不大。 业务需求:在单库单表场景下,生成并使用全局唯一ID(比如可用作短链ID、订单ID、交易单ID、消息流水ID、调查问卷ID、用户ID、聊天会话ID等等),要求ID业务可读,Long整型且按天相对递增(不需要绝对...
缘起 2021年,造车新势力集中入局,成为跨界造车集中爆发年,新能源汽车从电动化过渡到智能化阶段,本质是政策引导、市场机遇与技术演进的多重共振结果。问界、极越、小米等企业通过生态整合、技术复用和资本杠杆,在新能源渗透率快速提升期(2021年约13%)抢占战略高地,为后续竞争奠定基础。这一现象印证了中国智能电动车产业从“政策驱动”向“市场驱动”转型的关键节点特征。2021年更多是行业从政策驱动...