随着AI时代的快速发展，对存储技术提出了更高的要求，尤其是在大规模、高性能和低成本方面，为了应对这些挑战，百度沧海·存储打造了一个高度可复用的统一技术底座，我们在这个统一的技术底座中解决了云存储的共性问题，让上层存储系统的迭代更高效，首先，我将简要介绍一下百度沧海·存储统一技术底座的整体架构，这个统...

  大家好，我是飘渺，今天我们来了解一些关于软件设计文档的基础知识，这样你在学习后面的具体案例时，就能更加清楚地理解文档是基于什么方式来组织的了，首先，请你设想这样一个场景，如果公司安排你做架构师，要你在项目开发前期进行软件架构设计，你该如何开展你的工作，如何输出你的工作成果，如何确定你的设计是否满足用...

  大型玩家的扩展技巧正变得越来越重要，这导致了架构反转的激增，你是否曾经想过，世界上最大的互联网和社交媒体公司是如何如此快速地向如此多的用户提供算法内容的，想想像TikTok这样的公司需要做些什么才能为人们提供源源不断的个性化视频片段，他们拥有某个模型来代表用户，他们需要使用这个模型从数十亿个备选视频...

  在业务初期，为了控制投入成本，许多公司通常只使用一个机房提供服务，但随着业务的发展和流量的增长，对服务响应速度和可用性的要求逐渐提高，这时就需要考虑在不同地区部署服务，以提供更好的用户体验，这也是互联网公司在流量增长阶段的必经之路，我之前所在的公司连续三年流量不断增长，有一次，机房的对外网络突然断开...

  MavenWrapper是一个用于在多环境，如不同的开发机器、持续集成服务器等，中提供一致的Maven版本经验的工具，它允许项目包含一个特定版本的Maven可执行文件，这样即使用户本地没有安装Maven，也可以使用项目指定的Maven版本来构建项目，...。...

  一个坚实的软件架构基础，是开发创新且复杂的软件的关键，这些软件不仅要符合市场需求，还要为用户解决实际问题，你是否曾参与过一些项目，这些项目在最初的几轮开发后似乎就无法继续迭代了，这正是软件架构发挥作用的地方，它的重要性显而易见，在软件行业中，当人们谈论，软件，时，他们通常指的是软件系统内部设计中最关...

  探索更高效的模型架构，MoE是最具代表性的方向之一，MoE架构的主要优势是利用稀疏激活的性质，将大模型拆解成若干功能模块，每次计算仅激活其中一小部分，而保持其余模块不被使用，从而大大降低了模型的计算与学习成本，能够在同等计算量的情况下产生性能优势，然而，此前像MoE等利用稀疏激活性质的研究工作，都认...

  构建完整的架构边界的成本是很高的，需要为系统设计双向多态的边界接口、输入和输出数据结构以及所有必要的依赖管理，以便将两个部分隔离为可独立编译和部署的组件，这涉及大量的工作和后期维护，许多情况下，一个好的架构师可能会认为设置这样的边界的开支太高，但仍然希望为可能需要的边界留下位置，这种预判性设计常常被...

  前言随着云计算、大数据和移动互联网技术的迅猛发展，数据已成为企业核心资产，确保数据的安全性和可靠性成为企业关注的重点问题，对象存储技术以其高可用性、良好的扩展性和成本效益，逐渐成为企业数据存储的首选，然而，面对硬件故障、自然灾害等潜在风险，对象存储的数据安全面临挑战，为此，对象存储多中心多活容灾技术...

  序刚进入第三方支付行业时，还是网关模式，也就是直接去银行扣钱，没有余额的概念，过了几年跳槽到另外一家第三方支付公司，开始有余额账户，有了余额，就有充值、转账、提现，简称充转提，通常意义上的资金产品，可是后来出现了微信支付与支付宝之间的被喻为，偷袭珍珠港，事件，当时支付宝占了第三方支付的绝大部分份额，...

  1，隔离策略，Resilience4j使用令牌桶算法实现对并发请求的隔离，Bulkhead会维护一个固定数量的令牌，每个令牌代表一个处理资源的许可，当请求到达时，Bulkhead会尝试获取令牌，如果获取成功，则允许请求继续执行；如果获取失败，则请求会被拒绝或延迟处理，...。...

  本文回顾了多模态LLM，视觉，语言模型，近一年来的模型架构演进，对其中有代表性的工作进行了精炼总结，截止2024.04，持续更新ing...ASurveyonMultimodalLargeLanguageModels，arxiv.org，abs，2306.13549，Awesome，Multimod...

  自2017年被提出以来，Transformer已经成为AI大模型的主流架构，一直稳居语言建模方面C位，但随着模型规模的扩展和需要处理的序列不断变长，Transformer的局限性也逐渐凸显，一个很明显的缺陷是，Transformer模型中自注意力机制的计算量会随着上下文长度的增加呈平方级增长，几个月...

  谷歌又放大招了，发布下一代Transformer模型Infini，Transformer，Infini，Transformer引入了一种有效的方法，可以将基于Transformer的大型语言模型，LLM，扩展到无限长输入，而不增加内存和计算需求，使用该技术，研究者成功将一个1B的模型上下文长度提高到...

  大模型技术论文不断，每个月总会新增上千篇，本专栏精选论文重点解读，主题还是围绕着行业实践和工程量产，若在某个环节出现卡点，可以回到大模型必备腔调或者LLM背后的基础模型重新阅读，而最新科技，Mamba，xLSTM，KAN，则提供了大模型领域最新技术跟踪，若对于具身智能感兴趣的请移步具身智能专栏，技术...