1、AI模型升级有妙招！废物利用让大语言模型更强大想象一下，如果能把你的旧手机变成最新的智能设备，是不是很酷，在AI领域，研究人员就实现了类似的魔法！他们提出了一种叫做upcycling的方法，可以将现有的大语言模型，LLM，升级成更强大的专家混合模型，MoE，这项技术不仅能提高模型性能，还能大幅节...

  传统RAGLLM预训练和微调一般都是基于公开的互联网数据，不可能包含公司内部私有数据，如果你问有关某公司的运营情况，直接基于模型参数生成的回答可能和胡说八道没什么两样，RAG，Retrieval，AugmentedGeneration，的思想就是将私有数据作为参考信息传递给LLM，这些私有数据除了作...

  作者，沈旸出品，技术栈，微信号，blog51cto，对于技术泡沫，大家可能最熟悉的就是Gartner的技术成熟度曲线图，过去几年确实出现了许多备受关注的技术，例如云计算、大数据、区块链和元宇宙，新技术让人激动，但很多企业在跟进这些技术时往往犹豫不决，担心不下注未来会被淘汰，也担心投入巨大但方向错误，...

  在前面的​​大模型参数的文章​​中讲了什么是大模型的参数，以及大模型为什么要训练；不过那个讲的比较抽象，这里就用一个更形象的例子来解释一下大模型的参数到底是什么，以及训练的原理，01、大模型和厨师从我们使用者的角度来说，大模型就是一个黑盒，它需要输入，然后给出一个输出，如下图就是大模型的黑盒模型，而...

  明白模型的类型，才能明白模型的应用，在学习机器学习的过程中，生成式模型和判别式模型是两个经典类型的模型，弄明白两者之间的联系与区别是一个非常重要的事情，也会加深对大模型的理解，那么什么是生成模型和判别模型呢，生成式模型和判别式模型的区别与联系生成式模型和判别式模型是两种不同的机器学习类型，它们之间具...

  把169861个生物物种数据装进大模型，大模型竟get到了生物中心法则的奥秘——不仅能识别DNA、RNA与相应蛋白质之间的内在联系，在基因分类、蛋白质相互作用预测、热稳定性预测等7种不同类型任务中也能比肩SOTA模型，模型名为，由阿里云飞天实验室生物智能计算团队打造，相比AlphaFold3因未开源...

  一、政策背景3月18日，欧盟理事会批准了，关键原材料法案，CRMA，，以确保对绿色转型、数字工业和国防部门至关重要的原材料的可持续供应，该法案旨在，增加欧盟当地关键原材料供应量和多样性；加强包括可回收材料在内的循环材料的使用；支持资源增效和替代品开发方面的研究和创新，此外还将加强欧洲的战略自主权，图...

  CNN基本部件介绍1.局部感受野在图像中局部像素之间的联系较为紧密，而距离较远的像素联系相对较弱，因此，其实每个神经元没必要对图像全局进行感知，只需要感知局部信息，然后在更高层局部信息综合起来即可得到全局信息，卷积操作即是局部感受野的实现，并且卷积操作因为能够权值共享，所以也减少了参数量，2.池化池...

  近期，大语言模型、文生图模型等大规模AI模型迅猛发展，在这种形势下，如何适应瞬息万变的需求，快速适配大模型至各类下游任务，成为了一个重要的挑战，受限于计算资源，传统的全参数微调方法可能会显得力不从心，因此需要探索更高效的微调策略，上述挑战催生了参数高效微调，PEFT，技术在近期的快速发展，为了全面总...

  一、背景本文中我们介绍一种最新的KVCache共享论文KVSharer，与之前常见的层内共享不同，KVSharer主要关注跨层共享，并且是整个层的共享，对应的论文，[2410.18517]KVSharer，EfficientInferenceviaLayer，WiseDissimilarKVCach...

  你是否也好奇，在大模型时代，可解释性人工智能技术，XAI，有怎样的使用价值，近日，来自佐治亚大学、新泽西理工学院、弗吉尼亚大学、维克森林大学、和腾讯AILab的研究者联合发布了解释性技术在大语言模型，LLM，上的可用性综述，提出了，UsableXAI，的概念，并探讨了10种在大模型时代提高XAI实际...

  嘿，大家好！这里是一个专注于AI智能体的频道！首先，让我们来聊聊LLM，这些模型通过在海量数据集上预训练，已经展现出了惊人的能力，无论是理解还是生成自然语言，它们都能做得很好，但问题来了，这些模型的规模和训练成本都很高，这让它们在实际应用中有点不切实际，这时候，MoA登场了！MoA通过利用多个LLM...

  2024年2月，Google推出了Gemma，一系列轻量级、先进的开源大模型，这些模型是使用创建Gemini模型时所使用的相同研究和技术构建的，近日，Google宣布了Gemma家族的首批新增成员，为机器学习开发者扩展了创新责任的可能性，用于代码补全和生成任务以及指令跟随，以及RecurrentGe...

  多智能体AI系统近年来在模拟集体决策和增强聊天机器人文化敏感性方面展现出巨大的潜力，这些系统通过模拟多种社会文化身份的AI代理，能够在科学研究和实际应用中提供宝贵的洞察，例如在行为实验中，多智能体系统可以模拟人类群体互动，帮助研究人员理解群体决策的动态，此外，在聊天机器人应用中，加入多样化的群体讨论...

  出品，技术栈，微信号，blog51cto，太酷了，12日消息，麻省理工大学研究团队发表了一篇新的研究结果，研究发现，通过大模型的加持，科学和艺术竟然存在某种隐藏联系，进而可以生成新的生物材料，基于图形的人工智能模型，中，建议创建一种新的基于菌丝体的生物材料，右，，其灵感来自于瓦西里·康定斯基的画作，...