写在前面大家好，我是刘聪NLP，大模型时代，指令微调已经成了算法工程师们必不可少的技能，而在指令微调过程中，我们往往会从数据数量和数据质量两个维度来对模型进行调优，今天给大家带来一个新的方法，MoDS，一种面向模型的指令数据选择方法，MoDS，Model，oriented&gt，paper，...

  具身智能，一种把大模型应用到工业生产的技术，随着大模型技术的发展，大模型的发展方向也逐渐变得明朗，比如AIGC，AI代理等；而最近学习到了一个新的概念——具身智能，虽然并不是第一次听说这个词，但一直以为它只是大模型技术的一种实现方式，但到最近才发现具身只能和大模型是不一样的两种东西，而且，具身智能可...

  1.基于LLM的TableQA存在的问题利用LLM来进行表格理解任务往往会将整个表格喂给LLM，但是这种方法存在一定的局限性，•首先，受限于LLM上下文长度的限制；比如，一个包含100列和200行的中等大小表格，单元格数量超过40，000个，超出了LLaMA和GPT系列等流行LMs的处理能力，•此外...

  Seed，TTS是字节跳动豆包大模型团队近期发布的语音生成大模型成果，它生成的语音几乎与真人完全一样，连发音瑕疵也能生成出来，尤其在学习模仿人类说话方面，相似性和自然度均有很好表现，举例来说，将一段语音提供给Seed，TTS，它就能按文本生成全新语音，且带上原素材的声音特征，英文语音也可生成，且依然...

  1创新模型效果，1.1模型评估，1.2风电功率预测可视化，1.3电力负荷预测可视化，2模型创新点介绍2.1结合Informer和BiGRU，GATT的优势通过将这两种模型并行使用，可以更好地捕捉不同时间尺度上的模式，提高预测的准确性和鲁棒性，2.2并行模型架构并行使用Informer和BiGRU，G...

  引言，探索视觉，语言对比预训练中的噪声和低质量标注问题在视觉，语言对比预训练中，噪声和标注质量被认为是影响训练效果的重要因素，本文通过深入研究和分析训练过程中的两个主要问题——错误的负样本对分配和低质量及多样性不足的标注——揭示了通过解决这些问题来提高训练质量的潜力尚未被完全实现，首先，我们研究了影...

  01、概述在人工智能和机器学习领域，我们正经历着一场技术革命，随着技术的飞速发展，对于强大、灵活且易于获取的解决方案的需求也在不断增长，开发者、研究人员和技术爱好者在利用尖端技术时，常常受限于封闭生态系统的束缚，许多现有的语言模型，包括一些最受欢迎的模型，往往伴随着专有限制和许可限制，或者托管在限制...

  目前，由大型语言模型，LLM，驱动的智能体已经证明了它们在处理复杂任务方面的显著潜力，此外，通过赋予LLM代码执行能力来提升其问题解决能力正逐渐成为一种趋势，这一点已经通过Code，Interpreter[1]、OpenInterpreter[2]、TaskWeaver[3]等工作得到了实践验证，然...

  大模型技术的基础学习，是未来在大模型领域能否站稳脚跟的关键，随着大模型技术的发展，越来越多的人开始进入大模型领域，但大模型作为一门技术，因此它的本质上是一个工具，因此这也让学习大模型有了不同的学习方向，从工具的角度来看，学习一个工具主要有两个方向，一个是使用工具，一个是制造工具；而今天我们主要讲的是...

  学习的过程，是一个不断产生偏差和调整的过程，学习的过程是一个学习——验证——再学习——再验证的过程，在此之前也有写过关于强化学习的文章，但那时更多的是停留在概念描述和名称解释的阶段，简单来说就是知道有强化学习这个概念，但不知道它是用来解决什么问题，以及怎么来解决这些问题，之前的文章​​大模型的训练与...

  现有的RAG方案没有专注于需要检索多个具有显著不同内容的文档的查询，这类查询经常出现，但挑战在于这些文档的嵌入可能在嵌入空间中距离很远，难以全部检索，因此，提出一种多头检索增强生成方法，MRAG，Multi，HeadRAG，，它的关键思想是利用Transformer解码器的多头注意力层的激活，而不仅...

  将外部数据整合到LLMs中的技术，如检索增强生成，RAG，和微调，得到广泛应用，但在不同专业领域有效部署数据增强LLMs面临着重大挑战，数据增强LLM应用中不同查询层次的主要技术总结​微软亚洲研究院，MSRA，提出了一种RAG任务分类方法，根据所需的外部数据类型和任务的主要焦点，将用户查询分为四个层...

  这两天我们见证了OpenAI、谷歌两巨头激烈的碰撞，二者竞争几乎白热化，14日，OpenAI凭借其GPT，4o模型，以语音和视频交互的全新方式，挑战传统的界限，15日，谷歌在2024年的I，O发布会上展示了ProjectAstra以及Gemini系列模型的最新进展，意图巩固其在搜索和AI领域的霸主地...

  在数据泛滥的今天，如何高效地从海量信息中提取有价值的洞察，已成为开发者面临的共同挑战，本文介绍一个创新项目——基于Streamlit的应用程序，它能够理解自然语言并直接与SQL数据库进行交互，从而简化数据分析流程，1环境设置在本项目中，我们选择PostgreSQL作为后端数据库，用户需自行安装并配置...

  论文链接，https，arxiv.org，pdf，2405.10314项目链接，https，cat3d.github.io，3D重建的进步使得高质量的3D捕捉成为可能，但需要用户收集数百到数千张图像来创建一个3D场景，本文提出了CAT3D，一种通过多视点扩散模型模拟这种现实世界捕捉过程的方法，可以在...