当前位置：网站首页 » 观点 » 内容详情

零件编码基准权威发布_零件编码基准有哪些(2024年11月精准访谈)

内容来源：零配件导航所属栏目：观点更新日期：2024-11-27

零件编码基准

微软GRIN MoE，编码数学双赢！最近，微软的研究人员开放了一个新型的混合专家大模型——GRIN MoE。这个模型因其独特的训练方法和在编码及数学任务中的卓越表现而备受关注。GRIN MoE与微软之前开源的Phi-3.5模型规模相当，但采用了全新的训练技术。 GRIN MoE的创新点主要体现在两个方面：首先，它采用了新一代的SparseMixer来精确估计专家路由的梯度，解决了传统方法中使用门控梯度代替路由梯度的问题；其次，该模型放弃了专家并行，转而采用数据、pipeline和张量并行，避免了传统方法中丢弃token的问题。在多个基准测试中，GRIN MoE表现优异，特别是在编码和数学测试中。例如，在GSM-8K数学问题解决能力测试中，GRIN MoE得分为90.4，而在编码任务基准HumanEval上得分为74.4。在MMLU多任务语言理解基准测试中，GRIN MoE得分79.4，超过了Mixtral和Phi-3.5。 GRIN MoE由常规的Transformer块构成，采用分组查询注意力（GQA）和滑动窗口注意力提高计算效率，并使用RoPE进行位置编码，以实现长上下文能力。在MoE架构中，模型通过路由网络为每个输入token挑选适合的专家模块。传统的MoE训练采用专家并行，但这会导致负载不均衡和token丢弃问题。GRIN MoE则利用数据并行、pipeline并行和张量并行来训练，避免了这些问题。此外，Megablocks的grouped_GEMM内核和包装器在没有专家并行的MoE计算中表现出更好的性能。这些新的工程化方法使GRIN MoE在训练效率上比密集模型提升了超过80%。在并行实验中，通过结合pipeline并行和张量并行，系统支持的最大专家数量扩展到52个，总共132B参数。这表明，如果有更多GPU，模型可以进一步扩展。尽管使用更复杂的并行可能会降低计算吞吐量，但通过精心安排计算，可以减少开销。 GRIN MoE还通过调整负载均衡损失来调节全局的负载均衡，与传统方法不同，它通过计算全局的token比例来调节专家负载，以达到全局平衡。虽然这种调整会产生额外的通信开销，但这些通信可以与计算重叠，从而减少额外的延迟。

编码器：让数据传输更智能编码器（encoder）是一种将信号（如比特流）或数据进行转换的设备，使其能够用于通信、传输和存储。编码器通过将角位移或直线位移转换为电信号来实现这一功能。前者被称为码盘，后者被称为码尺。编码器的分类 𐟓Š 编码器可以根据读出方式分为接触式和非接触式两种，也可以根据工作原理分为增量式和绝对式两类。增量式编码器 𐟔⊥➩‡式编码器利用光电转换原理输出三组方波脉冲A、B和Z相。A、B两组脉冲相位差90度，可以方便地判断旋转方向，而Z相为每转一个脉冲，用于基准点定位。它的优点是原理构造简单，机械平均寿命可达几万小时，抗干扰能力强，可靠性高，适合长距离传输。然而，它无法输出轴转动的绝对位置信息。绝对式编码器 𐟌 绝对式编码器是直接输出数字的传感器，在它的圆形码盘上沿径向有若干同心码盘，每条道上有透光和不透光的扇形区相间组成。相邻码道的扇区树木是双倍关系，码盘上的码道数是它的二进制数码的位数。在码盘的一侧是光源，另一侧对应每一码道有一光敏元件。当码盘处于不同位置时，各光敏元件根据受光照与否转换出相应的电平信号，形成二进制数。这种编码器的特点是不要计数器，在转轴的任意位置都可读书一个固定的与位置相对应的数字码。显然，码道必须N条码道。目前国内已有16位的绝对编码器产品。混合式绝对编码器 𐟔„ 混合式绝对编码器输出两组信息，一组用于检测磁极位置，带有绝对信息功能；另一组则完全同增量式编码器的输出信息。编码器的检测原理 𐟔 根据检测原理，编码器可分为光学式、磁式、感应式和电容式四种。根据其刻度方法及信号输出形式，可分为增量式、绝对式以及混合式三种。编码器在工业自动化、机器人技术、精密测量等领域有着广泛的应用，为数据的传输和处理提供了强有力的支持。

Claude 3.5对决GPT-4 近年来，AI技术取得了飞速发展，其中Anthropic和OpenAI分别推出了Claude 3.5和GPT-4两款顶级模型。本文将从多个方面对比这两款AI模型，帮助大家了解它们的优劣。 𐟔 技术与性能 Claude 3.5 Sonnet在推理、知识掌握和编码能力方面表现出色，运行速度是其前代Opus的两倍。它还能高效处理不完美的图像，通过图像和图表中的信息提供更有价值的见解，特别是在零售、物流和金融服务领域。在视觉模型方面，它在标准基准测试中表现优异，这使得它在多模态理解上占据优势。 𐟌 多模态处理能力 Claude 3.5在多模态处理方面明显优于GPT-4。它能够处理长文本，理解和生成各种形式的内容，如图像和视频，尤其在视觉理解方面表现卓越。而GPT-4尽管也具备多模态处理能力，但在此方面逊色于Claude 3.5。 𐟗㯸语言处理与逻辑推理 Claude 3.5在西班牙语、日语和法语等多语言沟通上表现更优。同时，它在长文本处理、逻辑推理和数学理解方面也超越GPT-4。而GPT-4在英语语言下的表现更加精准，尤其是在一些专业考试和特定领域显示了其更高的准确性和可靠性。 𐟏† 结论 Claude 3.5和GPT-4各有千秋。Claude 3.5以强大的多模态能力和跨语言沟通优势，而GPT-4以更高的专业准确性和综合处理能力见长。具体选择则需根据应用场景和实际需求决定。

ai前沿动态 #大模型日报# 【矢量搜索：利用语义嵌入和优化搜索增强文档检索功能】链接：论文概述：本文作者提出VectorSearch，一个结合了先进的语言模型、多向量索引技术和超参数优化的新型文档检索框架。创新点：1) 多向量搜索算法，将文档编码成高维嵌入来优化检索效率；2) 一种同时使用单向量和多向量策略来优化最近邻搜索的算法；3) 一种系统地调节索引维度、相似度阈值和模型选择等超参数的策略。在真实数据集上的试验表明，与基准模型相比VectorSearch取得了更好的效果，证明了它在大规模检索任务中的有效性。

Open AI引领下，大模型有望引来新一轮迭代 Open AI引领下，大模型有望引来新一轮迭代，机构看好AI算力需求持续高景气，这家公司发布了800G交换机和800G光模块一、Open AI引领下，大模型有望引来新一轮迭代 9月13日，OpenAI发布o1系列模型，包括o1-preview、o1-mini。o1-preview拥有强大的推理能力和广泛的世界知识，可以推理复杂的任务并在科学、编码和数学领域解决比以前模型更困难的问题。o1-mini较o1-preview更快、便宜80%、在编码任务方面更具竞争力。 OpenAI表示，对于复杂推理任务而言，o1代表着AI能力的崭新水平，因此值得将计数重置为1，给它一个有别于“GPT-4”系列的全新名号。它在一系列高难基准测试中展现出了超强实力，相比GPT-4o有巨大提升。这也预示着AI时代迎来崭新的起点——能够进行通用复杂推理的大模型重要到来。在此背景下，近期国产大模型快速更新迭代，国内厂商相继更新了模型版本或发布新应用产品。各大模型厂商持续打磨产品，推出了针对效率办公、创意创作、智能搜索、实时互动等场景的功能，大模型技术加速融入用户的生产和生活。从模型性能看，根据SuperCLUE跟踪的数据，国内外TOP1模型的差距比例从2023年5月的30.12%的缩小至8月的1.29%，国内外第一梯队大模型在中文领域的通用能力差距在持续缩小。浙商证券认为，在OpenAI o1模型的引领下，国产模型有望加速迭代进程，持续打开商业化空间。二、API提价，强化学习机制催化算力需求持续景气 OpenAI团队训练o1模型在做出反应之前花更多的时间思考问题，学会完善自己的思维过程，尝试不同的策略，并认识到自己的错误。开源证券研报指出，强化学习训练催生新增算力需求，API价格抬升侧面验证o1系列模型的算力成本推升。根据OpenAI官网，GPT-4oAPI价格为输入5美元/百万Token，输出15美元/百万Token；o1-previewAPI价格提升至输入15美元/百万Token，输出60美元/百万Token。目前o1-preview、o1-mini的API仅开放给第5层级的开发人员，且有20RPM的速度限制。未来OpenAI计划为所有ChatGPT免费用户提供o1-mini访问。未来伴随用户规模的不断攀升，AI算力需求有望持续高景气。三、相关上市公司：紫光股份、浪潮信息紫光股份：公司旗下新华三在2023年下半年发布800G交换机和800G光模块，支持大带宽、低时延和无损网络的交换机部署和满足AI时代网络的各种爆发式需求。公司发布了H3C UniServerR4900LCG5液冷服务器及以其为核心的液冷系统、新一代超融合UIS8.0、全新绿洲平台2.0等产品和方案。浪潮信息：公司人工智能服务器市占率连续3年全球第一，连续6年市占率中国第一；2023年Q3浪潮信息居全球服务器份额第二。公司牵头参与服务器全部国标，是唯一一家同时加入全球三大开放计算组织的服务器供应商。公司是百度、阿里、腾讯等大型企业最主要的AI服务器供应商，与科大讯飞保持在系统与应用的深入合作。

谷歌Gemma模型：AI开发的全新选择昨天，谷歌推出了一个名为Gemma的大语言模型，这个模型不仅轻量，而且性能卓越，引起了广泛关注。Gemma与Gemini使用相同的研究和技术，虽然模型架构可能有所不同，但目前已有7B和2B两个版本。根据给出的基准测试数据，Gemma在同级别模型中表现突出，并且直接开放了商用，显然是有备而来。以下是一些值得关注的亮点：开发者工具：谷歌提供了丰富的AI工具套件，帮助开发者打造更安全的AI应用。工具链：通过Keras支持三大主要框架Jax、PyTorch和Tensorflow进行推理和微调。易用性：Gemma在CoLab和Kaggle notebooks中即可使用，还集成了HuggingFace、MaxText、Nvidia Nemo和TensorRT-LLM，方便上手，生态完备性非常高。可用性：由于参数规模小，Gemma很容易在PC、工作站、谷歌云上的vertex和GKE中使用，甚至在移动端也可以。性能优化：Gemma支持在GPU和TPU上达到行业超强水准。性能表现方面，Gemma 7B在问答和推理中与LLaMA 2 13B不相上下，甚至略胜一筹。在数学、科学和编码方面，Gemma 7B显著优于其他模型。模型架构方面，Gemma采用了标准Transformer结构，上下文长度为8K，并进行了多项改进： Attention：根据Shazeer 2019的研究，不同规模选择attention变种有助于性能提升，因此7B模型采用multi-head attention，2B模型则采用multi-query attention。 Embedding：选择了RoPE而不是常规的绝对位置编码，每一层中都用到了，还进行了复用以减小模型大小。 Activation：用GeGLU替换了ReLU。 Normalizer：选用RMSNorm，并在每一层输入输出都进行了normalize操作，与标准只在一端操作不同。总的来说，Gemma是一个值得关注的新模型，它的轻量化和高性能使其在AI开发中成为一个有吸引力的选择。

腾讯MoE模型，性能爆表！ 𐟔 探索腾讯最新开源的Transformer-based混合专家模型（MoE）Hunyuan-Large，这是一个拥有3890亿参数和520亿激活参数的巨大模型，能够处理多达256K个tokens。 𐟓š 研究背景：这篇文章旨在解决如何通过大规模预训练和优化技术，构建一个高性能的Transformer-based MoE模型，以在语言理解、生成、逻辑推理、数学问题解决、编码、长文本处理和综合任务中表现出色。 𐟧頧 ”究挑战：该问题的研究难点包括如何有效地处理大规模数据和模型参数，如何在训练过程中优化模型的性能和稳定性，以及如何在推理过程中提高计算效率。 𐟓ˆ 相关工作：在多个基准测试中表现出色的LLama3.1-70B和LLama3.1-405B等大规模语言模型提供了重要的参考，但这些模型大多基于密集架构，而非MoE架构。 𐟏† 结论：Hunyuan-Large在语言理解、生成、推理、数学、编码、长文本处理和综合任务中的强大能力得到了实证研究的有力支持。高质量的数据、优化的模型结构和精细的训练策略是实现高性能的关键因素。Hunyuan-Large的发布将促进未来的研究和应用，推动人工智能技术的进一步发展。

𐟎殺目标检测，哪个模型更出色？ 𐟔在计算机视觉领域，目标检测是不可或缺的一环。面对小目标检测的挑战，Transformer模型展现出了惊人的潜力。 𐟒ᨿ‘年来，基于Transformer的目标检测算法成为了研究的新宠。例如，ViDT（Vision and Detection Transformer）通过引入创新的RAM（重新配置的注意力模块）和多尺度特征技术，显著提升了目标检测的性能。 𐟓Š在Microsoft COCO基准数据集上，ViDT的AP（平均精度）与延迟权衡表现出色，验证了其在小目标检测方面的优越性。 𐟔줸仅如此，多篇研究报告也指出了Transformer在小目标检测领域的广泛应用。从通用图像到航拍、医学、主动毫米波等各类图像，Transformer模型都展现出了其强大的上下文编码能力，这对于小目标的检测至关重要。 𐟚€总的来说，对于小目标检测，Transformer模型无疑是当前最出色的选择之一。其高效的建模能力和并行计算能力，使得它在处理小目标时能更加游刃有余。

𐟎稓牙听高解析音质解析𐟎𜊰Ÿ” 你是否好奇，通过蓝牙能否真正欣赏到高解析音质的音乐呢？让我们一起来探讨一下！ 𐟒ᠧ›市场上的主流蓝牙传输编码包括SBC、AAC、aptX、aptX HD、LDAC和LHDC。这些编码的传输规格各有不同，以无损信号源为基准，它们的传输能力也有所差异。 𐟓Š 让我们来看看这些编码的传输能力： * SBC：最高328kbps * AAC：最高264kbps * aptX：最高384kbps * aptX HD：最高576kbps * LDAC：最高990kbps * LHDC：最高900kbps 𐟎砤𛅤𛅤𛎦•𐦍Š看，蓝牙似乎还无法完全达到高解析音质的传输需求。但别急，各家厂商的“编码技术”可是个秘密武器！ 𐟌Ÿ 以aptX HD为例，虽然其名义上的传输码率只有576kbps，但通过高通独特的编码技术，实际传输的音频规格可以达到惊人的24bit/48kHz！ 𐟎‰ 同样，Sony的LDAC编码技术也让人眼前一亮。虽然最高传输码率也是990kbps，但Sony声称其VBR可变码率技术能确保在传输过程中音质不会受到任何损害。 𐟒– 所以，通过蓝牙欣赏高解析音质音乐，并不是遥不可及的梦想。只要选择合适的设备和编码技术，你就能在家中享受到如同现场般的音乐盛宴！𐟎𕀀

【每日大模型论文】Mistral AI 发布 Pixtral-12B 技术报告 Mistral AI 推出了 Pixtral-12B，这是一个 120 亿参数的多模态语言模型。经过训练，Pixtral-12B 既能理解自然图像，也能理解文档，在各种多模态基准测试中取得了领先的性能，超越了许多大模型。与许多开源模型不同的是，Pixtral 也是同类产品中的先进文本模型，并且不会因为在多模态任务中表现出色而降低自然语言性能。Pixtral 使用从零开始训练的全新视觉编码器，可按自然分辨率和长宽比摄取图像。这样，用户就能灵活处理图像中使用的 token 数量。Pixtral 还能在 128K token 的长上下文窗口中处理任意数量的图像。 Pixtral 12B 的性能大大优于其他类似大小的开放模型（Llama-3.2 11B 和 Qwen-2-VL 7B）。它还优于 Llama-3.2 90B 等更大的开放模型，但体积却小了 7 倍。他们还贡献了一个开源基准——MM-MT-Bench，用于评估实际场景中的视觉语言模型，并为多模态 LLM 的标准化评估协议提供了详细的分析和代码。 #知识分享# #大模型# #论文#

专栏内容推荐

1005 x 550 · png
Proe/Creo产品结构设计-形位公差-基准 Datum - 知乎
素材来自:zhuanlan.zhihu.com

460 x 653 · jpeg
汽车零部件的统一编码与标识国家标准将正式实施
素材来自:sohu.com
640 x 415 · jpeg
谈谈阀门产品的零件编码有多重要_物料
素材来自:sohu.com

417 x 204 · jpeg
汽车零部件统一编码详解-中国质量新闻网
素材来自:cqn.com.cn
640 x 518 · jpeg
谈谈阀门产品的零件编码有多重要_物料
素材来自:sohu.com

791 x 1112 · jpeg
QC_T_265-2004汽车零部件编号规则_word文档在线阅读与下载_免费文档
素材来自:mianfeiwendang.com
1212 x 443 · jpeg
汽车零部件编码原则(10位)_word文档在线阅读与下载_无忧文档
素材来自:51wendang.com