新闻动态
-
202309-20
- 视觉Transformer中ReLU替代
- Transformer架构已经在现代机器学习领域得到了广泛的应用。重点是要集中注意力是transformer的一大核心组件，其中包含了一个softmax，作用是...
-
202309-20
- 10万美元+26天，一个低成本千亿参数L
- 包括仅解码器结构（如GPT和LLAMA系列模型）、仅编码器结构（如BERT）和编码器-解码器结构（如T5）以及它们的变体模型在内的大型语言模型（LLM）已经取得...
-
202309-20
- 有理论基础，我们就可以进行深度优化了。
- 为什么transformer性能这么好？它给众多大语言模型带来的上下文学习(In-ContextLearning)能力是从何而来？在人工智能领域里，transf...
-
202309-20
- 如何在MongoDB中实现数据的实时地图
- 如何在MongoDB中实现数据的实时地图展示功能MongoDB是一种流行的NoSQL数据库，具有高性能和可伸缩性的优势。在许多应用场景中，我们需要将存储在Mon...
-
202309-19
- 不用4个H100！340亿参数Code
- 开源社区的一位开发者GeorgiGerganov发现，自己可以在M2Ultra上运行全F16精度的34BCodeLlama模型，而且推理速度超过了20token...
-
202309-18
- 训练大模型缺少高质量数据？我们找到了一种
- 数据，作为决定机器学习模型性能的三大要素之一，正在成为制约大模型发展的瓶颈。正所谓「Garbagein,garbageout」[1]，无论你的算法多么优秀，你的...
-
202309-18
- 百度商业多模态理解及 AIGC 创新实践
- 一、富媒体多模态理解首先来介绍一下我们对多模态内容的感知。1、多模态理解提升内容理解能力，让广告系统在细分场景下更懂内容。在提升内容理解能力时，会遇到很多现实的...
-
202309-18
- 老黄给H100“打鸡血”：英伟达推出大模
- 大模型的推理速度，仅仅一个月就提高了一倍！近日，英伟达宣布推出了一款专为H100设计的“鸡血包”，旨在加速LLM推理过程或许这下可以不用空等明年才能交付的GH2...
