新闻动态
-
202402-16
- 谷歌Gemini1.5火速上线：MoE架
- 今天，谷歌宣布推出Gemini1.5。Gemini1.5是在谷歌基础模型和基础设施的研究与工程创新基础上开发的。这个版本引入了新的专家混合（MoE）架构，以提高...
-
202401-30
- MoE大模型制作指南：零基础手打法，大神
- 传说中GPT-4的“致胜法宝”——MoE（混合专家）架构，自己也能手搓了！HuggingFace上有一位机器学习大神，分享了如何从头开始建立一套完整的MoE系统...
-
202312-15
- 基于Adaptor和GPT的时间序列多任
- 今天跟大家聊一聊大模型时间序列预测的最新工作，来自阿里巴巴达摩院，提出了一种基于adaptor的通用时间序列分析框架，在长周期预测、短周期预测、zero-sho...
-
202312-15
- 一文总结特征增强&个性化在CTR
- 在CTR预估中，主流都采用特征embedding+MLP的方式，其中特征非常关键。然而对于相同的特征，在不同的样本中，表征是相同的，这种方式输入到下游模型，会限...
-
202312-15
- 更深层的理解视觉Transformer，
- 本文为经过自动驾驶之心公众号授权转载，请在转载时与出处联系写在前面&&笔者的个人理解目前，基于Transformer结构的算法模型已经在计算机视...
-
202310-06
- 令人惊讶的时间冗余方法：降低视觉Tran
- Transformer最初是为自然语言处理任务而设计的，但现在已经被广泛应用于视觉任务。视觉Transformer在多个视觉识别任务中展现出了出色的准确性，并在...
-
202309-20
- 视觉Transformer中ReLU替代
- Transformer架构已经在现代机器学习领域得到了广泛的应用。重点是要集中注意力是transformer的一大核心组件，其中包含了一个softmax，作用是...
-
202305-17
- 深度学习架构的对比分析
- 深度学习的概念源于人工神经网络的研究，含有多个隐藏层的多层感知器是一种深度学习结构。深度学习通过组合低层特征形成更加抽象的高层表示，以表征数据的类别或特征。它能...
