新闻动态
-
202406-06
- 首次证实白盒Transformer可扩展
- 在过去的几年里，Transformer架构在自然语言处理（NLP）、图像处理和视觉计算领域的深度表征学习中取得了显著进展。这些成果使得AI领域的主导技术成为了深...
-
202406-05
- 单个4090可推理，2000亿稀疏大模型
- 在大模型浪潮中，训练和部署最先进的密集集LLM在计算需求和相关成本上带来了巨大挑战，尤其是在数百亿或数千亿参数的规模上。为了应对这些挑战，稀疏模型，如专家混合模...
-
202405-29
- MIT最新力作：用GPT-3.5解决时间
- 今天给大家介绍一篇MIT上周发表的文章，使用GPT-3.5-turbo解决时间序列异常检测问题，初步验证了LLM在时间序列异常检测中的有效性。整个过程没有进行f...
-
202405-28
- 清华、华为等提出iVideoGPT：专攻
- iVideoGPT，满足世界模型高交互性需求。近年来，生成模型取得了显著进展，其中视频生成正在成为一个新的前沿领域。这些生成视频模型的一个重要应用是，在多样化的...
-
202405-28
- 适应多形态多任务，最强开源机器人学习系统
- 在机器人学习方面，一种常用方法是收集针对特定机器人和任务的数据集，然后用其来训练策略。但是，如果使用这种方法来从头开始学习，每一个任务都需要收集足够数据，并且所...
-
202405-27
- 港大字节提出多模态大模型新范式，模拟人类
- 当前，多模态大模型（MLLM）在多项视觉任务上展现出了强大的认知理解能力。然而大部分多模态大模型局限于单向的图像理解，难以将理解的内容映射回图像上。比如，模型能...
-
202405-27
- 手撕Llama3第1层: 从零开始实现l
- 一、Llama3的架构在本系列文章中，我们从头开始实现llama3。Llama3的整体架构：图片Llama3的模型参数：让我们来看看这些参数在LlaMa3模型中...
-
202405-27
- 全面超越DPO：陈丹琦团队提出简单偏好优
- 为了将大型语言模型（LLM）与人类的价值和意图对齐，学习人类反馈至关重要，这能确保它们是有用的、诚实的和无害的。在对齐LLM方面，一种有效的方法是根据人类反馈的...
