新闻动态
-
202403-01
- 陈丹琦团队新作：Llama-2上下文扩展
- 陈丹琦团队刚刚发布了一种新的LLM上下文窗口扩展方法：它仅用8k大小的token文档进行训练，就能将Llama-2窗口扩展至128k。最重要的是，在这个过程中，...
-
202402-27
- Sora无法替代人类！亚马逊工程师断言：
- 这一周，OpenAI视频AI工具Sora一出现，可谓是炸翻了天。「饭碗保不住了」的恐惧，真实地击中了许多人。图片不过，亚马逊的一位工程师CameronGould...
-
202402-27
- 谷歌10M上下文窗口正在杀死RAG？被S
- 要说最近最郁闷的公司，谷歌肯定算得上一个：自家的Gemini1.5刚刚发布，就被OpenAI的Sora抢尽了风头，堪称AI界的「汪峰」。具体来说，谷歌这次推出的...
-
202402-26
- 干货满满！大神Karpathy两小时AI
- 前段时间，AI大神Karpathy上线的AI大课，已经收获了全网15万次播放量。当时还有网友表示，这2小时课程的含金量，相当于大学4年。就在这几天，Karpat...
-
202402-26
- 高性能 LLM 推理框架的设计与实现
- 一、大语言模型推理概要介绍与传统的CNN模型推理不同，大语言模型的推理通常会分成prefill和decoding两个阶段。每一个请求发起后产生的推理过程都会先经...
-
202402-26
- 国内高校打造类Sora模型VDT，通用视
- 2月16日，OpenAISora的发布无疑标志着视频生成领域的一次重大突破。Sora基于DiffusionTransformer架构，和市面上大部分主流方法（由...
-
202402-26
- 补齐Transformer规划短板，田渊
- Transformer强大的泛化能力再次得到证明！近年来，基于Transformer的结构在各种任务中展现出色的性能，引起了全球的关注。利用这种结构并结合大量数...
-
202402-19
- RNN模型挑战Transformer霸权
- 在大模型内卷的同时，Transformer的地位也接连受到挑战。近日，RWKV发布了Eagle7B模型，基于最新的RWKV-v5架构。Eagle7B在多语言基准...
