新闻动态
-
202402-04
- 陶哲轩看了都直呼内行！谷歌等用LLM自动
- Transformer的技能树是越来越厉害了。来自马萨诸塞大学、谷歌和伊利诺伊大学厄巴纳-香槟分校（UIUC）的研究人员，最近发表了一篇论文，他们通过使用大型语...
-
202402-02
- 大模型也有小偷？为保护你的参数，上交大给
- 将不同的基模型象征为不同品种的狗，其中相同的「狗形指纹」表明它们源自同一个基模型。大模型的预训练需要耗费大量的计算资源和数据，因此预训练模型的参数成为各大机构重...
-
202402-01
- 无注意力大模型Eagle7B：基于RWK
- 无注意力大模型Eagle7B：基于RWKV，推理成本降低10-100倍在AI赛道中，小模型近来备受瞩目，相较于拥有上千亿参数的模型。例如，法国AI初创公司发布的...
-
202401-31
- 大模型也能切片，微软SliceGPT让L
- 大型语言模型（LLM）通常拥有数十亿参数，经过数万亿token的数据训练。然而，这样的模型训练和部署成本都非常昂贵。为了降低计算需求，人们常常采用各种模型压缩技...
-
202401-29
- 苹果公司采用自回归语言模型进行图像模型的
- 1、背景在GPT等大模型出现后，语言模型这种Transformer+自回归建模的方式，也就是预测nexttoken的预训练任务，取得了非常大的成功。那么，这种自...
-
202401-29
- Transformer模型在挑战视频生成
- 建立会做视频的世界模型，也能通过Transformer来实现了！来自清华和极佳科技的研究人员联手，推出了全新的视频生成通用世界模型——WorldDreamer。...
-
202401-26
- Transformer的开创性作品被反对
- 去年12月，CMU和普林斯顿的2位研究者发布了Mamba架构，瞬间引起AI社区震动！结果，这篇被众人看好有望「颠覆Transformer霸权」的论文，今天竟曝出...
-
202401-26
- 选择相机还是激光雷达？实现鲁棒的三维目标
- 0.写在前面&&个人理解自动驾驶系统依赖于先进的感知、决策和控制技术，通过使用各种传感器（如相机、激光雷达、雷达等）来感知周围环境，并利用算法和...
