新闻动态
-
202405-06
- AI学会隐藏思维暗中推理！不依赖人类经验
- AI做数学题，真正的思考居然是暗中“心算”的？纽约大学团队新研究发现，即使不让AI写步骤，全用无意义的“……”代替，在一些复杂任务上的表现也能大幅提升！一作Ja...
-
202405-04
- 小模型性能饱和、表现不佳，根源是因为So
- 小语言模型的出现是为弥补大语言模型的训练、推理等成本昂贵的缺点，但其自身也存在训练到某个阶段后性能下降的事实(饱和现象)，那么这个现象的原因是什么？是否可以克服...
-
202405-02
- 参数量不到10亿的OctopusV3，如
- 多模态AI系统的特点在于能够处理和学习包括自然语言、视觉、音频等各种类型的数据，从而指导其行为决策。近期，将视觉数据纳入大型语言模型（如GPT-4V）的研究取得...
-
202404-29
- 单卡跑Llama 70B快过双卡，微软硬
- FP8和更低的浮点数量化精度，不再是H100的“专利”了！老黄想让大家用INT8/INT4，微软DeepSpeed团队在没有英伟达官方支持的条件下，硬生生在A1...
-
202404-28
- 让大模型不再「巨无霸」，这是一份最新的大
- AIxiv专栏是本站发布学术、技术内容的栏目。过去数年，本站AIxiv专栏接收报道了2000多篇内容，覆盖全球各大高校与企业的顶级实验室，有效促进了学术交流与传...
-
202404-28
- Llama 3低比特量化性能下降显著！全
- 大模型力大砖飞，让LLaMA3演绎出了新高度：经过超大规模预训练的15T+Token数据上，已实现了令人印象深刻的性能提升，也因远超Chinchilla推荐量再...
-
202404-26
- 颜水成挂帅，昆仑万维2050全球研究院联
- 近日，由颜水成教授带队，昆仑万维2050全球研究院、新加坡国立大学、新加坡南洋理工大学团队联合发布并开源了Vitron通用像素级视觉多模态大语言模型。这是一款重...
-
202404-26
- 量化、剪枝、蒸馏，这些大模型黑话到底说了
- 量化、剪枝、蒸馏，如果你经常关注大语言模型，一定会看到这几个词，单看这几个字，单看这几个字，我们很难理解它们都干了什么，但是这几个词对于现阶段的大语言模型发展特...
