新闻动态
-
202408-11
- 黑匣子被打开了！能玩的Transform
- 都2024年，还有人不了解Transformer工作原理吗？快来试一试这个交互式工具吧。2017年，谷歌在论文《Attentionisallyouneed》中提...
-
202408-09
- 投机采样会损失大语言模型的推理精度吗？
- MitchellStern等人于2018年提出了投机采样的原型概念。这种方法后来被各种工作进一步发展和完善，包括LookaheadDecoding、REST、M...
-
202408-08
- PRO | 为什么基于 MoE 的大模型
- 2023年，几乎AI的每个领域都在以前所未有的速度进化，同时，AI也在不断地推动着具身智能、自动驾驶等关键赛道的技术边界。多模态趋势下，Transformer作...
-
202408-08
- 错误率从10%降至0.01%，领英全面分
- 随着大型语言模型（LLM）技术日渐成熟，各行各业加快了LLM应用落地的步伐。为了改进LLM的实际应用效果，业界做出了诸多努力。近期，领英（LinkedIn）团队...
-
202408-07
- 小技巧大功效，「仅阅读两次提示」让循环语
- 在当前AI领域，大语言模型采用的主流架构是Transformer。不过，随着RWKV、Mamba等架构的陆续问世，出现了一个很明显的趋势：在语言建模困惑度方面与...
-
202408-07
- 准确率达60.8%，浙大基于Transf
- 编辑|KX逆合成是药物发现和有机合成中的一项关键任务，AI越来越多地用于加快这一过程。现有AI方法性能不尽人意，多样性有限。在实践中，化学反应通常会引起局部分子...
-
202408-06
- 算法、系统和应用，三个视角全面读懂混合专
- LLM很强，而为了实现LLM的可持续扩展，有必要找到并实现能提升其效率的方法，混合专家（MoE）就是这类方法的一大重要成员。最近，各家科技公司提出的新一代大模型...
-
202408-05
- 苹果让大模型学会偷懒：更快吐出第一个to
- 偷懒才能更好地工作。Llama3.1刚刚发布，你是否已经尝试了呢？就算你的个人计算机是最近的顶尖配置，运行其中最小的8B版本可能也依然会有明显延迟。为了提升模型...
