新闻动态
-
202403-07
- 全面超越ViT，美团、浙大等提出视觉任务
- 半年多来，Meta开源的LLaMA架构在LLM中经受了考验并大获成功（训练稳定、容易做scaling）。沿袭ViT的研究思路，我们能否借助创新性的LLaMA架构...
-
202403-02
- 美图AI局部重绘技术大揭秘！想怎么改，就
- 最近，“AI扩图”功能以其突如其来的扩大效果引发了轰动，其滑稽而又有趣的自动填充结果频频走红，在网络上掀起了热潮。用户们积极尝试这一功能，其180度的巨大转变也...
-
202402-26
- 高性能 LLM 推理框架的设计与实现
- 一、大语言模型推理概要介绍与传统的CNN模型推理不同，大语言模型的推理通常会分成prefill和decoding两个阶段。每一个请求发起后产生的推理过程都会先经...
-
202402-24
- 如何查看MySQL数据库恢复的进度
- MySQL是一款非常常用的开源关系型数据库管理系统，它具有稳定、高效、灵活等特点，被广泛应用于各种类型的应用程序中。在使用MySQL时，不可避免地会遇到数据库的...
-
202402-16
- 手把手教你，从零开始实现一个稀疏混合专家
- 本文介绍了实现一个稀疏混合专家语言模型（MoE）的方法，详细解释了模型的实施过程，包括采用稀疏混合专家取代传统的前馈神经网络，实现top-k门控和带噪声的top...
-
202402-02
- 2B参数性能超Mistral-7B：面壁
- 千元机也能本地运行。近期，人们在优化和部署方面取得了成果，伴随着大模型向大体量方向发展。2月1日，面壁智能联合清华NLP实验室在北京正式发布了旗舰端侧大模型「面...
-
202312-15
- 英伟达打脸AMD：H100在软件加持下，
- 12月14日消息，AMD于本月初推出了其最强的AI芯片InstinctMI300X，其8-GPU服务器的AI性能比英伟达H1008-GPU高出了60%。对此，英...
-
202312-04
- 不是大模型全局微调不起，只是LoRA更有
- 这是作者SebastianRaschka经过数百次实验得出的经验，值得一读。增加数据量和模型的参数量是公认的提升神经网络性能最直接的方法。目前主流的大模型的参数...
