新闻动态
-
202309-12
- LLaMA微调显存需求减半，清华提出4比
- 大模型的训练和微调对显存要求很高，优化器状态是显存主要开销之一。近日，清华大学朱军、陈键飞团队提出了用于神经网络训练的4比特优化器，节省了模型训练的内存开销，同...
-
202309-11
- 「人与场景交互生成」新突破！天大、清华发
- 自然可控的人与场景交互（HumanSceneInteraction,HSI）生成在虚拟现实/增强现实（VR/AR）内容创作和以人为中心的人工智能等多个领域发挥着...
-
202309-11
- 以 GPU 实例演示 Alibaba C
- 日前，AlibabaCloudLinux3为使AI开发体验更高效，提供了一些优化升级，本文为“AlibabaCloudLinux3AI能力介绍”系列文章预告篇，...
-
202309-10
- H100推理飙升8倍！英伟达官宣开源Te
- 「GPU贫民」即将告别困境！刚刚，英伟达发布了一款名为TensorRT-LLM的开源软件，可以加速在H100上运行的大型语言模型的推理过程那么，具体能提升多少倍...
-
202309-09
- 微软亚洲研究院推出TinyMIM：通过知
- 重新表达：研究动机掩码建模（MIM,MAE）被证明是非常有效的自监督训练方法。然而，如图1所示，MIM对于更大的模型效果相对更好。当模型很小的时候（比如ViT-...
-
202309-09
- 营业鹅AI助手成功通过公安机关网络安全评
- 近日，根据国家网信办联合多个部委公布的《生成式人工智能服务管理暂行办法》，营业鹅AI助手已通过公安机关的网络安全评估，符合相关规定并获得合法认证。新《办法》自2...
-
202309-05
- 思维链CoT进化成思维图GoT，比思维树
- 要让大型语言模型（LLM）充分发挥其能力，有效的prompt设计方案是必不可少的，为此甚至出现了promptengineering（提示工程）这一新兴领域。在各...
-
202309-05
- 用BigDL-LLM 即刻加速百亿级参数
- 我们正迈入一个由大语言模型（LargeLanguageModel,LLM）驱动的AI新时代，LLM在诸如客户服务、虚拟助理、内容创作、编程辅助等各类应用中正发挥...
