slug
summary
tags
icon
password
⏩看张手绘草图就能合成图形程序,加州伯克利让扩散模型掌握新技能
加州大学伯克利分校的研究团队提出了一种使用神经扩散模型来合成新程序的方法。他们通过给模型一张手绘的图形,让模型通过不断突变来修改程序,最终得到能输出目标图形的程序。该方法在逆向图形任务中表现出了优越性能,能够高效地探索程序空间并做出明智的决策。该研究的贡献包括提出了一种在句法树上使用扩散的全新方法,并在逆向图形任务中实现了该方法,发现其优于之前的方法。这项研究对于程序合成领域具有重要意义。
⏩开发者狂喜!Meta最新发布的LLM Compiler,实现77%自动调优效率
Meta最新发布的LLM Compiler是一项强大的开源模型,旨在优化代码并彻底改变编译器设计。该模型的优化潜力达到了自动调优搜索的77%,可以显著减少编译时间,并提高各种应用的代码效率。此外,LLM Compiler在反汇编方面的成功率为45%,对于逆向工程任务和旧代码维护具有重要价值。该研究引入了一种LLM Compiler,通过在庞大的语料库上训练模型,使其能够理解编译器中间表示、汇编语言和优化技术。这项技术的潜在影响是探索LLM在代码和编译器优化领域未被开发的潜力。
⏩打开文心大模型,一看全是生产力
百度文心发布了最新的4.0 Turbo版本,提升了速度和效果。该版本在实际应用中展示了大模型的能力,如农民院士智能体和体育大模型。百度通过不断实践,将大模型应用于各行业,创造出前所未有的价值。在云南省澜沧县,百度与中国工程院朱有勇院士合作打造了农民院士智能体,帮助农民解决种植问题。该智能体基于文心智能体平台,学习了朱院士的研究成果和农业知识,农民可以随时向智能体提问并获得专业解答。
⏩30倍于传统方法,中国科学院团队Transformer深度学习模型预测糖-蛋白质作用位点
中国科学院团队开发了一种深度学习模型 DeepGlycanSite,能够准确预测给定蛋白质结构上的糖结合位点。DeepGlycanSite 将蛋白质的几何和进化特征融入具有 Transformer 架构的深度等变图神经网络中,其性能显著超越了之前的先进方法,并能有效预测各种糖类分子的结合位点。该研究发表在《Nature Communications》上,对于糖结合位点预测具有重要价值,并可以深入了解具有治疗重要性蛋白质的糖类调节背后的分子机制。
⏩等不来OpenAI的Q*,华为诺亚探索LLM推理的秘密武器MindStar先来了
该文章介绍了华为诺亚方舟实验室的研究人员提出的一种基于树搜索的推理时间能力提升方法MindStar,该方法在数学问题上达到了近似闭源大模型GPT-3.5与Grok-1的推理能力。文章详细介绍了MindStar的算法架构和推理路径扩展的步骤,并说明了过程监督奖励模型的设计目的和作用。该方法通过帮助大型语言模型选择正确的输出来增强其推理能力,实验结果表明步骤级选择优于传统的CoT方法。
⏩人刚毕业,颠覆整个AI界:扒一扒Sora两带头人博士论文
这篇文章是关于Sora项目的两位主要研究人员的博士论文的介绍。论文主要探讨了图像和视频生成模型在视觉内容创作中的应用,包括长视频生成、基于人体姿态生成场景图像以及通过结合语言模型和文本到图像模型来创建监督训练数据等。文章提供了论文的摘要和主要内容,并介绍了作者的研究背景和工作经历。这篇文章对于了解Sora项目的技术发展和研究方向具有一定的深度和新颖性,对于AI领域的研究者和开发者有一定的实用性。
⏩击败25个分子设计算法,佐治亚理工、多伦多大学、康奈尔提出大语言模型MOLLEO
该文章介绍了佐治亚理工学院、多伦多大学和康奈尔大学合作提出的分子语言增强进化优化(MOLLEO)方法,该方法将拥有化学知识的预训练大语言模型(LLMs)整合到进化算法中,以改善分子优化能力。研究通过多个黑箱优化任务的实验证明了MOLLEO的优越性能,包括单目标和多目标优化。此外,该方法在ZINC 250K数据库中的最佳JNK3抑制剂分子上也展示了进一步优化的能力。该研究对于加速分子发现过程具有重要意义。
⏩ICML 2024| 大语言模型助力基于CLIP的分布外检测任务
该文章介绍了一种名为Envisioning Outlier Exposure (EOE)的分布外检测方法,利用大型语言模型 (LLM) 的专家知识和推理能力来想象潜在的异常值暴露,从而提升VLMs的OOD检测性能。该方法不依赖于未知OOD数据的先验知识,适用于开放世界场景。实验结果表明,EOE在不同的OOD任务中实现了优越的性能,并且可以扩展到大规模数据集。
⏩拆分Transformer注意力,韩国团队让大模型解码提速20倍
这篇文章介绍了韩国团队提出的一种拆分Transformer注意力的方法,可以将大模型的解码速度提升20倍,并且大幅降低内存开销。这一方法对于提高Transformer模型的效率和性能具有重要意义。
- 作者:AI学长小林
- 链接:https://ai.linbintalk.com/article/7adf9f88-007a-45b0-b48b-3553c443b8c2
- 声明:本文采用 CC BY-NC-SA 4.0 许可协议,转载请注明出处。