slug
summary
tags
icon
password
⏩Tokenization不存在了？Meta最新研究，无需Tokenizer的架构来了
这篇文章介绍了Meta与芝加哥大学等机构合作的研究，提出了一种新的字节潜在Transformer（BLT）架构，旨在取代传统的tokenization方法。BLT通过直接建模原始字节流，动态分组为patch，从而提高计算效率，避免了固定词汇表的限制。研究表明，BLT在多个基准测试中超越了基于token的架构，尤其在处理多样化和噪声输入时表现出色。该架构在训练和推理过程中节省了高达50%的计算资源，展示了在没有tokenization的情况下进行大规模训练的潜力。这项研究为未来的语言模型发展提供了新的思路，可能会引领AI领域的重大变革。
⏩AI for Science 是科学的未来，NVIDIA 正加速它的到来
本文探讨了人工智能（AI）在科学研究中的重要性，特别是NVIDIA在推动AI for Science方面的努力。文章指出，AI技术的突破正在改变科学研究的模式，诺贝尔奖的颁发也反映了这一趋势。NVIDIA在SC24大会上推出了一系列AI和科学计算工具，包括用于药物设计、气候预测和材料发现的多种新技术。BioNeMo平台加速了生物药物研发，cuPyNumeric库提升了数据处理效率，而Earth-2 NIM微服务则显著提高了气候预测的速度和能效。NVIDIA的创新为科学家应对复杂挑战提供了强大支持，推动了各行各业的变革。
⏩OpenAI发布季第八天：ChatGPT搜索功能全面开放、新增语音搜索服务
OpenAI于2024年12月17日宣布，ChatGPT搜索功能全面向所有用户开放，标志着其在AI搜索领域的重要进展。该功能基于GPT-4o模型，允许用户通过自然语言提问并获取实时信息，增强了ChatGPT的互动性和实用性。用户可以通过新图标启动搜索，获取最新的天气、体育比分等信息。此外，OpenAI还推出了语音搜索服务，用户可以通过语音询问问题，享受更便捷的搜索体验。此举被视为对传统搜索引擎的有力竞争，显示出AI在信息获取方式上的创新和发展。
⏩Google发布AI视频Veo2、AI绘图Imagen3，Sora和DALL-E不香了
本文报道了谷歌最新发布的AI视频生成模型Veo 2及图像生成模型Imagen 3，强调了Veo 2在视频生成领域的重大突破。Veo 2具备4K分辨率，能够更好地理解现实世界的物理和运动，生成的画面细腻且真实，能够遵循简单和复杂的指令，展现出极高的生成质量。文章详细描述了Veo 2在运动能力、真实感和相机控制方面的优势，指出其在与其他顶尖视频模型的对比中脱颖而出。此外，Veo 2对专业术语的理解能力也得到了强调，展示了其在创作过程中的实用性和创新性。这些新技术的发布标志着谷歌在AI领域的持续进步，缩小了与竞争对手的差距。
- 作者:AI学长小林
- 链接:https://ai.linbintalk.com//article/15e629a6-152d-8059-922d-e0542968e172
- 声明:本文采用 CC BY-NC-SA 4.0 许可协议，转载请注明出处。