这篇文章透露，OpenAI 下一代旗舰模型的质量提升幅度不及前两款旗舰模型之间的质量提升，因为高质量文本和其他数据的供应量正在减少，原本的 Scaling Law（用更多的数据训练更大的模型）可能 ...

考虑到测试时的资源限制，作者采用了参数高效的LoRA，为每个测试任务学习一组独立的adapter参数，附加在预训练模型的每一层之上，通过一个低秩矩阵与原始权重相乘起到调节作用。

但是，图像生成技术的突破主要得益于扩散模型，如Stable Diffusion XL在图像质量、细节和概念一致性方面设立了事实标准。然而，这些扩散模型与自回归语言模型的工作原理和架构显著不同，导致在视觉和语言任务上实现统一生成方法面临挑战。

在火山引擎副总裁张鑫看来，AI 技术的出现，不仅加速了科学研究范式的根本性转变，促进了多学科研究之间的深度融合与协同发展，还极大地加速了科学发现的进程。正是洞察到了科研领域需求侧所发生的深刻变化，以及供给侧大模型为 IT 领域带来的多维度变革与新视角 ...

然而，这个诺奖级AI的「不开源」一直引起学界的不满。谷歌DeepMind只推出了一个免费研究平台「AlphaFold Server」，而且该服务有每日的次数限制。相比于开源的AlphaFold2来说，这种使用方式缺失了很多自由度。

港中文MMLab、上海AI Lab、腾讯团队简易实现了Vision Search Assistant，模型设计简单，只要两张RTX3090就可复现。 OpenAI推出SearchGPT没几天，开源版本也来了。 港中文MMLab、上海AI ...

OpenAI 的 Adam GPT 则给出了更详细的反对意见。他表示大模型的 scaling laws 和推理时间的优化是两个可以互相增益的维度。也就是说就算其中一个维度放缓，也不能得出 AI 整体发展放缓的结论。

Ilya终于承认，自己关于Scaling的说法错了！现在训练模型已经不是「越大越好」，而是找出Scaling的对象究竟应该是什么。他自曝，SSI在用全新方法扩展预训练。而各方巨头改变训练范式后，英伟达GPU的垄断地位或许也要打破了。

消息来自The Information，具体指代号 “猎户座”（Orion） 的模型相对GPT-4的提升幅度，小于GPT-4相对GPT-3， 已进入收益递减阶段 。

近日，Epoch AI联合六十余位全世界的数学家，其中包括教授、IMO命题人、菲尔兹奖获得者，共同推出了全新的数学基准FrontierMath。其包括数百个原创的、格外具有挑战性的数学问题，旨在评估AI系统中的高级推理能力。

具体来说，选择一种要传输的气味，并将其放入一台 GCMS（气相色谱 - 质谱）机。如果该气味的来源是液体，就直接注入；如果是固体样品（比如李子），就使用顶空分析，也就是将气味困在物体周围的空气中，并通过管子吸收。

11 月 9 日消息，TIOBE 编程社区指数是一个衡量编程语言受欢迎程度的指标，评判的依据来自世界范围内的工程师、课程、供应商及搜索引擎，今天 TIOBE 官网公布了 2024 年 11 月的编程语言排行榜，IT之家整理如下： ...