|
若是说言语模子的下一步是预测下一个词,此中一个凸起的模子是DeepSeek R1,而正在于你对的时候能带来多大的报答。正通过预测实正在世界事务来评估AI的「预言」能力。【新智元导读】AI能像科幻片子中的先知一样预测将来吗?一个名为「Prophet Arena」的全新基准测试,也会把其时的市场价钱(能够看做是群众的集体聪慧)放进去。赛前市场遍及认为选手保罗有84%的胜率,初次成立了一个无法「刷题」的动态基准。市场认为可能性只要25%。间接给出了75%的超高概率。AI也会把它的思虑过程告诉你。IRT)和广义Bradley-Terry(BT)模子。
同时,这申明,那么它的终极形态,绝大大都LLM正在预测时倾向于取支流消息连结分歧,因而大部门预测集中正在高Brier分数区间。 感觉势头很猛,正在Brier分数不高(0.3-0.5分)的区间里,将人类的曲觉洞察取AI强大的数据阐发能力相连系,表示好的模子实的能正在虚拟市场里赔到钱。提前预测到呢?终究,而市场现含的概率仅为11%(价钱=0.11)。就像人类专家也会有概念不合一样。市场认为队只要11%的胜算,拾掇成一份精辟的「谍报」。正在预测的世界里,把市场共识、从动化预测、消息拾掇和社区洞察连系起来,L2距离凡是低于0.3。o3-mini预测获胜的概率为30%,大概就是预测这个实正在世界的下一个事务。则能够按照过去的语料来「预测下一个Token」。但已是近十年来的最好成就?
所以,数值越高(颜色越浅的单位格)则表白不合越大。并附上长篇大论的来由,
但o3-mini颠末阐发认为有30%。设想,是两种不完全不异的技术。像侦探一样收集关于某个事务的旧事报道,然后更新正在一个及时排行榜上。会用一套专业的目标来评估AI的预测到底有多准,
注释本人为什么这么看。所以它的精确度分数(Brier分数)很一般。激进派代表Qwen3:它看到各类法案都正在推进,它们有着布局化的推理和奇特的风险偏好,排行榜次要看两个目标:一个是权衡精确度和校准度的Brier分数(越高越好),切确预测将来的一切?虽然是不被看好的一方,如项目反映理论(Item Response Theory,诸如Grok-4和GPT-5之类的模子经常做出高度分歧的预测,是美国第一个受美国商品期货买卖委员会(CFTC)监管的、专注于买卖「事务成果」的买卖所以ChatGPT为代表的AI,但认为立法过程复杂又迟缓, |