What exactly does word2vec learn?
word2vec 到底学习什么以及如何学习?回答这个问题相当于在一个最小但有趣的语言建模任务中理解表示学习。尽管 word2vec 是众所周知的现代语言模型的先驱,但多年来,研究人员缺乏描述其学习过程的定量和预测理论。在我们的新论文中,我们最终提供了这样一个理论。我们证明存在现实的、实用的机制,其中学习问题可以简化为未加权的最小二乘矩阵分解。我们以封闭形式求解梯度流动动力学;最终学习到的表示由 PCA 简单给出。word2vec 的学习动态。当从小初始化开始训练时,word2vec 以离散、连续的步骤进行学习。左:权重矩阵中的排名递增学习步骤,每个步骤都会减少损失。右图:潜在嵌入空间的三个时间
中国:25年7~9月期GDPの評価-秋風索莫の気配が漂う中国経済。内需の悪化により成長率は減速
■摘要 2025年10月20日,中国国家统计局公布的2025年7-9月实际GDP增速为+4.8%,较上年同期(2025年4月-6月)+5.2%放缓。经季节调整后的环比变化(年率)为+4.5%,较上一季度的+4.1%有所加快(左下图)。从各需求项目对同比增速的贡献来看,最终消费为+2.7%pt(上季度为+2.7%pt),资本形成总额为+0.9%pt(同期为+1.3%pt),净出口为+1.2%pt(同期为+1.2%pt)(见下右图)。由于对其他国家的强劲出口缓解了对美国出口恶化的影响,净出口保持平稳。虽然内需的贡献仅小幅下降,但库存的增加似乎在推动上涨,而实际情况是消费和投资都在恶化。除了经济措施