本文对当前复制Openai的O1模型功能的方法进行了批判性检查,特别关注广泛但通常未公开的知识蒸馏技术的使用。虽然我们以前的工作(第1部分(Qin等人,2024))探讨了O1复制的基本技术途径,这项研究揭示了O1的API的简单蒸馏,并结合了监督的微调,可以在复杂的数学推理任务上实现卓越的性能。通过广泛的实验,我们表明,基本模型对数万个样本O1延伸的长期思考链的微调优于美国邀请赛数学考试(AIME),其技术复杂性最少。此外,我们的调查范围超出了数学推理,可以探索跨不同任务的O1延伸模型的概括能力:幻觉,安全性和开放域QA。值得注意的是,尽管仅对数学解决问题的数据进行了培训,但我们的模型证明了对开放式质量QA任务的强烈概括,并且在微调后变得明显降低了对无粘液的影响。我们故意将这一发现公开以促进AI研究中的透明度,并挑战该领域中晦涩的技术主张的当前趋势。这种教育的命令不仅代表了技术考虑因素,而且代表了一个基本的人类使命,它将影响AI创新的未来。1相关资源将在https://github.com/gair-nlp/o1-journey上找到。我们的工作包括:(1)蒸馏过程及其有效性的详细技术阐述,(2)一个全面的基准测试框架,用于评估和分类O1复制尝试,基于其技术透明度和可重复性,(3)对痛苦的限制和潜在的限制,我们对痛苦的限制和潜在的风险进行了关键的讨论:我们的分析:crcial crcial crucial:crucial clucial clucial clucial clucial clucial clucial clucial clucial culminates''''''系统很重要,以第一原则思维为基础的研究人员的发展至关重要。
查尔斯康奈尔 查尔斯康奈尔在诺维奇长大,1966 年毕业于诺维奇自由学院。他的双向飞碟射击运动始于 1964 年,当时他 16 岁,成为诺维奇鱼类和野生动物俱乐部的正式成员,偶尔与年纪较大的男子一起射击。1969 年,他被征召入伍,加入美国海军,驻扎在 USS Waddell DDG-24 上,母港在日本横须贺,他在那里参加越南枪支支援线。基地有一个大型双向飞碟射击场,所以当他们在港口的午休时间时,他继续射击。查尔斯最终被邀请参加一场大型 NSSA(全国)射击比赛,并在 21 岁时成为第一位获得同级别高分的“舰队”水手。从海军退役后,他于 1971 年 1 月进入康涅狄格大学,并加入了飞碟射击俱乐部。凭借在日本、冲绳和菲律宾与海军队一起射击的经验;随后,他作为队长在康涅狄格大学射击队效力四年。他两次参加世界大学生射击比赛。他最好的一次胜利是在耶鲁大学邀请赛上,来自新英格兰、纽约和宾夕法尼亚各地的大学生队参加了比赛。他在那里以满分 100/100 赢得了飞碟射击锦标赛。1981 年,他被邀请参加东部康涅狄格州飞碟射击联盟,这是该国现存最古老的飞碟射击联盟。家庭和工作使他一直很忙,直到 20 世纪 80 年代中期他才可以定期射击。该联盟有 350-450 名参与者,分为 6-8 个分区,每队有 5-8 名射手,排名前五名射手的平均水平。查尔斯在 1999 年的平均成绩位居联盟第二,2003 年位居联盟第四。此外,他在 1992 年和 2010 年赢得了 ECSL 秋季射击比赛,并在 2008-2022 年开始在该州最大的场地:鳍毛羽毛俱乐部举办 ECSL 春季射击比赛,参赛人数多达 110 名。他获得了 2013 年康涅狄格州射击 12 号亚军称号 (NSSA) 和众多一区、所有新英格兰和纽约级冠军。通常有 6-8 名全美射手参加这些大型射击比赛,所有胜利都必须是 100/100,然后以 100 为标准进行射击。查尔斯的最后一个奖项是在 2021-2022 ECSL 冬季联赛结束时获得的,当时他获得了 70 岁以上射手的“老年人高平均成绩”奖。 “总而言之,我参加了 50 多年的飞碟射击比赛,就像高尔夫球手一样,我会继续比赛,直到我不能再挥动枪为止......也许我下次会尝试打高尔夫球!”
2024 年 10 月 23 日,高级飞行员 Samantha White 第 374 空运联队公共事务 美国空军参谋长戴维·阿尔文将军和他的妻子吉娜·阿尔文,以及美国空军一级军士长戴维·弗洛西于 10 月 16 日访问了横田空军基地。塔。 “横田队与自卫队一起致力于保卫日本并维护自由开放的印度太平洋。横田空军基地是重要的空运枢纽,提供反应迅速、能力强大的空军基地来遏制威胁。阿尔文将军说:“我们正在提供一支强大的力量。”在访问横田空军基地期间,奥尔文将军和 CMA 弗洛西会见了第 374 空运联队的领导层,举行了全体会议,表彰了杰出的飞行员并参观了基地的设施。此次访问是太平洋空军领海一周巡视的一部分,其中包括参观夏威夷珍珠港-希卡姆联合基地、关岛安德森空军基地和东京空军论坛。(AFFJ) :空军参谋长邀请赛)。在听取了任务简报并与第 374 空运联队指挥官 Richard McElhaney 上校和 CMA 参谋长 Kenneth Hauck 会面后,空军参谋长和 CMA 参谋长 Kenneth Hauck 联合访问了战时空军横田军需品基地司令部和空军第 374 空运联队司令部军士长。他们参观了补给储存设施、防腐机库、空中交通管制塔和联队的作战中心。每次访问时,领导们都会直接与空军士兵谈论他们所面临的挑战、如何克服挑战完成任务以及伙伴关系的重要性。 “我很自豪地向我们的高层领导介绍横田空军基地。横田空军基地不仅是一个生活和工作的好地方,而且还为我们的空军、联合部队、合作伙伴和盟友提供了独特的投射能力,”他说麦克埃尔哈尼上校表示:“这也是一个重要的基地。这次访问是一个很好的机会,可以强调冲绳作为印度太平洋地区主要物流枢纽的重要性。”阿尔文 (Allvin) 和 MC Flosi 召开了横田队全体会议,分享最新进展并回答飞行员的问题。 “在军队服役是一种荣誉,也是一生难得的经历,”弗洛西中士说。“我的动力是继续为我的国家、我的空军和我的同胞服务。”最后,Allvin 将军和 Flosi 中士驾驶 UH-1N Huey 直升机参加由第 459 空运中队和第 374 医疗组进行的 24 小时模拟医疗后送,将患者运送到东京先进的医疗机构。他检查了运送患者的培训去医院。在访问期间,第一夫人吉娜·阿尔文参观了基地的支持设施,包括餐厅、托儿中心、住房、青少年中心、健身中心、医疗设施、学校以及军事和家庭支持中心。他们听取了旨在改善横田空军基地社区的生活质量。横田空军基地是西太平洋地区的主要后勤枢纽,负责该地区人员、物资和设备的空运。该基地及其 58 个合作单位共同努力,确保纪律、战备和同步后勤。横田空军基地表示:“这里的空军和领导层都积极参与,为我们的国家带来骄傲。横田空军基地是一支不可忽视的强大力量,对我们在印度太平洋地区努力实现的目标至关重要。”我们的盟友。”这是一支不可忽视的力量,”阿尔文将军说。