On the Stepwise Nature of Self-Supervised Learning
图 1:自监督学习中的逐步行为。在训练常见的 SSL 算法时,我们发现损失以逐步方式下降(左上),而学习到的嵌入则以迭代方式增加维度(左下)。嵌入的直接可视化(右图;显示了前三个 PCA 方向)证实了嵌入最初会折叠到一个点,然后扩展到 1D 流形、2D 流形,并随着损失的步骤而扩展。人们普遍认为,深度学习的惊人成功部分归功于它能够发现和提取复杂数据的有用表示。自监督学习 (SSL) 已成为一种领先的框架,用于直接从未标记数据中学习图像的这些表示,类似于 LLM 直接从网络抓取的文本中学习语言的表示。然而,尽管 SSL 在 CLIP 和 MidJourney 等最先进的模型中发挥着关键作用,但诸
Helping Kids Learn Self-Compassion with Mike Iskandar
Mike Iskandar 在本期节目中与 Mike 一起谈论他如何创立 Time Travel Journeys,以帮助学校和组织赋予孩子们力量,让他们将自我怀疑、焦虑和孤立转化为自我同情、自信和联系。Mike 讲述了他 40 岁时开始的自我发现项目如何演变成他今天运行的项目的故事,该项目围绕着了解你生命中的岁月并学会原谅自己。如果您对我们一生中的社会情感学习 (SEL)、自我发现和换位思考感兴趣,那么本期节目适合您。
Drum Journey's with Television Hit Show Transparent
在过去两年中,史蒂文曾三次与艾美奖获奖电视节目《透明家庭》一起进行鼓乐之旅。其中两次是与剧组一起进行的,一次是与一个团队一起进行的,其中包括第二季第 7 集的编剧、导演和摄影师之一(杰伊·杜普拉斯)。《纽约时报》写道:“拉奎尔和乔什(杰伊)在寺庙内的场景是本季迄今为止最精彩的场景之一;凯瑟琳·哈恩和杰伊·杜普拉斯都在他们最后的对话中注入了如此多的潜台词和无法言喻的伤痛。”