在本文中,我们概述了我们参加 SemEval-2024 第 9 项竞赛的作品:“脑筋急转弯:一项违背常识的新任务”。我们参与两个子任务:子任务 A - 句子拼图和子任务 B - 单词拼图。我们通过微调评估了大量不同大小的预训练的基于 Transformer 的语言模型。随后,我们对它们的分数和反应进行分析,以帮助未来的研究人员理解和有效地利用这些模型。我们表现最佳的方法在两个子任务的竞赛排行榜上都占据了竞争地位。在评估阶段,我们最好的作品在句子拼图中获得了 81.7% 的平均准确率,在单词拼图中获得了 85.4% 的平均准确率,分别比最佳神经基线 (ChatGPT) 高出 20% 和 30% 以上。
功能连接是对大脑时时刻刻如何连接的动态描述。我们不要将其想象为网络中使用的物理线路,而是想象一下这些线路在一天中是如何使用的。当你在电脑上做作业时,你的笔记本电脑会将文档发送到你的打印机。当天晚些时候,你可能会使用笔记本电脑将电影传输到电视上。这些“线路”的使用方式取决于你是在工作还是在休息,对人类来说也是如此。功能连接会根据当前任务而变化。你的大脑一直在动态地重新连接。想象一下,你站在离墙上挂着的菜单板仅几步之遥的地方,阅读一份餐厅特色菜清单。无论何时你看着什么东西,视觉皮层都在工作,但由于你在阅读,所以视觉皮层与用于阅读的听觉皮层相连。你指着板上的某样东西,不小心把它从墙上碰掉了。当你伸手去接它时,你的大脑连接就会发生变化。你不再阅读,而是试图接住下落的物体,你的视觉皮层现在与运动前皮层协同工作来引导你的手。