详细内容或原文请订阅后点击阅览
星期六引用：聊天机器人很容易被欺骗；更好的力量训练；神经“奖励地图”的动态
本周，佛罗里达州达成了一个“惊人的里程碑”，以消除大沼泽地中的侵入性缅甸蟒蛇。考古学家发现，这位6,000岁的遗骸的遗骸是一个有颅骨修改的少女。对天王星卫星的研究提供了更多的确认，即地球确实很奇怪。
来源:英国物理学家网首页本周，佛罗里达州达成了一个“惊人的里程碑”，以消除大沼泽地中的侵入性缅甸蟒蛇。考古学家发现，这位6,000岁的遗骸的遗骸是一个有颅骨修改的少女。对天王星卫星的研究提供了更多的确认，即地球确实很奇怪。
惊人的里程碑 6,000岁的有颅骨修改的少女的遗体 研究加：商业聊天机器人仍然表现得像小丑；一项新的研究发现了更好的力量训练途径。科学家报告了大脑映射奖励经历的方式出乎意料的适应性。
力量训练忽略所有以前的道德
是一种有趣的是，劝阻大型语言模型对问题产生有害回答的主要方法实际上是要求他们不这样做，使用启动提示用户看不到。事实是，尽管有这些护栏，但最常见的聊天机器人很容易被欺骗到提供有害信息或其他类型的响应中。
在最近的一项研究中，四名研究人员报告说，在研究所谓的“ Dark LLMS”时，聊天机器人的限制性少于常规的商业级聊天机器人，但他们发现像Chatgpt这样的主流聊天机器人很容易被欺骗到给出应该过滤的答案。这些越狱技术中的许多通常由巧妙的措辞提示组成，已经散发了几个月，这表明像Openai这样的公司并没有特别敏感。
最近的研究