Misty:通过交互式概念融合进行 UI 原型设计

UI 原型设计通常涉及迭代和混合示例中的元素(例如屏幕截图和草图),但当前工具对合并这些示例的支持有限。受概念融合的认知过程的启发,我们引入了一种新颖的 UI 工作流程,允许开发人员快速将设计示例中的不同方面合并到正在进行的 UI 中。我们将此工作流程原型化为 Misty。通过与 14 名前端开发人员进行的探索性首次使用研究,我们评估了 Misty 的有效性并收集了有关此工作流程的反馈。我们的研究结果表明,Misty 的……

来源:Apple机器学习研究

多模式大语言模型(MLLM)的最新进步已经值得注意的是,这些通用域MLLM通常在理解和有效与用户界面(UI)屏幕有效互动的能力上缺乏。在本文中,我们介绍了一种量身定制的新型MLLM,旨在增强对移动UI屏幕的理解,配备有参考,接地和推理功能。鉴于UI屏幕通常显示出更多的

请参阅纸张详细信息