Репортаж с PHDays Fest 2: эксперт УЦСБ рассказал о возможностях использования ИИ в ИБ

5月23日,在莫斯科国际网络节Positive Hack Days上,加州大学圣巴巴拉分校科学技术工作副主任尼古拉·多穆霍夫斯基(Nikolai Domukhovsky)作了题为《为何人工智能在信息安全以外的所有领域都取得胜利》的报告。事实证明,这个话题与网络安全专家息息相关,大厅里几乎没有空座位。演讲一开始,尼古拉谈到了过去10年人工智能的主要成功。人工智能成果已经从基础研究的范畴转变为急需的应用解决方案的地位,没有它我们将无法想象我们的生活。现在正处于进步的顶峰,大型语言模型也正在变得多模态——神经网络可以根据你的描述构建图像、纠正它、编写文本等。许多人利用这些机会,不幸的是,这些技术已经被网络欺诈者掌握和使用。但为什么人工智能在信息安全领域仍然没有广泛应用呢?过去10年的人工智能成就限制人工智能在信息安全过程中广泛使用的主要原因是由于神经网络本身数学模型固有的不准确性和简化而导致的“误报”问题。如果我们把识别信息安全事件看成是一个分类任务,那么人工智能中“分类器的不确定性”等限制就会产生干扰,而且还有严重的维数问题,一般来说这个问题还没有解决

来源:乌拉尔安全系统中心新闻频道

5月23日,在莫斯科国际网络节Positive Hack Days上,加州大学圣巴巴拉分校科学技术工作副主任尼古拉·多穆霍夫斯基(Nikolai Domukhovsky)作了题为《为何人工智能在信息安全以外的所有领域都取得胜利》的报告。事实证明,这个话题与网络安全专家息息相关,大厅里几乎没有空座位。

5月23日,在莫斯科国际网络节Positive Hack Days上,加州大学圣巴巴拉分校科学技术工作副主任尼古拉·多穆霍夫斯基(Nikolai Domukhovsky)作了题为《为何人工智能在信息安全以外的所有领域都取得胜利》的报告。事实证明,这个话题与网络安全专家息息相关,大厅里几乎没有空座位。

演讲一开始,尼古拉谈到了过去10年人工智能的主要成就。人工智能成果已经从基础研究的范畴转变为急需的应用解决方案的地位,没有它我们将无法想象我们的生活。现在正处于进步的顶峰,大型语言模型也正在变得多模态——神经网络可以根据你的描述构建图像、纠正它、编写文本等。许多人利用这些机会,不幸的是,这些技术已经被网络欺诈者掌握和使用。但为什么人工智能在信息安全领域仍然没有广泛应用呢?

尼古拉谈到过去10年人工智能的主要成功

过去10年人工智能成就

过去10年人工智能成就
“如果我们简化某些内容,那么我们可能会丢失一些重要的点,这对于组织监控信息系统安全的流程是不可接受的。当系统经常喊“狼来了!”时也不适合。并产生额外的虚假数据进行处理。有必要简化安全监控中心运营商的问题解决方案,而不是使其复杂化。”尼古拉在演讲中指出。

“充满意义” - 事件的语义

这是会议 现场