对于垃圾讯息的电脑分析学习结果,仍需要透过人为方式“校正”,LINE依然需要与众多使用者合作,透过手动揪举方式标示全新攻击行为,借此提升垃圾讯息防堵效率。
由LINE与Intertrust共同举办第三届资安高峰会里,除了由LINE说明如何借由深度学习方式揪举垃圾讯息,同时也由多名讲者分享目前常见借由深度学习等人工智能技术应用的攻击破解情况。
根据LINE的说明,传统防堵垃圾讯息的常见方式,包含设置过滤条件、封锁特定IP,或是限制特定账号发言等,但在越来越多自动化运算模式,以及IP可伪造变换等情况下,传统防堵方式几乎可说是不敷使用,因此现阶段也会借由机器学习方式进行更有效率防堵。
不过,由于目前的攻击手法也开始导入深度学习等人工智能技术,使得包含LINE内网络服务平台对于线上攻防变得更具挑战。
以LINE的立场,虽然同样能借由人工智能学习方式分析主要攻击模式,进而达成对抗、防堵效果,但深度学习效果仍取决于实际分析资料“品质”,让系统能更容易识别实际攻击行为,而不会产生误判。但如何取得有用的学习资料,对LINE而言势必面临更大挑战,毕竟取用这些资料可能涉及侵害用户隐私权益,从LINE的角度不太可能基于为了让防堵机制分析学习效果更好,进而借由用户互动、对话内容让系统分析学习。
因此除了借由现有资源让系统分析学习之外,LINE也会配合各地区用户揪举内容强化系统判断能力,并且与不停成长、变化的攻击模式维持长期的拉锯战。就LINE的立场来看,要维持服务平台稳健成长,除了持续投入技术资源维护之外,更重要的是必须与用户沟通,并且借由持续互动达成更好防护效果。
而就现阶段的电脑视觉分析应用,除了针对文字内容比对识别之外,包含图像内容的分析应用也成为重要方法,只是在特定情况依然必须配合大量人力揪举才能达成防堵造果,例如两张图像可能对人眼观看结果都是“熊猫”,但若在其中一张内容加入噪声进行干扰,使电脑对于图像内容的判断结果截然不同,目前有不少垃圾讯息就是透过此类方式避开检查机制,即便系统端能透过各类机制进行过滤,但仍会有漏网之鱼,因此与使用者之间的揪举合作便显得更加重要。
LINE方面表示,由于使用者行为模式相对无形,因此让行为标示变得更加困难,而许多电脑分析学习结果仍需要透过人为方式“校正”,即使目前能透过长期学习、使用者回报等方式进行最佳化,使得揪举错误率可达0.01%以下,但随着全新型态的垃圾讯息推送方式,或是假账号运作行为持续改变,LINE依然需要与众多使用者合作,透过手动揪举方式标示全新攻击行为,借此提升垃圾讯息防堵效率。