未来世界高科技双刃剑ChatGPT火爆引隐患警报
近日,人工智能聊天机器人ChatGPT的火爆引发了关于其潜在隐患的广泛关注。它能够像真实的人类一样与用户进行对话,并根据输入内容生成相关文本。随着功能的不断扩展,学术作弊、网络犯罪和信息泄露等问题日益凸显。
尽管ChatGPT曾通过美国法学院考试,但教育界警惕其可能导致的广泛学术作弊行为,甚至威胁传统课堂教学方式。此前,一名明尼苏达大学法学院教授利用ChatGPT参加模拟考试,并发现该机器人在数学题中表现不佳,但在组织写作方面表现出色。在开放式问题上,它往往难以发现问题,这是法学院考试核心所需。
目前,有些司法辖区已禁止使用ChatGPT,但研究人员指出,即便如此,该技术仍存在被黑客利用攻击网站的风险。黑客可以用ChatGPT构建虚假社交平台账号发布有害信息或诱骗用户泄露个人信息。
开发商OpenAI设立了一系列障碍来防止恶意内容创造,但网络安全公司CheckPoint Research表示,黑客已经找到绕过这些限制的一种方法,并将此服务出售给其他黑客。这表明当前版本API缺乏反滥用措施,使得外部应用程序可以无孔不入地访问和利用该技术。
这种情况引发了对未来的担忧,因为如果没有有效监管,这种技术可能会导致更多网络攻击事件,其危害程度也将随之增加。然而,也有一些正面作用,如快速识别网络论坛中的不良信息,以及帮助监管机构阻止犯罪行为。但是,由于法律框架尚未完善,对这类技术带来的网络犯罪无法得到有效控制,因此需要加强研究、制定法律规则并严格执行,以保障用户安全并维护社会秩序。