时代科技双刃剑ChatGPT的火爆与隐患
近日,人工智能聊天机器人ChatGPT的崛起引发了广泛关注,它能够模拟人类对话并自动生成文本。随着其功能的不断扩展,人们开始担忧它可能带来的负面影响,如学术作弊、网络犯罪和信息泄露等问题。
ChatGPT在美国法学院考试中取得的优异成绩,让教育界警惕它可能导致的广泛学术作弊行为,并威胁传统课堂教学方式。然而,明尼苏达大学法学院教授蔡宗衡通过实验发现,尽管ChatGPT表现出一定水平,但在开放式问题上显得力不从心,这使得其难以独立完成复杂任务。
尽管目前一些司法辖区已经禁止学校使用ChatGPT,但蔡宗衡认为,该技术在与人类合作时仍然具有巨大的潜力,对于参加考试的学生和执业律师来说极为有用。而且,即便被用于作弊,其语法完美且重复性强,也容易被发现。
此外,科技媒体报道指出,ChatGPT还存在被黑客利用进行攻击网站、发布垃圾邮件诱骗用户泄露个人信息以及推销非法产品服务的风险。虽然开发商OpenAI设立了障碍和限制来阻止恶意内容,但研究人员揭示网络犯罪分子正在找到绕过这些限制的手段。
当前版本的OpenAI API几乎没有反滥用措施,因此有害内容生成仅需利用该API即可,而网络安全工作者正致力于开发检测方法阻止这些不安全行为。但是,不清楚是否能在限制恶意使用同时保护良性使用,同时也存在将来会出现更多网络攻击事件及危害增加的情况。
尽管存在风险,但正确使用这项技术可以有效降低网络犯罪发生率,它可以识别论坛上的不良信息、帮助监管机构搜集有关犯罪行为信息并提高网络系统安全性。不过,由于相关法律尚未完善,加强对技术研究制定规则执行至关重要,同时用户应加强防范意识保护自身网安。