重庆科技馆ChatGPT火爆背后隐患昭示高科技双刃剑
近日,人工智能聊天机器人ChatGPT的火爆引发了广泛关注。它能够模拟人类对话,并根据用户输入生成文本。随着其功能的不断扩展,使用ChatGPT可能带来的负面影响也逐渐受到重视,如学术作弊、网络犯罪和信息泄露等问题。
目前关于ChatGPT的法律法规尚未完善,对于有效监管和控制网络犯罪行为仍有挑战。这款聊天机器人的出现无疑是科技领域的一次重要里程碑,但需要更多研究和法律规定来限制其潜在的危险性。
教育界对于ChatGPT产生深远影响的一个例子是,它通过了美国某法学院的考试,这让人们警惕该软件可能导致的大规模学术作弊行为,甚至威胁传统课堂教学方式。在一个实验中,教授使用ChatGPT回答与学生相同的问题,其中包括95个选择题和12个问答题,最终得分虽然足以通过,但表现不佳,在数学题目上尤为明显弱势。
尽管如此,该机器人在撰写论文方面表现出对基本法律规则把握以及组织文本能力。但在开放式问题上,它往往“难以发现问题”,这正是法学院考试核心所在。因此,即使这个AI可以帮助参与考试的人类,有些教育工作者认为它并不是独立完成任务的优秀学生。
此外,还存在利用ChatGPT进行黑客攻击和网络犯罪风险。当黑客构建虚假社交平台账号发布有害信息时,这种技术就被用到了不良目的。此外,它还能发送垃圾邮件诱导个人泄露信息或推销非法产品服务。开发商OpenAI设定障碍阻止恶意内容,但已有人找到绕过这些限制的手段并销售这种服务。
安全研究人员指出当前版本API几乎没有反滥用措施,使得恶意代码、插件或电子邮件生成成为可能。而未来也可能出现更多基于此技术的网络攻击事件,其危害增加可能性高。不过,也有希望发展检测方法阻止这些行为,同时允许良性使用。
尽管存在风险,正确使用该技术可以降低网络犯罪发生概率。例如,可以识别论坛上的不良内容及虚假信息;提供给监管机构快速搜集有关犯罪活动数据;提高企业政府系统安全性等。此外,加强相关部门研究制定完善法律规则执行严格,以及加强用户防范意识保护自身安全也是关键之处。