科技玩具引爆热潮背后隐患如影随形高科技成双刃剑
近日，人工智能聊天机器人ChatGPT的崛起引发了广泛关注，它能够模拟人类对话并自动生成文本。随着其功能的不断扩展，人们开始担忧它可能带来的负面影响，如学术作弊、网络犯罪和信息泄露等问题。
ChatGPT在美国法学院考试中取得的优异成绩，让教育界警惕它可能对学生产生的潜在影响。明尼苏达大学法学院教授蔡宗衡通过实验发现，即使ChatGPT在撰写论文方面表现出色，但在开放式问题上却难以展现深度思考，这限制了其作为独立完成任务的能力。
尽管纽约和其他司法辖区禁止学校使用ChatGPT，但蔡宗衡认为，在与人类合作时，它仍然有助于参加考试的学生和执业律师。然而，他也指出，当用于学术作弊时，ChatGPT存在被发现风险，因为其生成内容过于完美且具有重复性。
此外，科技媒体报道称，黑客利用ChatGPT构建虚假社交平台账号发布有害信息，并通过垃圾邮件诱导用户泄露个人信息或购买非法产品。这促使开发商OpenAI设立障碍限制恶意内容。但研究人员表明，黑客正在绕过这些限制，以便继续进行网络犯罪活动。
当前版本OpenAI API几乎没有反滥用措施，使得犯罪分子可以利用该技术生成恶意内容。此一事件提醒我们，对于未来的技术发展，我们需要制定更完善法律规则来监管和控制，而不是让它们成为双刃剑，不仅能带来效率提升，也要防止不良行为发生。此外，加强用户自身防范意识、养成良好的网络习惯也是保护自己免受骗子的重要途径。
