一位人工智能教授透露，澳大利亚一所顶尖大学让第一个使用人工智能写论文的学生不及格。
新南威尔士大学计算机工程师和Scientia人工智能教授Toby Walsh说，学校和大学必须恢复课堂上的手写论文和作业，防止学生通过聊天机器人作弊。
“禁止访问其网站是完全没有用的，因为孩子们足够聪明，可以绕过它——他们可以使用VPN（虚拟私人网络），”他在周日说。
“你必须把他们放在一个没有（互联网）接入的房间里，用笔和纸，没有技术。
“我们不能再给学生上带回家的功课了。
Walsh教授说，OpenAI有争议的ChatGPT——一个在11月发布的强大的聊天机器人——的发布，在他自己的大学里引发了一次 “危机会议”。
“我们需要考虑如何更好地评估事情，”他说。
“我知道有一个学生因为用它作弊而没有通过他们的课程。”
Walsh教授说，在一位讲师怀疑论文是由人工智能生成的情况下，该学生承认用聊天机器人写了一篇论文。
他说，ChatGPT可以逃避传统的抄袭检查，因为 “每次运行它，你都会得到一个不同的答案”。
他说，教师和讲师可能会怀疑和质疑学生，”如果写得太好，或太四平八稳的话’。
“特别是如果他们不是以英语为母语的人，而且他们的写作质量急剧上升，你会叫他们进来”，他说。
新南威尔士州、昆士兰州和塔斯马尼亚州已经禁止在学校互联网网络上使用ChatGPT，以防止学生利用它在不作研究的情况下在几分钟内就炮制一篇写得不错的长篇答复。
Walsh教授著有《机器的不良行为：人工智能的伦理》一书，他说必须教育学生将事实与虚构分开，而不是简单地吞下人工智能产生的答复。
他警告说，如果学生依靠聊天机器人来回答问题、写论文和作业，他们很容易把虚构的东西当成事实。
他说，ChatGPT对来自 “所有维基百科（Wikipedia）、所有Reddit和一大块社交媒体 “的信息 “求量不求质”。
“它不明白自己在说什么， “他说。
“它不仅编造东西，而且听起来很有道理。
“如果它是在制作广告和商业信函，这没有什么问题，但学童可能会学到一些错误的东西。”
Walsh教授说，人工智能将使真理 “成为一个更易变质的概念”，并警告说，游说团体或阴谋论者与聊天机器人之间的大规模互动可能会操纵反应。
他说，2016年，微软创建了一个名为Tay的Twitter机器人，它被设计成一个健谈的19岁女孩。
“它使用人类的反馈来（学习），在24小时内，它就变成了一个种族主义者、排外主义者、仇视纳粹的厌恶者，”他说。
“他们不得不把它关掉。
OpenAI的网站称，ChatGPT不会产生2021年后更新的任何信息，并依靠用户的 “大拇指向上或向下 “的反应来知道一个项目是否正确。
“这意味着它完全不知道当前的事件、趋势或在其培训后发生的任何事情，”它说。
“它将无法对需要最新知识或信息的问题或话题做出适当的回应。
“ChatGPT没有外部能力，不能完成查询。
“这意味着它不能访问互联网、搜索引擎、数据库或其自身模型之外的任何其他信息来源。
“它不能验证事实，提供参考，或进行计算或翻译。
“它只能根据自己的内部知识和逻辑来产生反应。
在被要求为澳大利亚总理写一条人物介绍时，ChatGPT说它需要一个名字，然后将Anthony Albanese描述为 “领导反对党的工党，试图在下次选举中重新获得权力并组建政府”。
(本文版权为《澳大利亚人报》所有）
Related
转自澳大利亚人报
原文地址：https://cn.theaustralian.com.a... | 
