首页 POWER4EDU 可汗学院创始人Sal Khan认为,Khanmigo的幻觉现象仍有可能发生,但GPT-4模型已将错误概率降低很多
可汗学院创始人Sal Khan认为,Khanmigo的幻觉现象仍有可能发生,但GPT-4模型已将错误概率降低很多

可汗学院创始人Sal Khan认为,Khanmigo的幻觉现象仍有可能发生,但GPT-4模型已将错误概率降低很多

  在2023年3月份,可汗学院(Khan Academy)发布了自己的智能学习助手Khanmigo,这是一个由大语言模型GPT-4驱动的AI工具,旨在能够为学生和教师提供个性化的学习指导和教学辅助。

  可汗学院的创始人Sal Khan表示,和ChatGPT不同,Khanmigo并不会直接向学生提供答案,更不会直接帮助学生做作业,而是充当学生的学习助手,帮助他们更好地进行学习。

  Khanmigo的学术论文反馈功能,可以为学生的论文提供具体的和可操作的反馈。这包括了及时和有用的建议、论文结构介绍、适当的学术基调等。Sal Khan表示,在一年内,我们将有一位老师能够与人工智能一起分配工作。构建一个包含论文标题的写作活动,并通过人工智能来进行分配。人工智能不仅能提供反馈,还能在这个过程中提供帮助。比如说,“这是一篇论文,我们一起写提纲吧。”、“让我们找一些数据来支持你的论文观点。”然后,当人工智能向老师汇报时,它不会只是给出论文的评分。而是会给出“这篇文章花了四个小时。我们在写论文时遇到了一点麻烦,但我们最终还是做到了。”

  Sal Khan补充道,在试点的第一阶段,新泽西州、印第安纳州、亚利桑那州和加利福尼亚州的学校帮助我们对Khanmigo进行了测试。教师们使用Khanmigo来做一些事情,比如共同编写课程计划等。学生们使用Khanmigo来获得数学、科学和人文学科等学科的帮助。正是来自学生和教师的反馈带来了Khanmigo的不断更新迭代。他提到,我们从他们身上学到了很多。他们分享了在使用Khanmigo过程中的使用建议,比如为对话聊天添加更多的历史和文学字符,以及增加调整阅读风格的方法。

  早在ChatGPT成为家喻户晓的名字之前,OpenAI公司就已经联系了可汗学院。Sal Khan提到,一开始我持怀疑态度,因为我熟悉GPT-3,我认为它很酷,但我不认为它是我们可以立即在可汗学院利用的东西。但几周后,当我们看到GPT-4的演示时,我们就觉得,哦,这是一件大事情。

  虽然GPT-4仍然存在大语言模型可能产生的一些“幻觉”,但GPT-4明显减少了这些幻觉,也比之前的能力更加强大。Sal Khan表示,它能够做一些看起来像科幻小说里提到的事情,比如推动一场微妙的对话。实际上我认为,如果提示词使用正确,GPT-4就像是通过了图灵测试,这真的感觉就像另一边有一个有爱心的人。

  借助GPT-4的能力,Khanmigo可以进行更加复杂的对话,为学生提供更加逼真的AI导师。Sal Khan表示,GPT-3.5的能力确实无法推动有意思的对话。如果一个学生说,‘嘿,告诉我答案’。如果是使用GPT-3.5,即使你告诉它请不要告诉我答案,它仍然会给出答案。

  相反,Khanmigo会通过询问学生是如何得出答案的,或者指出他们是如何在数学问题上偏离方向的,来帮助学生自己找到答案。比如,Khanmigo能够给出“我们能够做到的是,‘做得好。看起来你把负2分配错了,为什么不再试一次呢?”或者,“你能帮我解释一下你的推理吗,因为我觉得你可能犯了一个错误?’”

  在目前Khanmigo的版本中,幻觉和数学错误的概率也要少得多。不过Sal Khan也承认,这种情况仍然会发生,但很少见。

延伸阅读:

  及时了解最新的全球教育科技投资,请关注我们的Edtracker栏目(知识星球),查阅全球教育科技周报和月报。关于Edtracker,可以查阅我们之前的介绍(点击这里)。


Powered by Froala Editor