传媒资料库 > 前沿资讯 > 最新资讯

【科技·互联网】GPT

更新时间:2023-03-15 12:06:37

全文PDF下载全文DOC下载

  尽管GPT-4在自然语言生成方面取得了巨大的进展,但笔者认为该技术仍存在一些不足之处。具体而言,GPT-4在生成文本内容时可能会出现“胡编乱造”的情况,即生成的结果可能和事实不符或缺乏逻辑性。

GPT-4“胡编乱造”的问题依旧存在

  但AI毕竟还是AI,OpenAI也明确表示,现阶段的GPT-4并不完美,在一些方面依旧存在问题。

  比如,在GPT-3.5中就存在的,AI“胡编乱造”问题,到了GPT-4,也依旧存在。

  在新版本中,AI依旧会编造事实,并且事实方向也不一定总是可靠的,由于系统不知道什么是真的,什么是假的,它们可能会生成完全错误的文本。

  对此,OpenAI表示,“它倾向于坚持认为它是正确的,即使它错了”,这导致它有时仍然会输出完全错误的结果。

  比如在被要求提供描述最新癌症研究的网站地址时,GPT-4甚至会生成不存在的互联网地址,用来佐证并不正确的结论。