OpenAI神秘GPT-2正在A/B测试,奥特曼抢先剧透
2024-05-08 15:57

OpenAI神秘GPT-2正在A/B测试,奥特曼抢先剧透

本文来自微信公众号:量子位 (ID:QbitAI),作者:明敏,题图来自:视觉中国


OpenAI正在秘密A/B测试下一代模型,实力超强被怀疑是GPT-4.5或GPT-5。


就在奥特曼当谜语人暗示之后,两款新模型悄悄上线大模型竞技场。



  • Im-a-good-gpt2-chatbot


  • Im-also-a-good-gpt2-chatbot


和GPT-4-Turbo(左)同场竞技,gpt2-chatbot(右)明显更胜一筹。


提示词:画一个自由女神像。



此前一款名为gpt2-chatbot的超强模型仅仅上线一天,热情的网友就把服务器挤爆了,不得不下架,大家纷纷表示还没玩过。


这次重新上线后,模型在一次报错中直接给出了跳转OpenAI平台网站的链接



这下大家都嗨了,坐实了是OpenAI在搞A/B测试?



还有人表示,这俩模型可能已经在推理和计划方面进行微调。



现在在竞技场里随机匹配,就能遇到这俩新模型。


这不,网友们已经纷纷前去测试,一探它们的底细了。


代码能力突出


和第一次露面有所不同,如今想要用上gpt2,只能在Arena(battle)里碰运气,Direct Chat中找不到它们的影子。


有的人运气好,试了5次就成功让这俩模型battle了一局。



结合几个示例来看,im-also-a-good-gpt2-chatbot生成的回答似乎总是更简洁一些。



代码生成方面,它能一次生成一个可执行的游戏代码。


提示词:Code Flappy Bird game in Python



效果如下:



如果回答的代码有误,可以进一步追问让它自己改正。


比如让它们写一个康威生命游戏的代码,在未告知使用Colab时,模型写出的代码有问题。


但继续追问并表示自己用的是Colab,im-also-a-good-gpt2-chatbot能够自己修改代码,im-a-good-gpt2-chatbot不行。



还有在解决物理题方面,有Reddit用户说im-also-a-good-gpt2-chatbot能解答出其他模型都答不对的物理题。


问题:绿灯侠从一栋高楼楼顶跳下,他从静止状态开始做自由落体运动到地面,在他下落过程的最后1秒时,距离地面的距离是大楼一半的高度,这座楼有多高?



不过我们实测了下,im-a-good-gpt2-chatbot似乎也能做对。



还有人测试了一道推理题目,im-a-good-gpt2-chatbot可回答正确,im-also-a-good-gpt2-chatbot也能做到但需要两次提示。


问题:现在有两个足球队。球队A赢了8次,球队B赢了5次,已知还剩7次比赛,球队B想要赢得整场比赛,还需要至少赢几次?



网友:白嫖大家反馈吗?


尽管OpenAI还是没有正式认领gpt2-chatbot,但网友几乎已经默认它们是一家了。


因此有人觉得,gpt2-chatbot在竞技场上搞A/B测试,这不是让大家免费给他当志愿者。



OpenAI想要对内部模型进行人工评估,应该付给测试人员报酬,而不是在免费社区做。



有人觉得他们这么做,就是为了炒热度。



但现在gpt2-chatbot的底层模型到底是啥还不确定。


有人直接问了gpt2-chatbot,但可能存在幻觉,它表示自己基于GPT-4架构,是GPT-4.5的变体。


但之前奥特曼在公开演讲中已经否定了。测试网友表示自己没有给出过GPT-4.5相关的提示内容。



也有人怀疑,这两个模型大小不一样,叫这个名字是不是因为采用了GPT-2的架构来训练模型。


这和单纯的MoE不同,它们使用了Q*、合成数据,Sam的推特编辑历史是不是暗示了这一点?



值得一提的是,最近有大V爆料称本周OpenAI将公布进军搜索引擎的消息。



OpenAI已经更新了网站主页,第一个轮番页是一个搜索框上面写着“向ChatGPT问任何事情”



爆料说这次发布的时间可能在北京时间周五的凌晨2点。


总之,最近OpenAI的动向,都有点神秘。


参考链接:
[1]https://twitter.com/itsandrewgao/status/1787758687651811705
[2]https://twitter.com/DimitrisPapail/status/1787899811514982887
[3]https://twitter.com/AlphaSignalAI/status/1786025388902097077
[4]https://gizmodo.com/powerful-new-gpt2-chatbot-mysteriously-returns-1851460717


本文来自微信公众号:量子位 (ID:QbitAI),作者:明敏

本内容为作者独立观点,不代表虎嗅立场。未经允许不得转载,授权事宜请联系hezuo@huxiu.com
如对本稿件有异议或投诉,请联系tougao@huxiu.com
正在改变与想要改变世界的人,都在 虎嗅APP
赞赏
关闭赞赏 开启赞赏

支持一下   修改

确定