繁体中文  
 
版主:黑木崖
 · 九阳全新免清洗型豆浆机 全美最低
 
技术解读OpenAI最新“理科生”大模型o1,类似围棋AI的搜索 zt
送交者:  2024年09月13日12:48:35 于 [世界军事论坛] 发送悄悄话

技术解读OpenAI最新“理科生”大模型o1,类似围棋AI的搜索

1. 新推出的o1在数学和编程上达到了人类精英水平,科学问答博士水平、编程奥赛能拿牌、全美数学竞赛前500名。简单地说,就是“理科生”能力很强,远远超过其它AI。文科生水平,就和之前的GPT-4o差不多,或者给人类评估者感觉差一些。

2. 技术秘诀,在于解构模拟了理科生的思维模式:思维链。文科问题是没有什么思维链的,就是不断输出“下一个词”,凑出句子、段落,熟练了就能扯很长。但是理科问题是需要很长的思维链条的,一步推一步,最后得到满意的答案。

3. 神奇的是,机器是可以把这个思维链条模拟出来的!其实我们看大模型做一些简单数学题、逻辑题,回答就包括了完整的思维链条。要注意,这些不是抄答案!有水平的理科生是不能抄答案的,题目变化无穷多。机器给出的,确实是符合人类能理解的思维链。

4. 但是,机器其实不知道自己在干什么!它只是进行了“思维链展开”这个操作。理科生的答案,最终还是文字表述的,一步推一步,每步之间是有文字关联的,机器能“形式主义”地学会。虽然不知道物理和数学实质上什么意思,但是这个链条步骤是人类测试者喜欢的。

5. 一个问题,可能的“思维链展开”有极多种,其中绝大多数都是无效的,链条推理不严谨或者是错误的。但是这就构造了一个庞大的“解空间”,可以在里面优化努力。OpenAI应该是开发了一种理科生模式,让机器在解空间里搜索优化,比文科模式花的时间要长得多。

6. 一个类比就是围棋AI,下棋有“直觉模式”和“搜索模式”。AI的直觉模式就是看棋型直接给出候选点,是一个神经网络的结果,下得很快,能战胜我这样水平不高(但也不低)的业余棋手(因为我们也是靠直觉下棋,算不太动了),但是打不过发现有问题就仔细计算的人类高手。而基于MCTS(蒙特卡洛树形搜索)的搜索算法,就能轻松打败人类,机器自己对弈(强化学习)提升到了人类无法想象的高水平。这次的o1就是引入了搜索模式。

7. 搜索模式会展开思维链,在里面选择概率上似乎更好的链条进行验证、继续展开。因为有随机因素,所以选的链条多半有问题。但是它会继续搜索,总会弄出一些在它自己看来还不错的思维链条,输出给人类。这个搜索算法做好以后,很多数学和编程问题真的就是正确答案。

8. o1也能有强化学习机制,不同版本比较答案正确率,自我迭代。它不依赖很多语言样本了,就是需要改进思维链搜索算法。等于理科生反复做题,找到自己擅长的思路,改正不对的思维习惯。

9. 这确实是机器解构人类理科思维的重大进展,把理科问题像下围棋那样解构成了思维链空间。而这是机器擅长的,等于暴力破解了解空间。人类绝对不会这样下棋、思考,会累死。机器成功模拟了理科生思维,虽然还是不理解在干什么。理论上来说,机器可以超过最厉害理科生的思维能力,暴力搜索模拟思维,然后把结果给人展示,人类会给出真正的智慧“理解问题和答案是什么”。也就是说,机器是极为厉害的“思维工具”,能够帮助人类拓展思维能力,这个空间打开了。我确认这是一个重要的AI领域的大进展。

500


0%(0)
0%(0)
标 题 (必选项):
内 容 (选填项):
实用资讯
北美最大最全的折扣机票网站
美国名厂保健品一级代理,花旗参,维他命,鱼油,卵磷脂,30天退货保证.买百免邮.
一周点击热帖 更多>>
一周回复热帖
历史上的今天:回复热帖
2023: 为啥世界各国出现印度人以及弱智女人当
2023: 波兰要亲美疏中了,就问中国怕不怕 zt
2022: 香港殖人领事馆门前排队悼念英女王、跪
2022: 东亚狠人朝鲜干过哪些震惊世界的狠事?
2021: 陆连烽:主动给中国打电话——几把火将
2021: 美首位女总统敲定?民主党当机立断抛弃
2020: 不要一厢情愿了,谁也不会选边站,因为
2020: 金灿荣其实并不亲美,萨沙说过头了,应
2019: 国企老总鱼贯见林郑,估计又是奉命而行
2019: 国务院出台意见加快发展流通:推进夜间