休闲体育概念教什么

百度的2018和OpenAI的2025
发布日期:2025-03-04 14:48    点击次数:72

“往事不要再提,人生已多风雨。”如果关注近期因为DeepSeek引发的各种讨论,李彦宏的耳边或许会响起张国荣的这首《当爱已成往事》。

但爱可以是往事,AI不行。在全球新一轮科技叙事里,它是绕不开的绝对主角。以至于百度,2010年就投身人工智能,算得上率全球之先的科技公司,不可避免地被反复提及。相比荣光,更“刺眼”的是那些“错过”。

比如,机灵的网友发现,DeepSeek北京办公室的楼上就是百度的投资部门——简直就是百度AI对外印象的缩影:起了个大早赶了个晚集,就是差那么一点儿。另一个更遗憾的事实最早被曝光出来是在去年的11月份,最近又在社交媒体广泛传播:让OpenAI打通任督二脉的ScalingLaw是百度发现的。

和“定律”擦肩而过

最早曝出这事的是Anthropic创始人DarioAmodei。这位仁兄曾是OpenAI副总裁,因为对GPT安全性的担忧,和妹妹共同创立了Anthropic,并推出了对标ChatGPT的聊天机器人Claude。

他透露,自己2014年和吴恩达在百度共事的时候,就观察到,通过增加网络层数、训练时间和数据量,模型的表现会显著提升。

这项研究最终被写到了2017年百度发表的一篇论文《DeepLearningScalingIsPredictable,Empirically》里,通过大规模实证研究,揭示了深度学习模型的泛化误差和模型大小与训练集规模之间存在可预测的幂律关系。

遗憾的是,这篇论文更多的是在描述Scaling现象,没有明确将它作为定律来包装。直到3年后,因为OpenAI的那篇《ScalingLawsforNeuralLanguageModels》,ScalingLaw才被广泛认同,DarioAmodei恰好是作者之一。

尘封的往事就此打开。吴恩达,当年在谷歌大脑项目里让神经网络看了一周YouTube视频,学会了识别猫咪,翻开了深度学习崭新的一面。2013年,他受邀到百度分享人工智能,后来和Robin吃了一顿长达三小时的午餐,决定加入百度。

据说当时打动他的有三点,优秀的人才,海量的数据和最强大的基础架构。事实也证明,当时的百度在人工智能的投入上下了极大的决心,比如加入百度后吴恩达很快就订购了1000个GPU,并在24小时内得到,在谷歌可能要花费几周甚至几个月时间。

谷歌大脑成为百度大脑,也成为当年硅谷热议的话题。

全球四大AI巨头之一

吴恩达加入后,很快就有6位在人工智能领域顶级的学者通过邮件表达了加入百度的意愿。在硅谷,吴恩达负责百度人工智能实验室,广纳贤才。DarioAmodei就是吴恩达带来的,他又找了一个斯坦福的实习生JimFan,如今是英伟达高级科学家。

其实早在吴恩达前,李彦宏就觊觎了人工智能三巨头之一的GeoffreyHinton。2012年他看到了一篇关于深度卷积神经网络的论文《ImageNetClassificationwithDeepConvolutionalNeuralNetworks》,决定要把作者拉到百度。

数月后,百度、微软和谷歌来了一场拍卖,李彦宏拍板4400万美元邀请Hinton加入百度,最后Hinton决定留在美国,加入了谷歌。

不难发现,在2013年前后,作为曾经世界顶尖的自然语言处理专家,李彦宏带领百度在人工智能领域展现了足够的雄心壮志和独到眼光。

后来的数年里,在吴恩达等人的带领下,百度确实成了全球有影响力的人工智能巨头。他们开发了世界上第一个支持GPU&CPU的并行深度学习平台PaddlePaddle(飞桨),继谷歌之后推出了开源的深度学习平台,同时在语音技术、自动驾驶等方面提出了全球领先的解决方案。

当时,吴恩达在接受媒体采访时就表示,人工智能很多创新都是由中国率先提出的,只不过传到美国之后被世界所认知。

现在回头去看,ScalingLaw也算是典型案例之一。

2016年,《财富》杂志把百度与谷歌、微软和Facebook并称为全球四大AI巨头。

一场四万人的失恋

一年后,百度推出了全球首个自动驾驶开放平台,李彦宏坐在一辆自动驾驶汽车里上了五环,因为并线问题吃到了一张罚单,留下了“无人驾驶罚单已经来了,无人车量产还会远吗?”的豪言。

主导这次经典亮相的,是“硅谷最有权势的华人”陆奇。那会儿他加入百度没多久。

华人科技圈里,很少人能像陆奇一样拥有绝好的口碑。作为领导,工程师们会穿着“我曾与陆奇一起工作”的T恤表达感谢;作为手下,他成了微软CEO萨蒂亚·纳德拉最为信赖的人之一,做到了执行副总裁这一华人在外资科技公司的最高职位。

他是李彦宏20多年的好友,两人一度每年夏天都会见上一面。李彦宏也断断续续挖了他10年,直到2017年。离开微软前,比尔盖茨曾亲自挽留他并许诺“百度能给你什么,我都给你。”陆奇的回答是:你不能给我“中国”。

来到百度后,陆奇迅速对百度的业务、人员做出了一系列大调整,喊出了AllinAI的口号,百度内部多数员工对此给出了很高的评价和期待。然而,陆奇在百度的职业生涯在一年后戛然而止,留给百度员工“一场四万人的失恋”。

在宣布离职的内部交流会上,他感谢了管理层的信任,再次强调“人工智能将彻底地改变世界”。

陆奇走后不久,李彦宏参加极客大会,强调自己从来没有说过“AllinAI”。更准确来说,他强调了百度大部分资源会投入到搜索和信息流等相对活性的业务上。在外界看来,这是百度在人工智能的探索上踩了一脚刹车。

这会是Scaling最终没能被百度发展成为Law的一大原因吗?

向左向右向前看

但在2018年前后,经历了2016年的AlpahGo,沉寂了一段时间的人工智能正在酝酿新的机会。2017年,在谷歌工作的8位程序员经过数月的合作,创造了一种处理语言的架构Transformer,成为如今大模型的架构底座。

而百度同一年发表的关于Scaling的论文,采用的是LSTM架构。如果百度用了Transformer,事情的走向会有所不同吗?

可以用来参考的,是大洋彼岸另一个科技巨头谷歌。2018年,基于Transformer架构他们推出大模型Bert,能够让机器更好地理解上下文。谷歌很快将它应用到了搜索业务里,让机器更懂用户说了什么,提升搜索结果的相关性。

就是在同一年,OpenAI同样基于Transformer发布了GPT-1,主打的是处理生成任务,能够让机器根据已有文本进行连贯的后续内容生成,翻开了人工智能发展崭新的一页。

对谷歌而言,Bert是基于对搜索体验优化而出现的正常的技术演进,也是大公司惯常采用的“延续性创新”;瞄准AGI的OpenAI希望创造一个全新的AI工具。目标不同,结果自然不同。

但相比谷歌,陆奇离职的“蝴蝶效应”或许成为一个躲不开的变量。很难不去想象一个符合逻辑的演绎:如果2018年年底陆奇还在百度,面对GPT-1的诞生,他会不会跟10多年的好友,OpenAI的创始人阿尔特曼来一次详谈,然后成为ScalingLaw的中国先行者,带领百度AI走上不一样的道路?

历史无法假设,但可以复盘。就像DeepSeek故事里的另一个主角OpenAI,如果延续开源政策,是否会借助全球智慧拥有更多创新?在大量功勋老臣和核心骨干离职之后,如何再保持创新能力?当手握足够多的资源,是否会陷入创新者的窘境?

某种程度上,昔日的百度和如今的OpenAI站在了同一个漩涡里。

但无论如何,作为一家在AI领域持续投入10年的企业,百度对行业的贡献已经超过了公司本身,尤其是在无人驾驶领域,百度几乎帮中国的智能驾驶产业链培养了最核心的一批技术创业者和工程师,为中国智能汽车的全面崛起奠定了人才基础。

只是这些都是“回头看”的往事,身为一号位的李彦宏需要也只能继续向前看。就像《约翰·克里斯朵夫》里说的:“向前,向前,永远不要停。”。

这也是陆奇少年时最喜欢的一本小说。



  • 上一篇:没有了
  • 下一篇:没有了
  • 友情链接: