前Meta FAIR团队研究总监田渊栋:龙虾存在一些安全性隐患,还有很多漏洞

专题:对话奥马哈·第十一届中美投资人酒会

前Meta FAIR团队研究总监田渊栋:龙虾存在一些安全性隐患,还有很多漏洞-第1张图片

  由新浪财经主办的“对话奥马哈·第十一届中美投资人酒会”于当地时间5月2日在美国内布拉斯加·奥马哈市举办。 

  前Meta FAIR团队研究总监田渊栋在演讲中对DeepSeek V4给予高度评价:“DeepSeek V4现在我也是用过了 ,我今天看过他们的文章,基本上开始用DeepSeek来做一些事情,我觉得V4跟V3差很远 ,有很大的突破,有很多有意思的结果 。”

  他进一步介绍,DeepSeek V4已能满足部分实际需求:“你用V4 ,再加上一些现在开源的工具,应该可以做一些简单的任务了,基本上很多简单的代码任务V4是可以完成的 ,而且完成得还不错。 ”

  田渊栋指出:“其实很多基础的代码任务并不需要一个非常强的模型,这个模型足够好,可以解决我想要的问题 ,其实就已经很不错了 ,就像平时在学习的时候并不需要一个爱因斯坦来教你,你需要一个比较厉害的老师能够把任务完成其实也就可以了,所以我觉得V4一定程度上达到这个目标。”

  谈及DeepSeek V4对行业的影响 ,田渊栋表示:“V4是免费的,首先它的API很便宜,远远便宜于现在的OpenAI和Anthropic的价格 。”他认为 ,这将推动技术平权:“如果V4很厉害的话,或者说开源模型能很快追上这种任务,其实可以用现在的一些开源模型来代替闭源解决方案 ,这样的话大家可能会更倾向于用开源和私有的模型去做他们想做的事情,技术就会非常快地平权化。大家只需要一个够用的,而不是需要最强的模型来做这个事情 ,整个生态应该会有一些比较有意思的变化。 ”

  关于大模型的护城河,田渊栋给出了明确答案:“在这种情况下,算力、数据 、人才 ,应该说最重要的还是数据 ,特别是特殊领域的数据,其实是比较困难获取 。”他进一步补充:“我以前也讲过,对AI来说最重要的是数据 ,然后是Infra,然后是算力和人才,这个路线还是在那儿。在数据之前还有一个地方 ,就是制造这些数据的人更重要,因为这个人往往是专家,他们在某个垂直领域有自己独到的见解 ,这个见解很难被模仿,这些人制造出来的数据非常重要,有这些数据才能获得更好的结果。它的护城河在这儿 。”同时他也强调 ,“当然其它的护城河也很重要,不然大模型是搞不起来的。 ”

  针对“AI现在的记忆方式是否发生了本质的变化”这一问题,田渊栋提出了独特观点:“它既不是背书 ,也不是建立知识图谱 ,应该说背书和知识图谱都是一些比较过时的描述。”他解释道,“为什么背书的方式(数据库的方式)和知识图谱的方式,这两个都没有完全解决AI的问题 ,都没有像现在大模型那样深刻地去改变人类的进程,这是因为大模型在一定程度上来说学到了数据的一些高级的概念,这是非常重要的 。 ”

  田渊栋进一步阐释:“大模型现在的能力应该说是超越了背书和知识图谱 ,它内部获得了一些比较深刻的表征,这个表征可以用来解决一些比较难的问题,这是我现在对它的一个认知 ,这是一个非常重要的步骤 。”他对未来充满期待:“接下来人类应该会对这个表征的理解会更深入,最终能发现媲美甚至超过人对事物认知的程度,现在我们还在处于一个比较初级的阶段。我们现在只是刚刚开始 ,也许以后会有更多的让人不可思议的发现。总有一天模型的能力应该会达到或超过人类,这个时候整个故事就完全不一样 。”

  对于“AI记忆的下一个瓶颈在哪里?如何放心让AI处理精密商业任务 ”的疑问,田渊栋直言这是当前AI发展的一大瓶颈。他给出了现阶段的解决方案:“目前能做的方式就是说让它先生成一些初稿 ,然后让人最后把关 ,人是最终的决策者和执行者,AI给他的东西是初步的,能减轻大量人类的重复劳动的负担 ,但是人类最终还是保留承担责任的角色,所以这种情况下应该说是一个比较好的、不改变现在的运行规律的一个方案,这个方案应该会维持很久。 ”

  他补充道 ,这种人机协作模式与现有行业模式相融:“首先,很多人愿意在工作岗位上继续工作,同时AI能够提高他们的效率 。”对于未来的突破方向 ,他表示:“如果真的AI有一天能够解决这些问题,或者说我们有一些别的方法,比如说用一些基于数学证明的方法 ,或者说是一些保证它一定正确的方案的话,这整个过程可能会不一样。比如说我出一个文件,这个文件能保证这个东西一定是对的 ,它有一些数学层面可以保证这个事情 ,整个流程可能会不同,这样的话可能之前的一些环节会完全被取代。”

  谈及今年热门的“龙虾热 ”及AI agent处理复杂任务的话题,田渊栋分享了自己的尝试体验:“我是尝试过了 ,当然了,我没有尝试多久,因为我觉得龙虾有一些安全性的隐患 ,有一些地方你是非常需要把各种各样的钥匙API都给交给他,让他去做想做的事情 。”他用形象的比喻说明安全隐患:“这个安全性如果没做好的话,就相当于你有一个孩子 ,这个孩子掌握你所有的秘密,你让这个孩子上街去做一些任务,打酱油 ,但是这个孩子很容易被外面的一些坏叔叔给骗过去,坏叔叔给他一颗糖,让他把家里的秘密都交出来。”

  田渊栋进一步分析:“现在就是龙虾也好 ,或者说其他agent也好 ,它其实处于这个状态,因为AI的能力现在还没有达到人的水平,还有很多的漏洞 ,那么这个漏洞一旦被人利用就会造成比较灾难性的影响,这是一个安全性的问题。 ”同时他也肯定了其便利性:“在便利性方向来说,应该说是完全跟以前是不一样的 ,我觉得现在有很多工作是可以自主完成的,这个跟AI coding tools给你的感觉是一样的,很多任务以前需要人盯着 ,现在不太需要人盯着了,很多事情可以放心交给它完成,极大加速了工作的速度和流程 ,我想之后变革应该会更加深化,让工作的速度和效率跟以前完全不同,这个是可以期待的 。”

  针对“不处理复杂流程 ,不需要人工干预的瓶颈在哪里” ,田渊栋分析了两大核心原因。其一,主观决策难以替代:“有些地方还是需要人工干预的,主要还是因为需要人的决策和判断 ,有些时候决策和判断是非常主观的,就不存在一个标准答案,完全取决于个人的爱好。这种情况下 ,你要让AI每次都能踩中你的关键点,这个是很困难的,这个部分就需要人的介入 ,应该说很难攻克,它本身就不是一个定义良好的问题 。 ”

  其二,AI工作质量有待提升:“还有一类的问题是AI自己的工作质量不好 ,它需要做一些反复的决策,或者说AI陷入一个无限循环,需要人去干预 ,这部分应该说是AI工作的质量问题 。”但他对未来充满信心:“我相信随着时间的变化会变得越来越强 ,因为这一年的发展还是一个很大的变化,一年前所有人的agent都是不太行的,但是明显从现在开始 ,这些agent behavior的效果是完全不一样了,很多时候可以让它长时间运行,不用太多烦恼去干预它。所以 ,这一方面我相信再过半年应该会有很多工作出来,把它做得更好。”

  新浪声明:所有会议实录均为现场速记整理,未经演讲者审阅 ,新浪网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述 。

标签:

相关推荐

  • 疫情时事论述/疫情时事评论2021

    疫情时事论述/疫情时事评论2021

    本文目录一览:〖壹〗、2020年上半年时事热点舆情事件与社会新闻热点分析报告汇总〖贰〗、有关疫情的作文10篇_关于疫情的记叙文〖叁〗、2024.7.6日国内外时事新闻精选〖肆〗、【有条理】【有真情】有关疫情作文的名言素材与时事素材2020年上半年时事热点舆情事件与社会新闻热点分析报告汇总〖壹〗、020年上半年时事热点舆情事件汇总北...

    2026/05/03
  • 疫情之后下/疫情过后下一个风口是什么

    疫情之后下/疫情过后下一个风口是什么

    本文目录一览:〖壹〗、疫情之后,万事两面性的思考〖贰〗、疫情冲击之后,个体商户难以为继,相关欠款纠纷层出不穷……〖叁〗、疫情下的大学生活有什么变化?〖肆〗、疫情下物价飞涨,疫情后是否能下降?〖伍〗、疫情结束之后你想做点什么?疫情之后,万事两面性的思考〖壹〗、这次疫情带给我们的深度思考,从辩证的角度思考问题,任何人都有两面性,这...

    2026/05/03
  • 旅游疫情美国(疫情去美国旅游)

    旅游疫情美国(疫情去美国旅游)

    本文目录一览:〖壹〗、去美国旅游安全吗〖贰〗、美国人在疫情期间外出游行,是不注重自己的生命安全吗?〖叁〗、遭欧洲27国“拉黑”后,美国发出预警:对印度等4国实施旅游禁令〖肆〗、重磅!美国宣布11月取消旅行禁令!这些学生可以直接免面签!?〖伍〗、暑期往返美中民众注意,美国CDC对广东省发布二级旅行警告〖陆〗、连加拿大都不能去了!...

    2026/05/03
  • 【疫情征兵难,2021征兵受疫情】

    【疫情征兵难,2021征兵受疫情】

    本文目录一览:〖壹〗、美国征兵有多难〖贰〗、“越战后最大规模征兵危机”,阿汤哥号召力下降,美国空军也缺人_百度知...〖叁〗、我想,我应该当不了兵了美国征兵有多难美军确实面临征兵困难,这主要与薪水低、生活保障不足、工作压力大等因素有关。具体表现如下:薪水低,生活水平差:美国政府和军方高层长期舍不得给军队基层官兵涨薪水,将军饷大部分挪作他用...

    2026/05/03
  • 关于疫情字帖/关于疫情的书法字体

    关于疫情字帖/关于疫情的书法字体

    本文目录一览:〖壹〗、远远的爱作者简介〖贰〗、难忘的假期作文500字关于疫情6篇〖叁〗、疫情对线上广告投放有哪些影响?如何调整?〖肆〗、疫情其间怎样给二年级孩子留积累作业〖伍〗、你羊了吗?无论是否已入羊圈,都来场心理SPA吧!远远的爱作者简介〖壹〗、近十年来,司马彦先生倾力于书法教育,编写并出版了超过1200种钢笔、毛笔字帖教...

    2026/05/03
  • 心存正气疫情(心存正气邪不胜正图片)

    心存正气疫情(心存正气邪不胜正图片)

    本文目录一览:〖壹〗、从新冠疫情浅谈“戾气和正气”(上)〖贰〗、抗击疫情感动人物故事事迹5篇〖叁〗、疫情防控的手抄报内容〖肆〗、疫情期间注意保护自己的宣传语〖伍〗、防疫小口诀〖陆〗、从新冠疫情浅谈“戾气和正气”(下)从新冠疫情浅谈“戾气和正气”(上)从新冠疫情看“戾气与正气”,戾气是具有强烈传染性的致病因素,正气是人体抗...

    2026/05/03
  • 【疫情招工面试,疫情相关面试】

    【疫情招工面试,疫情相关面试】

    本文目录一览:〖壹〗、疫情后工作不好找?我是如何高薪面上心仪的公司〖贰〗、疫情下的面经总结3〖叁〗、疫情期间的面试求职经历疫情后工作不好找?我是如何高薪面上心仪的公司在疫情后成功高薪入职心仪公司,关键在于充分准备面试各环节,包括简历、项目内容、实战面试、自我介绍等,同时掌握常见问题应对策略并调整好心态。具体如下:面试前的准备简历准备对照J...

    2026/05/03
  • 疫情坚守祝福(疫情嘱托祝福)

    疫情坚守祝福(疫情嘱托祝福)

    本文目录一览:〖壹〗、疫情早上最美问候语〖贰〗、抗击疫情励志的优秀句子〖叁〗、为抗击疫情的工作人员加油的句子〖肆〗、关于疫情逆行者的祝福语疫情早上最美问候语疫情早上最美问候语有:致敬每一位奋战在抗疫一线的工作人员,感谢你们用坚守,为我们带来春暖花开的希望!安全距离可以有,人间温暖不能无。近来来看,疫情依然很严峻,不出门,在家读诗。希...

    2026/05/03
  • 集宁区疫情/集宁区疫情最新公告

    集宁区疫情/集宁区疫情最新公告

    本文目录一览:〖壹〗、内蒙集宁疫情严重吗〖贰〗、集宁封城到几号〖叁〗、乌兰察布集宁封城了吗〖肆〗、集宁疫情人数〖伍〗、内蒙集宁疫情结束了吗内蒙集宁疫情严重吗不严重。通过查询疫情防疫部门公告显示,内蒙古自治区截止到2022年8月12日,新增本土确诊病例9例、无症状感染者7例,其中集宁区未有新增病例,但有10例患者,总体来说不严重...

    2026/05/03
  • 【疫情粤语拼音,疫的粤语】

    【疫情粤语拼音,疫的粤语】

    本文目录一览:〖壹〗、搵是广东话什么意思〖贰〗、追追追歌词粤语怎么唱啊?〖叁〗、天天粤语【大步??(足南)过】〖肆〗、粤语说家阵是什么意思啊搵是广东话什么意思揾是粤语中一个常用的词语,它在普通话中的对应词是“找”。在日常交流中,揾这个字被广泛使用,尤其在寻找工作或生活资源的时候。例如,“揾工”表示找工作,“揾食”则是指谋生。以“揾工...

    2026/05/03
返回顶部