前Meta FAIR团队研究总监田渊栋:龙虾存在一些安全性隐患,还有很多漏洞

专题:对话奥马哈·第十一届中美投资人酒会

前Meta FAIR团队研究总监田渊栋:龙虾存在一些安全性隐患,还有很多漏洞-第1张图片

  由新浪财经主办的“对话奥马哈·第十一届中美投资人酒会 ”于当地时间5月2日在美国内布拉斯加·奥马哈市举办。 

  前Meta FAIR团队研究总监田渊栋在演讲中对DeepSeek V4给予高度评价:“DeepSeek V4现在我也是用过了 ,我今天看过他们的文章,基本上开始用DeepSeek来做一些事情,我觉得V4跟V3差很远 ,有很大的突破,有很多有意思的结果 。”

  他进一步介绍,DeepSeek V4已能满足部分实际需求:“你用V4 ,再加上一些现在开源的工具,应该可以做一些简单的任务了,基本上很多简单的代码任务V4是可以完成的 ,而且完成得还不错。”

  田渊栋指出:“其实很多基础的代码任务并不需要一个非常强的模型 ,这个模型足够好,可以解决我想要的问题,其实就已经很不错了 ,就像平时在学习的时候并不需要一个爱因斯坦来教你,你需要一个比较厉害的老师能够把任务完成其实也就可以了,所以我觉得V4一定程度上达到这个目标。 ”

  谈及DeepSeek V4对行业的影响 ,田渊栋表示:“V4是免费的,首先它的API很便宜,远远便宜于现在的OpenAI和Anthropic的价格 。”他认为 ,这将推动技术平权:“如果V4很厉害的话,或者说开源模型能很快追上这种任务,其实可以用现在的一些开源模型来代替闭源解决方案 ,这样的话大家可能会更倾向于用开源和私有的模型去做他们想做的事情,技术就会非常快地平权化。大家只需要一个够用的,而不是需要最强的模型来做这个事情 ,整个生态应该会有一些比较有意思的变化。”

  关于大模型的护城河 ,田渊栋给出了明确答案:“在这种情况下,算力、数据 、人才,应该说最重要的还是数据 ,特别是特殊领域的数据,其实是比较困难获取 。 ”他进一步补充:“我以前也讲过,对AI来说最重要的是数据 ,然后是Infra,然后是算力和人才,这个路线还是在那儿。在数据之前还有一个地方 ,就是制造这些数据的人更重要,因为这个人往往是专家,他们在某个垂直领域有自己独到的见解 ,这个见解很难被模仿,这些人制造出来的数据非常重要,有这些数据才能获得更好的结果。它的护城河在这儿 。”同时他也强调 ,“当然其它的护城河也很重要 ,不然大模型是搞不起来的 。”

  针对“AI现在的记忆方式是否发生了本质的变化 ”这一问题,田渊栋提出了独特观点:“它既不是背书,也不是建立知识图谱 ,应该说背书和知识图谱都是一些比较过时的描述。 ”他解释道,“为什么背书的方式(数据库的方式)和知识图谱的方式,这两个都没有完全解决AI的问题 ,都没有像现在大模型那样深刻地去改变人类的进程,这是因为大模型在一定程度上来说学到了数据的一些高级的概念,这是非常重要的。”

  田渊栋进一步阐释:“大模型现在的能力应该说是超越了背书和知识图谱 ,它内部获得了一些比较深刻的表征,这个表征可以用来解决一些比较难的问题,这是我现在对它的一个认知 ,这是一个非常重要的步骤 。”他对未来充满期待:“接下来人类应该会对这个表征的理解会更深入,最终能发现媲美甚至超过人对事物认知的程度,现在我们还在处于一个比较初级的阶段。我们现在只是刚刚开始 ,也许以后会有更多的让人不可思议的发现。总有一天模型的能力应该会达到或超过人类 ,这个时候整个故事就完全不一样 。 ”

  对于“AI记忆的下一个瓶颈在哪里?如何放心让AI处理精密商业任务”的疑问,田渊栋直言这是当前AI发展的一大瓶颈。他给出了现阶段的解决方案:“目前能做的方式就是说让它先生成一些初稿,然后让人最后把关 ,人是最终的决策者和执行者,AI给他的东西是初步的,能减轻大量人类的重复劳动的负担 ,但是人类最终还是保留承担责任的角色,所以这种情况下应该说是一个比较好的、不改变现在的运行规律的一个方案,这个方案应该会维持很久。”

  他补充道 ,这种人机协作模式与现有行业模式相融:“首先,很多人愿意在工作岗位上继续工作,同时AI能够提高他们的效率 。 ”对于未来的突破方向 ,他表示:“如果真的AI有一天能够解决这些问题,或者说我们有一些别的方法,比如说用一些基于数学证明的方法 ,或者说是一些保证它一定正确的方案的话 ,这整个过程可能会不一样。比如说我出一个文件,这个文件能保证这个东西一定是对的,它有一些数学层面可以保证这个事情 ,整个流程可能会不同,这样的话可能之前的一些环节会完全被取代。”

  谈及今年热门的“龙虾热”及AI agent处理复杂任务的话题,田渊栋分享了自己的尝试体验:“我是尝试过了 ,当然了,我没有尝试多久,因为我觉得龙虾有一些安全性的隐患 ,有一些地方你是非常需要把各种各样的钥匙API都给交给他,让他去做想做的事情 。 ”他用形象的比喻说明安全隐患:“这个安全性如果没做好的话,就相当于你有一个孩子 ,这个孩子掌握你所有的秘密,你让这个孩子上街去做一些任务,打酱油 ,但是这个孩子很容易被外面的一些坏叔叔给骗过去 ,坏叔叔给他一颗糖,让他把家里的秘密都交出来。”

  田渊栋进一步分析:“现在就是龙虾也好,或者说其他agent也好 ,它其实处于这个状态,因为AI的能力现在还没有达到人的水平,还有很多的漏洞 ,那么这个漏洞一旦被人利用就会造成比较灾难性的影响,这是一个安全性的问题。”同时他也肯定了其便利性:“在便利性方向来说,应该说是完全跟以前是不一样的 ,我觉得现在有很多工作是可以自主完成的,这个跟AI coding tools给你的感觉是一样的,很多任务以前需要人盯着 ,现在不太需要人盯着了,很多事情可以放心交给它完成,极大加速了工作的速度和流程 ,我想之后变革应该会更加深化 ,让工作的速度和效率跟以前完全不同,这个是可以期待的 。 ”

  针对“不处理复杂流程,不需要人工干预的瓶颈在哪里” ,田渊栋分析了两大核心原因 。其一,主观决策难以替代:“有些地方还是需要人工干预的,主要还是因为需要人的决策和判断 ,有些时候决策和判断是非常主观的,就不存在一个标准答案,完全取决于个人的爱好。这种情况下 ,你要让AI每次都能踩中你的关键点,这个是很困难的,这个部分就需要人的介入 ,应该说很难攻克,它本身就不是一个定义良好的问题。”

  其二,AI工作质量有待提升:“还有一类的问题是AI自己的工作质量不好 ,它需要做一些反复的决策 ,或者说AI陷入一个无限循环,需要人去干预,这部分应该说是AI工作的质量问题 。 ”但他对未来充满信心:“我相信随着时间的变化会变得越来越强 ,因为这一年的发展还是一个很大的变化,一年前所有人的agent都是不太行的,但是明显从现在开始 ,这些agent behavior的效果是完全不一样了,很多时候可以让它长时间运行,不用太多烦恼去干预它。所以 ,这一方面我相信再过半年应该会有很多工作出来,把它做得更好。 ”

  新浪声明:所有会议实录均为现场速记整理,未经演讲者审阅 ,新浪网登载此文出于传递更多信息之目的,并不意味着赞同其观点或证实其描述 。

标签:

相关推荐

  • 疫情期间老师报道/老师们在疫情期间

    疫情期间老师报道/老师们在疫情期间

    本文目录一览:〖壹〗、共担疫情风险坚守教学一线〖贰〗、教师防疫先进个人主要事迹〖叁〗、疫情期间去国外,最后辞职的大学老师〖肆〗、春风化雨润桃李——记阜南十小教师何李〖伍〗、防疫科人员先进事迹材料〖陆〗、【长春厚德堂中医】中国中医药报:王檀大疫之中有担当共担疫情风险坚守教学一线〖壹〗、月1日至2月10日,在肥西三中新冠肺炎...

  • 科大疫情/科大科技最新信息

    科大疫情/科大科技最新信息

    本文目录一览:〖壹〗、中科大东校区可以随便进吗〖贰〗、华中科技大学除了红凌还痛失了哪些教授?〖叁〗、你们大爱无疆,我们小爱有心!中科大东校区可以随便进吗〖壹〗、中科大东校区在疫情期间不可以随便进。具体进出规定如下:外来人员限制:外来人员无法随意进入中科大东校区,仅限于本校师生进出。本校学生进出方式:本校学生进出校区需要通过一卡通进行刷卡验...

    2026/05/04
  • 疫情房贷贴息(疫情房贷贴息怎么算)

    疫情房贷贴息(疫情房贷贴息怎么算)

    本文目录一览:〖壹〗、疫情房贷延期申请如何办理〖贰〗、疫情期间贷款可以免利息吗〖叁〗、疫情还房贷政策〖肆〗、房贷利息减免新政策疫情房贷延期申请如何办理身份要求:申请人必须是建行的房贷客户。特殊情况:因一些特殊情况导致暂时无法按时还款,如疫情、失业或家庭突发状况等。申请流程:准备材料:申请人需要准备身份证、贷款合同以及能够证明特殊情况...

    2026/05/04
  • 【疫情少出行,疫情尽量少出门】

    【疫情少出行,疫情尽量少出门】

    本文目录一览:〖壹〗、新冠疫情期间外出旅行应注意哪些事项?〖贰〗、部分人员进京被劝返,疫情期间是否该减少不必要的出行?〖叁〗、疫情4句顺口溜是什么?新冠疫情期间外出旅行应注意哪些事项?〖壹〗、携带身份证件:身份证是出行必备证件,无论是驾车还是乘坐公共交通都需要。若找不到身份证,可前往公安机关开具临时身份证明。做好个人防护:无论是自驾还是乘...

    2026/05/04
  • 村乡疫情防护/农村疫情防护措施知识

    村乡疫情防护/农村疫情防护措施知识

    本文目录一览:〖壹〗、基层疫情防控事迹材料〖贰〗、疫情防控村民的先进事迹〖叁〗、减少聚集,红白喜事尽量简办……国务院联防联控机制发出6条倡议_百度...基层疫情防控事迹材料〖壹〗、获知疫情严重,他仅在广东大年三十和正月初一休息了2天,大年初二便毅然提前返岗,自驾车辆星夜兼程赶回了汉寿,紧急部署落实了疫情防治和安全生产、应急管理工作。〖贰〗...

    2026/05/04
  • 默茨称美削减驻德军队与其涉伊朗战事言论无关

    默茨称美削减驻德军队与其涉伊朗战事言论无关

      当地时间5月3日,德国总理默茨表示,美国近期决定削减驻德军队,与其本人就伊朗战事发表的批评言论“没有关联”。  默茨当天参加德国电视一台一档节目时表示,他对美国政府削减驻军的决定并不意外,“我们这几天听到的情况并不全是新鲜事。形势可能确实有些升级,但这并非新动向”。  默茨表示,他不会放弃与美国总统特朗普的合作,“对我们而言,美国仍是北约中最重要的...

    2026/05/04
  • 潜江控制疫情/潜江疫情防控通告

    潜江控制疫情/潜江疫情防控通告

    本文目录一览:〖壹〗、山西医科大学第二医院药学部主任侯锐钢:从“大专家”到“大管家”,播散...〖贰〗、潜江应急局一码怎么用〖叁〗、湖北潜江解封最新消息复工通告宣布撤销〖肆〗、潜江市疾病预防控制中心中心简介〖伍〗、潜江15号会解封吗〖陆〗、湖北潜江快递什么时候恢复山西医科大学第二医院药学部主任侯锐钢:从“大专家”到“大管家...

    2026/05/04
  • 疫情欺人/疫情真害人

    疫情欺人/疫情真害人

    本文目录一览:〖壹〗、西方国家为何输掉了“抗疫之战”?——一位美国作家的反思〖贰〗、无端指责中国,是眼瞎心也瞎〖叁〗、害别人是否欺负别人〖肆〗、网友打“F-”,特朗普为啥给自己抗疫表现打“A+”?西方国家为何输掉了“抗疫之战”?——一位美国作家的反思西方国家在“抗疫之战”中失利,主要源于战略层面的自恋、自大与自欺欺人,以及新自由主义...

    2026/05/04
  • 舒默要求众议院与白宫禁止预测市场投注

    舒默要求众议院与白宫禁止预测市场投注

      美国参议院民主党领袖舒默呼吁众议院与白宫效仿参议院,对快速发展的预测市场交易实施禁令。  舒默于周日发表声明称:“代表公众的议员及工作人员,绝不能参与有关战争、经济危机或选举的投注。仅凭‘议员投票可能受投注影响’这一可能性,就足以彻底杜绝此类行为。”  美国参议院上周四全票通过禁令,禁止议员及工作人员参与预测市场交易。  此前,一名美军士兵被控利用...

    2026/05/04
  • 去湖州疫情/去湖州需要做核酸吗

    去湖州疫情/去湖州需要做核酸吗

    本文目录一览:〖壹〗、浙江省湖州市是高风险地区吗?〖贰〗、上海低风险地区现在可以去湖州吗,旅游景点疫情防护〖叁〗、恶毒的“西兰花”|虚假人间浙江省湖州市是高风险地区吗?〖壹〗、浙江省湖州市不是高风险地区。通过查询相关公开信息显示,截止2022年12月14日,湖州市疫情防控中心通报,湖州全境为常态化防控区域,不是高风险。防疫措施是持有绿色健...

    2026/05/04
返回顶部