返回首页  设为首页  加入收藏  今天是:
网站首页国内新闻国际新闻时政新闻军事新闻时事新闻科技新闻房产新闻教育新闻旅游新闻
相关文章
 “最强开源大模型”登场!扎…
 青少年科技竞赛不该成为“拼…
 养老金一季度现身11只股前十…
 中国官方称支持房地产稳定发…
 一季度经济开局良好增长53% …
 长沙发文优化房地产限购政策…
 2023重庆市文化和旅游产业发…
 黟县:发展红色资源与传承红…
 苏州河对话塞纳河:“中法文…
 高博会首次举办科学教育论坛
 缦云上海官方资讯·合生缦云…
 【早安·常州】全国十强!了…
 【早安·常州】压实责任引向…
 【时政要闻】新疆在京举办有…
 山东移动威海分公司圆满完成…
 统筹多个疾病数据库不断提升…
 【军事观评前线】“天价”防…
 多措并举推动经济持续回升向…
 惊!学生醉汉冲突又发酵:脖…
 致敬巨匠百年诗情!北京法源…
 以军反导行动美军扮演“总调…
 不用核武的前提下军事实力顶…
 福建舰航母轰20与096核潜艇成…
 新华社快讯:据日本气象厅公…
 中国新闻网]中国人民大学应用…
 商务部新闻发言人就美对华发…
 四川如何助力产业链供应链质…
 新闻发布会|科技助力!九江…
 向“新”而行——首届邯郸市…
 桐城:房产新政生效 购房可获…
 多地上调公积金贷款额度媒体…
 让房地产新政更多惠及新市民
 上海市红十字会党组召开党纪…
 上海:展现扩优提质新成果 约…
 上海一学校1年级招生比去年少…
 花开托克逊歌声传四方:原创…
 1972年尼克松访华始末
 1月29日外交部发言人答问汇总
 新华述评丨“两个结合”的根…
 全国人大代表张大冬交出三张…
 特稿丨习:文化传承创新的引…
 悉尼商场砍人事件中国女留学…
 悉尼袭击事件致中国公民死伤…
 普华永道惊天大瓜:中国区老…
 Dtop环球嘉年华开启国际酒店…
 第十一届国际名校来了择校展…
 4月16日《新闻联播》节目主要…
 特稿 溢价28倍售卖的出海之王…
 岩山科技2023年半年度董事会…
 曾经的游戏出海之王为何能“…
专题栏目
网络
您现在的位置: 时事新闻网 >> 科技新闻 >> 正文
高级搜索
“最强开源大模型”登场!扎克伯格最新2万字访谈揭秘Llama 3规划、AI下个前沿战场和开源风险 大模界
作者:佚名 文章来源:本站原创 点击数: 更新时间:2024/4/20 2:05:05 | 【字体:

  “大模界”是每日经济新闻推出一档专注生成式AI与大模型技术的前沿科技报道栏目。

  在这里,我们将聚焦生成式AI技术浪潮,展现从文字、图像、音频、视频的大模型如何编织数字化世界。

  在这里,我们将解码、评测国内外各类大模型,探究它们如何成为变革各行各业的重要力量。

  在这里,我们将关注AIGC行业发展,联手行业领军人物和顶尖专家,共同揭示最新产品创新和技术突破,前瞻未来发展趋势。

  欢迎关注“大模界”,您将见证AIGC如何重塑内容生态,如何以前沿之力推动社会进步。让我们共同开启一场关于AI新纪元的无限旅程!

  当地时间4月18日,Meta正式发布了外界期待已久的大语言模型Llama 3,共有80亿和700亿参数两种版本,号称是最强大的开源大语言模型。

  Meta表示,Llama 3在多个关键的基准测试中性能优于业界先进同类模型,其在代码生成等任务上实现了全面领先,能够进行复杂的推理,可以更遵循指令,能够可视化想法并解决很多微妙的问题。

  在同日Youtube平台公布的一段长达1个多小时、2万字的深度访谈中,Meta公司首席执行官扎克伯格分享了有关Llama 3的更多信息,以及Meta在人工智能(AI)领域的深入思考,包括AI助手Meta.ai的演变、未来AI技术的发展方向和开源AI的潜在风险等。

  Meta的Llama 3大模型不仅将作为开源软件提供给开发者社区,还将为AI助手Meta.ai提供支持。扎克伯格在访谈中表示,“我们正在做的最重要的事情是升级模型。有了Llama 3,我们现在认为Meta.ai是人们可以免费使用的最智能的AI助手。我们还整合了Google和Bing以获取实时知识。”

  谈及Llama 3,扎克伯格称,“我们实际上训练了三个版本,分别是80亿、700亿和4050亿的密集模型,其中4050亿的模型仍在训练中。然而,对于80亿和700亿的模型,我对其结果感到非常兴奋。它们在规模方面处于领先地位。”

  据他介绍,这些新版本将为现有版本带来多模态性、更多语言性和更大的上下文窗口。Meta希望今年晚些时候推出4050亿的模型,尽管仍在训练中,但就目前的训练水平而言,它已经达到约85 MMLU(注:MMLU意为“多语言理解均值”,是一项用于衡量大语言模型性能的指标),预计其将在许多基准测试中拥有领先的基准。700亿的模型大约是82 MMLU,在数学和推理方面拥有领先的分数。

  谈及AI大模型的训练,此前有报道称,Meta计划在今年年底前采购35万个英伟达Nvidia GPU。

  对此,扎克伯格在访谈中透露,“那是我们的整个舰队。我们建立了24000个集群,这些集群是我们用于训练大型模型的单个集群。由于我们服务的社区规模庞大,我们所需的推理计算与训练的比率可能比大多数其他做这些事情的公司高得多。”

  他同时指出,大型AI模型的训练可能会面临资本和能源限制等问题。“我认为在我们达到这一点(指的是资本投入不再值得)之前,你会遇到能源限制。因为我认为还没有人建造过千兆瓦的单一训练集群。”未来,也许获得能源许可就像一个受到严格监管的政府职能。

  当被问及Llama版本如Llama 10最终是否会强大到取代程序员时,扎克伯格说:“我不确定我们是在取代人,还是在为人们提供工具来做更多的事情。但是,我并不认为人类存在一个单一的智力门槛,因为人们拥有不同的技能。在某种程度上,我认为人工智能可能会在大多数方面超越人类,这取决于模型的强大程度。但我认为这是一个渐进的过程。我并不认为AGI(通用人工智能)是一蹴而就的。我认为你基本上是在添加不同的功能。”

  他还特别提到了多模态性的重要性。“最初是照片、图像和文本,但最终是视频。”他同时称,“我还没有看到业内其他人关注的一点就是情感理解。”Meta正在努力提升AI的推理能力和记忆能力,以应对更复杂的用户需求。

  至于未来几十年AI的发展,扎克伯格认为,人工智能的出现与人类进化的重要性相当。AI将改变我们的工作方式,并为人们提供所有创造性的工具来做不同的事情,将真正使人们能够做他们更想做的事情。

  谈及广泛使用AI可能带来的问题时,扎克伯格说:“我想到的一个安全类比是,并不只是人工智能,很多不同的东西都有安全漏洞。”

  那社会应该如何应对这个问题呢?他认为,开源软件是解决此问题的一个重要部分,它使得当对软件进行改进时,它不会仅仅局限于一家公司的产品,而是可以广泛部署到许多不同的系统中。而且这些东西的工作原理是有标准的,世界有可能在短时间内共同升级。在他看来,这种情况比一个人工智能更集中的世界要健康得多。

  在访谈中,他也坦承,AI也可能带来风险。“我认为缓解这种情况的最佳方法可能是拥有优秀的开源人工智能,使其成为标准。在很多方面,它可以成为领导者。这样一来,它就确保了这是一个更加公平和平衡的竞争环境。”

  他强调,“基本上,我通常非常倾向于认为开源对社区和我们都有好处,因为我们会从创新中受益。但如果在某个时候,某样东西的能力发生了一些质的变化,我们觉得开源是不负责任的,那么我们就不会开源。”

  在被问及是否会开源100亿美元的模型时,他表示,只要对他们有帮助,就会开源。然而,他同时也提到,“我们在开源软件方面有着悠久的历史,但我们不倾向于开源我们的产品,我们不会将Instagram的代码开源。我们采用了大量的基础设施,并将其开源。在我们的历史上,最大的项目可能就是开放计算项目,我们将所有的服务器、网络交换机和数据中心的设计开源。这个项目最终证明非常有价值,因为虽然很多人都可以设计服务器,但现在行业已经对我们的设计进行了标准化。这意味着供应链基本上都是围绕我们的设计建立的。随着数量的增加,对每个人来说都更便宜了,为我们节省了数十亿美元。”

  如需转载请与《每日经济新闻》报社联系。未经《每日经济新闻》报社授权,严禁转载或镜像,违者必究。

  特别提醒:如果我们使用了您的图片,请作者与本站联系索取稿酬。如您不希望作品出现在本站,可联系我们要求撤下您的作品。

  欲与微软一决高下?Meta确认开源大模型LLaMA 3下个月登场,年底还将建成等同于60万个H100 GPU的“超级算力库” 大模界

  Meta确认开源大模型LLaMA 3下个月登场,年底还将建成等同于60万个H100 GPU的“超级算力库” 大模界

  比特币再巨震,比特币一度跳水超3800美元 !全网24小时15亿元蒸发,超7万人爆仓!

  发出世园邀约 推出近750亿元投资机会清单 2024成都东部新区北京专场城市价值推介会举行

  以军打击伊朗境内7处目标!伊拉克等地上空也出现大量战机!多架航班在伊朗领空改道,伊朗警告......

  《繁花》中的商战真实上演:石家庄国资“硬刚”海信,66岁董事长“结盟”抗敌

科技新闻录入:admin    责任编辑:admin 
  • 上一个科技新闻:

  • 下一个科技新闻: 没有了
  •  
     栏目
    普通科技新闻 “最强开源大模型”登场!扎克伯格最新2万字访… (04-20)
    普通科技新闻 青少年科技竞赛不该成为“拼爹游戏” (04-20)
    普通科技新闻 养老金一季度现身11只股前十大流通股东榜 (04-20)
    普通科技新闻 四川如何助力产业链供应链质量联动提升?这四… (04-17)
    普通科技新闻 新闻发布会|科技助力!九江市强化创新引领加… (04-17)
    普通科技新闻 向“新”而行——首届邯郸市新能源产业融合发… (04-17)
    普通科技新闻 欧克科技:生活用纸智能装备国产龙头 锂电池隔… (04-16)
    普通科技新闻 一彬科技4月16日盘中跌停 (04-16)
    普通科技新闻 一彬科技4月16日打开跌停 (04-16)
    普通科技新闻 以改革创新为根本动力——从新能源汽车看高质… (04-15)
    普通科技新闻 从人工智能发展前沿看中国科技新动力 (04-15)
    普通科技新闻 焦点科技4月15日盘中跌幅达5% (04-15)
    普通科技新闻 上海:70岁青年突击队靠“硬科技”转型 (04-14)
    普通科技新闻 广汽科技日宣布两年实现无图智驾与全固态电池… (04-14)
    普通科技新闻 中国农科院举行第六届农科开放日活动 科学家与… (04-14)
    普通科技新闻 2023年度“中国十大气象科技进展”发布 (04-13)
    普通科技新闻 2023年中国十大科技大事件盘点 (04-13)
    普通科技新闻 2023年度十大科技新闻公布:中石油、中海油均… (04-13)
    普通科技新闻 集成电路设计服务商灿芯股份登陆科创板 借力资… (04-12)
    普通科技新闻 科技成果落地转化新质生产力加速形成 (04-12)