首页

伪娘赵恩静种子基地

时间:2024-05-08 04:46:59 作者:微软被曝正自研AI大模型:5000亿个参数,与谷歌和OpenAI竞争 浏览量:67528

  科技巨头微软或正在研发参数达5000亿的全新AI(人工智能)大模型,将正面叫板谷歌和OpenAI。

  当地时间5月6日,据外媒报道,微软正在研发一款名为MAI-1的最新AI大模型,其规模远超出微软此前推出的一些开源模型,在性能上或能与谷歌的Gemini 1.5、Anthropic的Claude 3和OpenAI的GPT-4等知名大模型相匹敌。微软或将在5月21日开始举办的Build开发者大会上演示这款新模型。

  据报道,MAI-1的开发由前谷歌AI领导人、曾担任AI初创公司Inflection首席执行官的穆斯塔法·苏莱曼(Mustafa Suleyman)领导。就在今年3月,刚刚领投完Infection的最新一轮融资,微软便从Infection挖走了包括苏莱曼在内的两位联合创始人以及部分员工。有知情人士透露,微软为此向Infection支付了超过6.5亿美元。

  尽管MAI-1可能借鉴了Inflection旗下模型的部分技术,有微软员工表示,MAI-1是一款全新的大语言模型,拥有约5000亿个参数,远超微软此前训练的任何开源模型。不到一个月前,微软刚推出了一款名为Phi-3的小型AI模型,其中Phi-3 mini被优化至可部署在手机上,拥有38亿参数,经过3.3万亿token的训练,微软称其性能与GPT-3.5等模型相当。

  相比之下,MAI-1的规模要大得多,也需要更多的算力投入和训练数据。为了训练该模型,微软已经配置了大量包含英伟达GPU的服务器集群,并从各类来源收集训练数据,包括由OpenAI的GPT-4生成的文本和公共互联网数据。这或将使MAI-1与OpenAI的GPT-4处于相似的水平,据传后者拥有超过1万亿个参数。

  Phi系列模型和MAI-1的研发体现出微软或在AI领域采取了双重策略,一边为移动设备开发小型本地模型,一边开发由云端支持的更大规模的模型。不过,即使在微软内部,MAI-1的确切用途也尚未得到确认。

  更重要的是,MAI-1体现出微软并不希望在AI领域完全依附于合作伙伴OpenAI的技术。来自OpenAI的技术正在驱动微软的各类生成式AI功能,包括集成在Windows中的聊天机器人。此前,有来自微软AI平台团队的员工抱怨称,公司的AI战略过于关注与OpenAI的合作关系,使得微软对AI原创研究的预算减少。

  6日当天,微软首席技术官凯文·斯科特(Kevin Scott)在领英上发帖,间接回应了关于MAI-1的报道。他表示,OpenAI使用微软构建的超级计算机来训练AI模型,而微软的研究部门和产品团队也在构建AI模型:“AI模型几乎出现在我们的每一项产品、服务和运营流程中,制作和运营它们的团队有时需要做一些自定义工作,无论是从头开始训练一个模型,还是微调别人构建的模型。未来将会有更多这样的情况,其中一些模型的名字包括图灵(Turing)和MAI。”

  为了实现在AI方面的突破,微软也在大力囤积算力资源。4月初,有报道称微软计划到今年年底前囤积180万块AI芯片,意味着公司希望在2024年内将所持有的GPU数量增加两倍。据知情人士透露,从2024财年到2027财年(到2027年6月30日结束),微软预计将在GPU和数据中心上花费约1000亿美元。

  澎湃新闻记者 胡含嫣

展开全文
相关文章
中国雕塑作品《龙凤呈祥》亮相西班牙

惊蛰时节,走进山西省朔州市平鲁区双碾乡牧源草业有限公司养殖场,首批入住的安格斯繁殖母牛,毛色发亮、身强体壮,正悠闲地吃着草料,时不时传来清亮的牛哞声。

文化和旅游部:积极推动旅游场所提升便利化水平

在一家专业机构工作的笑笑既是一线服务人员,同时也要参与科研。同行中有不少人兼职做主播或博主,因为所在行业的科普知识很受欢迎。有人选择与MCN合作,“MCN负责脚本、拍摄、剪辑,还会指导他们怎么介绍或介绍什么内容更受欢迎”。在这些合作中,有时是主播向MCN付费,“因为通过MCN包装,主播能得到更多关注,吸引消费者选择他们的服务”;有时是MCN向主播付费,“MCN利用主播的专业身份,推动消费者选择与MCN利益相关的服务或产品”。

2023年澳门旅客总消费同比增近三倍

20多年前,时任浙江省委书记的习近平同志明确要求充分珍惜、大力推广、不断创新“枫桥经验”,“必须相信依靠群众,在执政为民中践行根本宗旨”;2023年9月,习近平总书记在浙江考察时参观枫桥经验陈列馆,指出“坚持党的群众路线,正确处理人民内部矛盾,紧紧依靠人民群众,把问题解决在基层、化解在萌芽状态”。

国防部:厦金海域不存在所谓“禁止、限制水域”

每年春节是外出乡贤返乡探亲的高峰期,也是开展招商引资工作的关键时期。为更好凝聚乡贤发展共识,汇聚乡贤发展力量。近日,浙江丽水庆元县召开新春乡情恳谈会暨招商引资推介会,外出乡贤及企业家代表与该县领导共谋发展良策。

国家发改委公布《全额保障性收购可再生能源电量监管办法》

公告显示,为支持刚性和改善性住房需求,促进房地产市场平稳健康发展,按照因城施策的工作要求,根据《中国人民银行 中国银行保险监督管理委员会关于建立新发放首套住房个人住房贷款利率政策动态调整长效机制的通知》(银发〔2022〕294号)文件精神,决定阶段性取消我市首套住房商业性个人住房贷款利率下限,自2024年4月1日起实施。如后续评估期内(上季度末月至本季度第二个月为评估期)出现新建商品住宅销售价格环比和同比连续3个月均上涨情况,则自下一个季度起,恢复执行全国统一的首套住房商业性个人住房贷款利率下限。

相关资讯
热门资讯