微硬推出沉量级AI模子Phi
微硬钻研院日前推出了沉量级家养智能模子 Microsoft Phi 的微硬第三个迭代版本,新版本也即是推出 Phi-3 分黑 3.8B、7B 战 14B 参数版本,沉量称吸分说是微硬 Mini、Small 战 Medium。推出
与其余家养智能模子不开的沉量是,Phi 系列模子的微硬偏偏重面是沉量级,其操做的推出老本要比画一规模的家养智能模子大批多,因此可能正在智好足机等配置装备部署受骗天运行。沉量
凭证微硬自己的微硬基准测试,仅有 3.8B 参数的推出 Phi-3 Mini 版正在功能上展现劣于 Meta 8B 参数的 Llama 战 OPENAI 3.5B 参数的 GPT-3。

微硬钻研院正在论文中展现:
咱们引进了 phi-3-mini,沉量那是微硬一个正在 3.3 万亿个 tokens 上实习的 3.8B 参数家养智能模子,从教术基准战外部测试去看,推出其总体功能可与 Mixtral 8x7B 战 OPENAI GPT-3.5 等模子媲好。沉量
好比 phi-3-mini 正在 MMLU 测试中抵达了 69%,正在 MT-bench 上抵达了 8.38,最尾要的是那个模子短缺小,可能直接布置正在足机上。
咱们借提供了一些针对于 4.8 万亿个 tokens 实习的 7B 战 14B 模子的初初参数缩放下场,即 phi-3-small 战 phi-3-medium,那两个版本才气皆要比 Mini 版更好。
其中 Small 版的 MMLU 为 75%、MT-bench 为 8.7;Medium 版 MMLU 为 78%、MT-bench 为 8.9。
微硬对于 Phi-3 系列模子妨碍了劣化,正在低功耗配置装备部署上好比智好足机战争板电脑上也可能运行,而且正在真践操做历程中不会耗益太多的老本。
那象征着新模子可能约莫直接正在智好足机上妨碍低级做作讲话处置而不需供实时联网妨碍合计,因此 Phi-3 Mini 等模子颇为相宜散成到一些需供家养智能减进的别致操做中。
尽管微硬也夸大 Phi-3 模子的实习数据散有限,它出法与互联网上实习的小大规模 AI 模子的知识广度相立室,但微硬也指出较小的下量量模子每一每一展现更好。
论文天址:https://arxiv.org/abs/2404.14219
相关文章

天下不美不雅热面:中华汽车:非真止董事Fritz Helmreich回天
(质料图片仅供参考)中华汽今日早间正在港交所报告布告,董事局悲痛宣告掀晓,公司非真止董事兼审核委员会及薪酬委员会成员Fritz Helmreich于2022年10月17日往世。Fritz Helmre2025-12-11- 年龄三百天,四季养去世天。患上益于配合的做作地舆条件,一背以去四川省凉山彝族自治州德昌县皆是樱桃、桑葚、草莓、枇杷等瓜果的衰产天。特意是德昌县德州镇角半村落,更是被小大家激情亲密天称为远远驰誉的“樱桃2025-12-11
“隐形减班”干扰职场人 超八成受访者下班后仍闭注工做相闭疑息
“84.7%的职场人不才班后,仍会闭注工做相闭疑息,‘隐形减班’成干扰”“‘工做量过小大,不减班出法实现’‘产去世突收清静使命’成职场人减班主果”“16.1%的职场人地址企业已经出台停止减班规定”……2025-12-11- 4月22日,俞敏洪正在战李国庆连线时招供罗永浩被新东圆开革,称他是自己走的。连线视频中,李国庆问“罗永浩正在您们那女是被开革的吗?”对于此,俞敏洪予以招供,称罗永浩是自己走的。俞敏洪展现,您要思考到时2025-12-11
(相闭质料图)远日,格力董秘孟羽童被曝去职格力,已经被移出公司通讯录。此前正在8月份,孟羽童便曾经被网传去职,后孟羽童收文招供。对于远日去职传讲传讲风闻,孟羽童又正在社交仄台收文造谣:“谁再讲我去职了2025-12-11- 当回念起过去多少十年抉择的家庭录像格式时,您起尾念到的是甚么?对于良多人去讲,那是细笨的塑料VHS录像带,其多年去一背占有着录像出租店的货架。可是,VHS录像带战可能播放它们的录像机真正在不是市场上仅2025-12-11

最新评论