实时

您的位置:首页>品牌 >

MLC Chat 上架苹果 App Store,手机就能本地运行 AI 大语言模型


【资料图】

IT之家 6 月 5 日消息,目前绝大多数聊天机器人都需要通过云端处理消息并进行回复,而 IT 之家此前报道过一个名为 MLC LLM 的开源项目。可以在本地编译运行语言模型。近日 CMU 助理陈天其教授表示,独立的 MLC Chat App 目前已经上架苹果 App Store。感兴趣的小伙伴们可以下载进行尝试。

▲ 图源陈天其

据 MLC LLM 项目介绍称:“MLC LLM 是一种通用解决方案,它允许将任何语言模型本地部署在一组不同的硬件后端和本地应用程序上,此外还有一个高效的框架,供每个人进一步优化自己用例的模型性能。一切都在本地运行,无需服务器支持,并通过手机和笔记本电脑上的本地 GPU 加速”。

▲ 图源 苹果 App Store

IT之家查询 GitHub 页面发现,这个项目的开发者来自卡内基梅隆大学的 Catalyst 计划、SAMPL 机器学习研究小组以及华盛顿大学、上海交通大学和 OctoML 等。他们还有一个名为 Web LLM 的相关项目,该项目可以完全在网络浏览器中运行 AI 聊天机器人。

▲ 图源 MLC Chat App

MLC Chat 的 App Store 页面:点此查看

关键词:

推荐阅读
IT之家6月5日消息,目前绝大多数聊天机器人都需要通过云端处理消息并进

2023-06-05 20:46:15

2023年06月05日19时39分美元 人民币汇率最新报价

2023-06-05 20:41:30

6月5日,中国煤炭运销协会发布《2023年4、5月份煤炭市场分析及后期走势

2023-06-05 19:17:47

编程客栈()6月5日消息:生成式AI技术(即能够创建文本、图像和视频等的

2023-06-05 18:42:44

为进一步加快重大项目落地,突出项目建设对经济的拉动作用,近日,桂林

2023-06-05 17:41:05

2023年中国国际信息通信展览会正在北京举行。工业和信息化部副部长张云

2023-06-05 17:30:22

一到夏天,墨镜、口罩、太阳帽 总想方设法躲着太阳但要知道晒

2023-06-05 15:46:34

当地时间4日,沙特宣布将大幅减产石油。报道指出,OPEC+已经实施了366

2023-06-05 15:32:50

IT之家6月5日消息,华为高级副总裁李鹏在第31届中国国际信息通信展览会

2023-06-05 14:52:50

苏报讯(驻太仓记者顾志敏周哲)近日,太仓市总工会联合太仓市应急局、

2023-06-05 13:54:51

世界上最大胆的动物,敢挑衅老虎和狮子,被毒蛇咬了还能自愈!,这世界

2023-06-05 12:51:26

高考对于每一个考生及其家庭来说,都是至关重要的节点

2023-06-05 12:21:55

据大公报报导,上周六下午黄色工作暑热警告生效期间,一名66岁工人在香

2023-06-05 11:20:58

苹果iOS17将在今年秋天开放第三方应用商店,支持侧载,这是苹果面对欧

2023-06-05 11:05:44

深度解析运动员心理问题:消除耻感、解决孤立和抵御网暴

2023-06-05 10:07:45

根据浙江气象局发布的高考天气预告,预计8日前全省多阵雨或雷雨,其中4-6日局部有短时暴雨和个别8~10级雷

2023-06-05 09:20:23

今日观点:经济数据好坏参半,黄金短线震荡回调聊聊上周市场走势,美黄金连下跌0 03%至1964 3美元 盎司,沪

2023-06-05 08:35:31

赛博朋克2077奥特怎么攻略?游戏中怎么攻略奥特坎宁安相信小伙伴们都想了解的吧,今天小编给大家带来赛博朋

2023-06-05 07:28:49

今年是《数字中国建设整体布局规划》发布实施的第一年,规划对“做强做优做大数字经济”提出了明确要求。 

2023-06-05 06:27:05

6月3日,上海豫园九曲桥上发生惊险一幕,一幼童头卡在九曲桥石柱之中。为尽快解救被困儿童,消防员不得已破

2023-06-05 04:50:04