(资料图片)
快科技5月2日消息，近日，一个名为MLC LLM的项目在GitHub上线，该项目为一个能够在手机上运行的，无需联网的开源人工智能聊天机器人。
据悉，MLC LLM项目的本质是一种通用解决方案，它允许将任何语言模型本地部署在一组不同的硬件后端和本地应用程序上。
同时，它还有着一个高效的框架，供每个人进一步优化自己用例的模型性能。
上述这一切，都在本地运行，无需服务器支持，并通过手机或笔记本电脑上的本地GPU加速。
技术上，MLC LLM使用了Vicuna-7B-V1.1，这是一种基于Meta开发的LLaMA模型的轻量级LLM，效果虽然不如GPT3.5或GPT4，但在大小方面比较占优势。
目前，该项目可用于Windows、Linux、macOS和iOS平台，但暂时还没有适用于Android的版本。
值得一提的是，MLC LLM项目的开发团队来自卡内基梅隆大学的Catalyst计划、SAMPL机器学习研究小组以及华盛顿大学、上海交通大学和OctoML等。
标签：
快科技5月2日消息，近日，一个名为MLCLLM的项目在GitHub上线，该项目为一个能够在手机上运行的，无需联网的
格隆汇5月2日丨英超球队曼联卖盘最后一轮竞投已截止，据外媒，以SheikhJassimbinHamadAlThani为首的卡塔尔
因小小失误被人几次三番点名批评，不顾脸面也要跟人理论几句了。【双子座】心情愉快，今天的你妙语如珠，跟
当地时间5月1日上午，“中新合作-2023”海上联合演习闭幕式在新加坡举行，联演正式落下帷幕。 闭幕式...
智通财经APP讯，建滔集团发布公告，该集团于2023年5月2日斥资约118 13万港元回购5万股，回购价为每股23 5港
优化金融消费环境，提振金融消费信心——民生银行广州分行在行动
【当前独家】地铁8号线北延段车站设置将敲定，利好花都这些板块
交通运输部将推进12件交通运输民生实事 驾驶员将收到多个“便利包” 