介绍
高通与LM Studio、微软公司和纽约大学坦顿工程学院合作,于12月7日和8日在纽约大学布鲁克林工程校区举办了一场边缘人工智能黑客松。此项活动要求AI开发者仅利用骁龙X Elite NPU和LM Studio的算例,构建具有实际商业价值的边缘大语言模型(LLM)应用程序的挑战。
黑客松参与人员
我们在160多位意向登记人中,选中了45份申请,形成了20个奋发努力、高度专注的团队 ——他们真的做到了!每个团队夜以继日、孜孜不倦地工作,不仅完成了应用程序,而且还准备并发布了产品宣传,重点介绍了他们的产品,他们如何利用NPU,以及他们在此过程中克服的挑战。其中一些杰出项目包括:
R.E.D.A.C.T. | 从文档中读取和删除个人识别信息的工具 | |
Legal Doc Analyzer | 自动化合同分析工具 | |
Policy Pal | 帮助人们找出保险问题——并最大限度地减化赔付流程 | |
Tutor AI | 本地大语言模型帮助农村地区的教师解决语言多样性、有限资源、学生文化水平不同等挑战。大语言模型应支持多种当地方言,并提供即时翻译。 | |
JobLinkers | 一种本地人工智能驱动工具,可以帮助您找工作,定制简历和求职信,并自动为您填写所有数据。 | |
Mindful | 个人心理健康伴侣 | https://github.com/mannadamay12/MindfulCompanion/tree/develop |
MeWayWise | 包容性出行模式推荐工具 | |
DevDuck | 编码器用调试工具伙伴 | |
SnapLearn | 学生学习伙伴 | |
VS Code Security | 扫描代码漏洞的VS扩展 |
这些项目具有良好的构建和定位,我们鼓励大家查看项目代码库和演示内容。
如果您想观看这些工具的深入演示内容和教程,请在Discord上联系我们,告诉我们应该让哪些团队进行演示。
总的来说,这次活动对所有参与者来说都是一次巨大的成功。参与者分享了对所提供工具、软件和硬件的积极反馈。NPU表现突出,在演示的反馈部分获得了好评:
“NPU非常适合推理,而且非常节能。例如,即使在黑客松期间工作,我也只损失了15%的电池量,而我维持了5个小时的大语言模型服务和一个小时的在线会议。太棒了!— 萨蒂扬·查特罗拉(看看他的Github!)
与会者感谢高通、LM Studio和微软专家在整个活动期间的支持,并为在完成项目后保留骁龙笔记本电脑而感到兴奋。
如要参与未来的活动,请在Discord 上与我们联系,并确保注册高通开发人员通讯,以了解我们即将在美国,亚洲和欧洲地区举行的开发人员活动。
在所发布内容中表达的观点仅为原作者的个人观点,并不代表高通公司或其子公司(以下简称为“高通公司”)的观点。所提供的内容仅供参考之用,而并不意味着高通公司或任何其他方的赞同或表述。本网站同样可以提供非高通公司网站和资源的链接或参考。高通公司对于可能通过本网站引用、访问、或链接的任何非高通公司网站或第三方资源并没有做出任何类型的任何声明、保证、或其他承诺。