【AX-LLM:探索业界常用 LLM(Large Language Model) 在已有芯片平台上落地的可行性和相关能力边界】'AX-LLM - Explore LLM model deployment based on AXera's AI chips' GitHub: github.com/AXERA-TECH/ax-llm #开源##机器学习##人工智能#
【DuckRush:简单快速的后端API,基于 Hono,可以通过关键词在互联网上搜索到相关的内容并转换成适合 LLM 处理的格式】'DuckRush - A simple and fast backend API, based on Hono, that can search for relevant content on the internet using keywords and convert it into a format suitable for L ...展开全文c
【Swan:使用FPGA的轻量级语言模型执行环境,目标是利用高级综合(HLS)在通用FPGA上高效地运行语言模型】’Swan - This project aims to enable language model inference on FPGAs, supporting AI applications in edge devices and environments with limited resources.' GitHub: ...展开全文c
【The Nimble File Format:由 Meta 创建的一种新的列式文件格式,旨在取代 Apache Parquet 和 ORC 等文件格式,其设计用于支持宽表和具有数千列的工作负载】'The Nimble File Format - New file format for storage of large columnar datasets.' GitHub: github.com/facebookexternal/nimble #开源#
【torchtitan:用于大规模语言模型(LLM)训练的原生PyTorch库】'torchtitan - A native PyTorch Library for large model training' GitHub: github.com/pytorch/torchtitan #开源##机器学习##人工智能#
[CL] Towards Systematic Evaluation of Logical Reasoning Ability of Large Language Models O网页链接 LogicBench通过设计包含25种推理模式的问答数据集,系统地评估了大型语言模型在命题逻辑、一阶逻辑和非单调逻辑方面的逻辑推理能力,发现现有模型在处理复杂推理和否定时存在明显 ...展开全文c