文章来源:智汇AI 发布时间:2025-12-12
智汇AI12月11日消息,美国初创公司Tiiny Lab推出了其最新产品Pocket Lab,这是一款专为个人LLM设计、主打完全离线运行的“口
暂无访问智汇AI12月11日消息,美国初创公司TiinyLab推出了其最新产品PocketLab,这是一款专为个人LLM设计、主打完全离线运行的“口袋AI超级计算机”。
这款设备凭借其极其紧凑的尺寸和强大的硬件配置,在“最小迷你PC(本地运行100B参数LLM)”类别下获得了吉尼斯世界纪录的官方认证。
PocketLab尺寸仅为14.2x8x2.5厘米,重量约300克,内部配置也很强大:
处理器:基于ARMv9.2架构的12核ARMCPU。
AI算力:定制异构模块(SoC+dNPU),提供约190TOPS的总AI算力。
内存与存储:配备了高达80GB的LPDDR5X内存(其中48GB专用于NPU)和1TBSSD。
功耗:典型系统功耗为65W。
PocketLab最大的亮点在于,其能够完全在本地离线状态下运行高达1200亿参数的大模型,打破了以往对云端、服务器或高端GPU的依赖。
该公司通过TurboSparse(神经元级稀疏激活技术)和PowerInfer(开源异构推理引擎)等技术,实现了在低功耗下达到近似服务器级的性能,尤其针对10B至100B参数的个人AI“黄金区间”进行了优化。
PocketLab支持一键安装包括Llama、Qwen、DeepSeek、Mistral、Phi和OpenAIGPT-OSS在内的多种主流开源模型,并支持OpenManus、ComfyUI等AIAgent框架。
TiinyAI确认,这些软件功能和OTA硬件升级将在2026年1月的CES展会上正式发布,该产品的定价细节目前仍未公布。