AI新創Tiiny AI發表口袋超級電腦Pocket Lab。其搭載客製化Arm處理器與80GB記憶體,結合TurboSparse與PowerInfer技術,標榜可於終端執行120B參數大型語言模型。AI新創Tiiny AI發表口袋超級電腦Pocket Lab。其搭載客製化Arm處理器與80GB記憶體,結合TurboSparse與PowerInfer技術,標榜可於終端執行120B參數大型語言模型。

新創公司Tiiny AI公開可執行120B AI模型的口袋尺寸AI電腦 搭12核Arm CPU與NPU與80GB記憶體

2025/12/11 11:29

一家AI新創公司Tiiny AI宣布將在CES展示口袋尺寸的超級電腦Tiiny AI Pocket Lab,外表像是一顆大功率行動電源,但卻足以執行120B參數的大型語言模型,且僅需極低的功耗,關鍵在於該平台搭載一顆客製化的Arm架構CPU異構處理器與高達80GB的記憶體。

▲Tiiny AI Pocket Lab採用客製化CPU搭配獨立NPU的異構運算,約190TOPS性能與80GB記憶體足以執行120B參數模型

根據官方資料,Tiiny AI Pocket Lab採用SoC與獨立NPU的客製化異構運算模組,可提供約190TOPS的性能,平台約30WTDP、實際能耗約65W;雖然已AI平台而言性能不算太好,但借助搭載80GB LPDDR5記憶體,足以在裝置端執行120B參數模型。

▲實現執行120B模型的關鍵是利用稀疏化技術與開源的異構推論引擎

除了龐大的80GB記憶體以外,Tiiny AI利用兩種技術使其可執行120B參數模型,一種是基於神經元等級的稀疏化技術TurboSparse,另一種則是可動態把運算負載分配到CPU與GPU、並於GitHub開源的異構推論引擎PowerInfer。

雖然DeepSeek掀起一股AI模型精簡瘦身的風潮,不過現實就是經過瘦身後參數較大的模型仍有其優勢,導致不少專為推論開發的新平台紛紛把重點放在「可執行」大型模型而非追求純性能,故具有大容量的記憶體也成了另一種方式;然而除了對於該平台實際表現仍待經過驗證外,隨著近期記憶體價格飆漲也對這款配置80GB LPDDR5x的產品的量產能力與價格增添變數。

市場機遇
LAB 圖標
LAB實時價格 (LAB)
$0.10433
$0.10433$0.10433
-2.56%
USD
LAB (LAB) 實時價格圖表
免責聲明: 本網站轉載的文章均來源於公開平台,僅供參考。這些文章不代表 MEXC 的觀點或意見。所有版權歸原作者所有。如果您認為任何轉載文章侵犯了第三方權利,請聯絡 service@support.mexc.com 以便將其刪除。MEXC 不對轉載文章的及時性、準確性或完整性作出任何陳述或保證,並且不對基於此類內容所採取的任何行動或決定承擔責任。轉載材料僅供參考,不構成任何商業、金融、法律和/或稅務決策的建議、認可或依據。

您可能也會喜歡

年底大掃除家電|SANSUI 山水高壓織物清潔機推薦,讓布面家具重回潔淨感。

年底大掃除家電|SANSUI 山水高壓織物清潔機推薦,讓布面家具重回潔淨感。

每到年底,大家忙著收納、掃地、擦窗,但最容易被忽略的地方,其實是天天使用、卻很少真正洗乾淨的「布面家具」。沙發、床墊、布椅,看起來乾淨,實際上藏著灰塵、皮屑、飲料滲痕與細小髒污,光用吸塵器其實只能清掉了表面的可見灰塵。 這時候,一台能真正深入纖維、把藏污吸乾淨的 織物清潔機,就成了大掃除效率大提升的最佳幫手。而 SAN
分享
Cool3c2025/12/18 10:24
MICA Daily|BTC 4 小時急漲又暴跌,多空雙殺清算 3 億美元

MICA Daily|BTC 4 小時急漲又暴跌,多空雙殺清算 3 億美元

BTC 昨天晚上又啟動清算行情,多空雙爆清算了近 3.05 億美元,單純是價格操縱。今天晚上美國將公布 CPI 和失業數據,預計市場又會再次波動。 〈MICA Daily|BTC 4 小時急漲又暴跌,多空雙殺清算 3 億美元〉這篇文章最早發佈於《區塊客》。
分享
Blockcast2025/12/18 09:00
Metaplanet 在日本和美國成立專注於 Bitcoin 的子公司

Metaplanet 在日本和美國成立專注於 Bitcoin 的子公司

這篇文章「Metaplanet 在日本和美國成立以比特幣為重點的子公司」發表於 BitcoinEthereumNews.com。Metaplanet (3350),日本最大的比特幣 BTC$116,183.54 儲備公司表示,它成立了兩家子公司——一家在日本,一家在美國——並購買了 bitcoin.jp 域名,以加強其對這一最大加密貨幣的承諾。Bitcoin Japan Inc. 將設在東京,管理一系列與比特幣相關的媒體、會議和線上平台,包括互聯網域名和 Bitcoin Magazine Japan。美國子公司 Metaplanet Income Corp. 將設在邁阿密,專注於從比特幣相關金融產品(包括衍生品)中獲取收入,該公司在 X 平台上發文表示。Metaplanet 指出,它在 2024 年第四季度推出了比特幣收入生成業務,並旨在通過新子公司進一步擴大這些業務。這兩家全資子公司部分由 Metaplanet CEO Simon Gerovich 領導。本月早些時候,該公司將其比特幣持有量增加到超過 20,000 BTC。根據 BitcoinTreasuries 數據,它目前是世界第六大比特幣儲備公司,資產負債表上有 20,136 BTC。領先的公司 Strategy (MSTR) 擁有 638,985 BTC。這些子公司的成立緊隨該公司宣布計劃通過國際股票銷售籌集淨額 2041 億日元(14 億美元)以增強其 BTC 持有量之後。Metaplanet 股票在週三下跌了 1.16%。來源:https://www.coindesk.com/business/2025/09/17/metaplanet-sets-up-u-s-japan-subsidiaries-buys-bitcoin-jp-domain-name
分享
BitcoinEthereumNews2025/09/18 06:12