Hugging Face 喺週四發布咗一個叫做 Carbon-X 嘅開源模型,專門用嚟理解 DNA,而且可以直接喺普通筆電本地運行,唔使上雲端。呢個模型由 Hugging Face 聯手中國嘅 Zhongguancun Academy(中關村學院)以及意大利嘅那不勒斯費德里科二世大學(University of Naples Federico II)共同開發。

簡單講,呢個模型將 DNA 當做一種「語言」去讀。DNA 本身就好似電腦代碼,唔係用 0 同 1,而係用 A、C、G、T 四個字母去編碼,人體基因組包含大約 60 億個呢類字母。Carbon-X 嘅做法,係喺一個現有語言模型嘅詞彙入面加入以六個字母為一組嘅 DNA 編編碼,再喺共 3000 億個 token 嘅資料上繼續訓練,內容包括 DNA 序列、英文文本,同兩者之間嘅生物學描述對照。

訓練數據嘅生物來源覆蓋哺乳動物(包括人類)、其他脊椎動物、無脊椎動物、植物、真菌及原生動物。值得留意嘅係,團隊刻意冇放病毒序列入訓練集,理由係唔想模型被用於潛在危險嘅應用。

使用上有一個重要限制:用户唔可以上傳完整人類基因組。模型訓練嘅輸入上限大約係 50,000 個核苷酸對(base pairs),所以用户每次只可以查詢基因組嘅一小部分。設計上係因為研究者將可識別或敏感嘅患者數據上傳到前沿 AI 模型時,本身已受到限制。

Hugging Face 高級研究科學家 Lewis Tunstall 講,工具嘅主要目標係幫研究者設計新藥同基因治療,亦可能 eventual 幫患者解讀自身基因組。佢話:「我哋 unlocks 咗語言模型嘅新能力, fundamentally 就係可以同 DNA 對話。」

呢個唔係第一隻懂 DNA 嘅模型。Google DeepMind 去年發布嘅 AlphaGenome 可以預測 DNA 序列同基因突變嘅影響,但輸出係數字格式,而且需要更多算力。Arc Institute 同 Nvidia 嘅 Evo 2 可以「講 DNA」並由零生成整個基因組。Carbon-X 嘅差異在於將 DNA 同自然語言整合喺一個對話式介面,簡單講就好似一個「DNA 版嘅 ChatGPT」。

呢度係一個有趣嘅交界:生物學模型開始能夠被普通人讀到,同時佢哋嘅權重又係開放嘅。Carbon-X 可以喺本地筆電跑,代表唔用經過任何雲端中介。對研究者嚟講呢係便利;對監管者嚟講,呢係一個唔太好跟住嘅新表面。

模姐|深度調教