TII UAE 發布 Falcon-Emirati-7B，基於 Falcon-H1-Arabic 嘅阿聯酋方言專門模型，目標係理解同生成 Emirati 口語，包括 nabati 詩歌、諺語同文化脈絡。
點解方言模型冇咗就等於冇
Arabic 其實係一組同個名嘅語言群。Modern Standard Arabic（MSA，現代標準阿拉伯語）係新聞同課本用嘅書面語，但日常傾計、講笑、談判同講故事，喺 UAE（阿聯酋）用嘅係 Emirati Arabic——一個有自己詞彙、節奏同文化底藴嘅海灣方言。
Emirati 詩歌，特別係 nabati poetry（納巴提詩），同諺語、短故事，成個意義都唔會喺逐字翻譯度存活。一個只識 MSA 嘅模型，可以逐字翻譯 Emirati 句子，但完全漏咗個中意思。呢個正正就係 Falcon-Emirati-7B 想要填補嘅缺口。
技術底座：Falcon-H1 hybrid architecture
Falcon-Emirati-7B 唔係由零開始。佢建喺 Falcon-H1-Arabic 上面，後者係 TII UAE 嘅阿拉伯語模型家族，官方稱「今年早前已為該語言創立新基準」——呢句係廠商自己講嘅，並非獨立評測結果。
Falcon-H1 用嘅係混合架構：State Space Models（Mamba，狀態空間模型）同 Transformer attention（注意力機制）喺每一個 block（模塊）入面並行運行，輸出喺每個 block 嘅 projection（投影層）前融合。呢個設計令長序列處理有 Mamba 嘅線性時間效率，同時保留 attention 對長距離依賴嘅精準度——對阿拉伯語呢種形態學複雜嘅語言尤其重要。
家族涵蓋 3B、7B、34B 三個規模，context window（上下文窗口）達 128K 至 256K tokens，訓練數據涵蓋 MSA 同各地方言（Gulf、Levantine、Egyptian、Maghrebi）加上英文同多語言資料。
點解揀 7B
TII UAE 指 7B 係「sweet spot」（最平衡點）：夠大可以保持方言適應所需嘅細膩度，同時訓練同推理（inference）成本仲可行。34B 理論上品質會再進一步，但對一個方言專門聊天模型嚟説，訓練同服務成本算唔返數；3B 又冇足夠空間處理佢哋想要嘅文化同語言理解深度。
方言微調點解咁難
將通用阿拉伯語模型轉做 Emirati 專家，聽落應該比建底層模型簡單。TII UAE 指並非咁樣，困難喺三個方面：
第一，Emirati 主要係口語方言。 佢喺網絡上嘅書面出現遠少於 MSA，甚至少於其他海灣同黎凡特方言。學習用嘅原始文字資料本身就少。
第二，意思往往非直觀。 諺語、慣用語同詩歌引用靠嘅係共享文化背景，唔係表面詞彙。
第三，冇既定方法論（playbook）。 冇任何經良好文檔化嘅配方話畀你知道：多大量方言數據先夠、點樣同 MSA 同通用阿拉伯語混合、邊個訓練階段（持續預訓練、SFT 監督微調、定偏好優化）對拾起方言最重要。
模姐驗嚇貨
所有架構細節同技術描述都來自 TII UAE 自己。想知 Falcon-Emirati-7B 實際表現點，要等獨立測試先至有講。
模姐｜深度調教
