TaiPhone 是一款專為繁體中文設計的低成本、輕量級語言模型，特別強調台灣語言、文化和背景。該模型基於僅 0.7 億個精選的語料進行訓練，並使用了 chat vector 技術進行增強，展現出優於同規模 LLaMA 調整過的 1B 或 3B 開源語言模型的性能。TaiPhone 顯示了在正確資料的支持下，如何以極低成本訓練出有效且具文化感知的模型。

可以在這裡找到 TaiPhone 模型。
可以在這裡找到技術報告: TODO。

Data 資訊

cp-rephrase-zhtw：從開源語料篩選並透過 LLM 改寫所得的 CP（Continual Pretraining）資料集。
cp-tulu3-en：將 TULU3 的 SFT 資料轉換為 CP 格式，旨在保留模型的英文能力。
sft-kyara-zhtw：從 Kyara 資料集進行樣本選取並重新生成回應。
sft-taiphone-zhtw：基於 cp-rephrase-zhtw 生成的 SFT 資料集，詳細過程請參閱 Medium 文章。
sft-taiphone-zhtw-cleaned：在大規模過濾後得到的清理資料集，包含去重、用字過濾等過程。

注意，雖然資料已經經過一定程度的清理，但仍有可能有幻覺、不正確的用詞、奇怪的斷點等問題，歡迎在 issue 中回報。

Citation

To cite this project, please use the following reference:

@misc{aqweteddy2025taiPhone,
  author = {aqweteddy},
  title = {TaiPhone Project},
  year = {2025},
  url = {https://aqweteddy.medium.com/list/llm-f88a8471439c},
}

Downloads last month: 11