阿里千問3全系適配蘋果MLX框架

每經記者｜葉曉丹    每經編輯｜馬子卿    

每經杭州6月17日電（記者葉曉丹）日前，阿里巴巴通義團隊開源了全新的千問3量化模型，完成基于蘋果硬件的MLX框架的全系模型深度適配。MLX框架是專為蘋果芯片優化的機器學習框架，在AI（人工智能）開源社區廣受關注。

此次千問3一次性推出32個官方MLX量化模型，包含4bit（比特，信息量單位）、6bit、8bit和BF16（一種每個數值占16 bit的半精度格式）等不同精度，最大程度地滿足開發者在MacStudio、MacBook、iPhone等不同蘋果硬件上部署大模型的需求。

封面圖片來源：視覺中國-VCG211478193393