聯(lián)發(fā)科官方宣布，聯(lián)發(fā)科天璣系列移動平臺現(xiàn)已針對微軟最新推出的Phi-3.5小語言模型(SLM)進行了專門適配與優(yōu)化。

該優(yōu)化目前已經(jīng)落地天璣9400、天璣9300兩款旗艦芯片，以及天璣8300次旗艦芯片，而包括天璣8400在內(nèi)的未來的生成式AI技術芯片也都會支持。

開發(fā)人員可以通過微軟Azure AI模型目錄，以及聯(lián)發(fā)科的NeuroPilot SDK開發(fā)工具包，使用微軟Phi-3.5進行相關開發(fā)，尤其是在內(nèi)置NPU AI引擎的聯(lián)發(fā)科平臺上進行和優(yōu)化生成式AI推理。

所謂小語言模型，就是相對于大語言模型(LLM)而言，最大區(qū)別就是參數(shù)量更少，從數(shù)千億甚至數(shù)萬億參數(shù)，通常會減少到幾百萬至幾十億，從而大幅降低了模型體積與復雜度，運行效率更高，獲取更容易，還可以優(yōu)化定制。

因此，小語言模型非常適合智能手機這樣處理器、內(nèi)存等硬件資源相對有限的設備。

隨著生成式AI尤其是端側(cè)AI的快速發(fā)展和廣泛應用，AI正在全面革新現(xiàn)代人的生活、娛樂、工作方式。

事實上，在生成式AI浪潮來臨之前，聯(lián)發(fā)科就已經(jīng)深耕端側(cè)AI生態(tài)的推進，天璣移動平臺每一代都在演進NPU AI硬件引擎，始終保持旗艦級性能，蘇黎世AI Benchmark測試中幾乎一直都是AI性能冠軍。

強大的端側(cè)AI性能，疊加聯(lián)發(fā)科在生態(tài)開發(fā)方面的持續(xù)投入，為天璣平臺智能手機的AI智能化體驗打下了強大軟硬件基礎。

為了加速端側(cè)AI應用落地、普及，聯(lián)發(fā)科還打造了全新的“天璣AI智能體化引擎”，通過強大的端側(cè)AI性能，將傳統(tǒng)應用轉(zhuǎn)化為更加智能化的AI應用，已經(jīng)與多款知名應用達成深度合作，讓年輕人的各方面生活都更智慧、更好玩。

未來，聯(lián)發(fā)科也會持續(xù)推動端側(cè)AI的深入發(fā)展，帶來更加豐富的端側(cè)AI應用。

關注公眾號：拾黑（shiheibook）了解更多

友情鏈接：

關注數(shù)據(jù)與安全，洞悉企業(yè)級服務市場：https://www.ijiandao.com/
安全、綠色軟件下載就上極速下載站：https://www.yaorank.com/