MediaTek arbeitet mit Alibaba Cloud für mobile Chips großer Modelle zusammen

Quelle:www.ichunt.com

Nach Angaben des Sci-Tech Innovation Board Daily hat MediaTek, ein Hersteller von Smartphone-Chips, erfolgreich große Modelle mit 1,8 Milliarden und 4 Milliarden Parametern auf seinen Flaggschiff-Chips wie dem Dimensity 9300 implementiert und so eine tiefgreifende Anpassung des großen Modells an mobile Chips und erreicht Dadurch kann Tongyi Qianwen auch in Offline-Situationen mehrere KI-Dialogrunden durchführen. Künftig werden die beiden Parteien auch weitere große Modelle unterschiedlicher Größe adaptieren, darunter eines mit 7 Milliarden Parametern, basierend auf dem Dimensity-Chip.

Alibaba Cloud gab bekannt, dass es eng mit MediaTek zusammenarbeiten wird, um globalen Mobiltelefonherstellern endseitige Großmodelllösungen anzubieten.

Derzeit ist MediaTek das Halbleiterunternehmen mit dem weltweit höchsten Versandvolumen an Smartphone-Chips. Den neuesten Daten von Canalys zufolge hat das Unternehmen im vierten Quartal 2023 über 117 Millionen Einheiten ausgeliefert und liegt damit an erster Stelle, gefolgt von Apple mit 78 Millionen Lieferungen und Qualcomm mit 69 Millionen Lieferungen. Tongyi Qianwen ist ein grundlegendes großes Modell, das von Alibaba Cloud entwickelt wurde. Bisher wurden Versionen mit bis zu 100 Milliarden Parametern und Open-Source-Versionen mit 72 Milliarden, 14 Milliarden, 7 Milliarden, 4 Milliarden, 1,8 Milliarden und 500 Millionen Parametern sowie multimodale große Modelle wie das auf den Markt gebracht visuelles Verständnismodell Qwen-VL und das Audio-Großmodell Qwen-Audio.

Während des MWC2024 stellte MediaTek verschiedene Anwendungen der künstlichen Intelligenz vor, darunter die Chips Dimensity 9300 und 8300. Es wird davon ausgegangen, dass der Dimensity 9300-Chip bereits die Anwendung des 7-Milliarden-Parameter-Großmodells von Meta Llama 2 im Ausland unterstützt hat und auf Telefonen der vivo X100-Serie in China mit einem 7-Milliarden-Parameter-Großsprachmodell implementiert wurde Endseite und hat auch erfolgreich ein 13-Milliarden-Parameter-Modell in einer endseitigen experimentellen Umgebung ausgeführt.

Die Zusammenarbeit zwischen MediaTek und Alibaba Cloud markiert das erste Mal, dass das Tongyi-Großmodell eine Hardware- und Softwareanpassung auf Chipebene erreicht hat. Xu Dong, der Geschäftsleiter von Alibabas Tongyi Lab, erklärte: „Endseitige KI ist eines der wichtigen Szenarien für die Anwendung großer Modelle, steht jedoch vor vielen Herausforderungen wie Schwierigkeiten bei der Hardware- und Softwareanpassung und unvollständigen Entwicklungsumgebungen.“ Alibaba Cloud und MediaTek haben eine Reihe technischer und technischer Herausforderungen im Zusammenhang mit der zugrunde liegenden Anpassung und der Entwicklung auf höherer Ebene gemeistert, das große Modell wirklich in den mobilen Chip integriert und ein neues Bereitstellungsmodell von Model-on-Chip für endseitige KI erforscht.“

Neben MediaTek treibt auch Qualcomm aktiv die Umsetzung großer Modelle auf Mobilgeräten voran. Am 18. März kündigte Qualcomm die Einführung der mobilen Plattform Snapdragon 8s der dritten Generation an, die große Sprachmodelle mit bis zu 10 Milliarden Parametern unterstützt und auch multimodale generative KI-Modelle unterstützen kann, darunter Baichuan-7B, Gemini Nano und Llama 2 und Zhipu ChatGLM von Unternehmen wie Baidu Xiriver, Google und META. Es wird berichtet, dass Xiaomi Civi 4 Pro das erste Gerät sein wird, das mit der mobilen Plattform Snapdragon 8s ausgestattet ist.

Ein Analyst der Unterhaltungselektronikbranche erklärte, dass die Zusammenarbeit zwischen Alibaba Cloud und MediaTek bedeutet, dass inländische Mobiltelefonhersteller nun eine Alternative zu Baidu haben.

Nach dem Verständnis des Reporters haben Honor und Samsung bereits zuvor eine Zusammenarbeit mit Baidu Wenxin Yiyan angekündigt. Beispielsweise integriert Samsungs neuestes Flaggschiff-Telefon, die Galaxy S24-Serie, mehrere Funktionen des Wenxin-Großmodells, darunter Anrufe, Übersetzung und intelligente Zusammenfassung. Darüber hinaus gab eine Quelle bekannt, dass Apple derzeit mit Baidu in Kontakt steht, in der Hoffnung, Baidus künstliche Intelligenz-Technologie zu nutzen, und dass zwischen den beiden Parteien bereits Vorgespräche stattgefunden haben.

Lin Dahua, ein führender Wissenschaftler am Shanghai Artificial Intelligence Laboratory, erklärte, dass die Endseite mit dem exponentiellen Wachstum cloudbasierter Großmodelle kurz vor dem Eintritt in eine goldene Wachstumsphase stehe. Cloud-End-Zusammenarbeit wird in Zukunft zu einem wichtigen Trend werden, wobei Cloud-Side-Computing die Obergrenze festlegt und End-Side-Computing die Akzeptanz durch große Benutzer unterstützt.

Nach Prognosen des Beratungsunternehmens IDC wird das Versandvolumen von Smartphones auf dem chinesischen Markt im Jahr 2024 277 Millionen Einheiten erreichen, was einer Wachstumsrate von 2,3 % gegenüber dem Vorjahr entspricht. Darunter wird das Versandvolumen von KI-Telefonen 36,6 Millionen erreichen, mit einer jährlichen Wachstumsrate von mehr als dreistelligen Prozent. Die Anwendung großer KI-Modelle auf Mobiltelefonen wird weiter verbreitet sein.