MediaTek está a punto de llevar aplicaciones de IA potentes a algunos teléfonos Android | ENBLE
MediaTek llevará IA potente a teléfonos Android | ENBLE
Tal vez ya hayas probado un montón de aplicaciones de IA generativa en tu teléfono. ChatGPT de OpenAI o HeyPi son algunos ejemplos de aplicaciones de IA conversacionales, mientras que Runway ML te permitirá crear videos generados por IA directamente en tu teléfono.
Pero hasta ahora, casi todas las aplicaciones de IA generativa han dependido de la computación en la nube, lo que significa que todo el procesamiento mágico de IA ocurre en la nube, de la misma manera que los kits de Xbox hacen el trabajo pesado en los centros de servidores de Microsoft cuando transmites un juego de consola en tu teléfono o tableta.
MediaTek quiere cambiar eso, permitiendo el procesamiento de IA generativa en el dispositivo mismo, directamente en tu teléfono inteligente. Esa ambiciosa meta se materializará con el próximo chipset insignia de MediaTek, que aparecerá en teléfonos Android a finales de este año. La compañía cuenta con la ayuda de Meta, la empresa matriz de Facebook, que ofrece el modelo Llama 2 como piedra fundamental para las aplicaciones de IA generativa.
El fabricante de chips promociona una amplia gama de beneficios de su enfoque de procesamiento de IA generativa en el dispositivo, que incluye “rendimiento fluido, mayor privacidad, mejor seguridad y confiabilidad, menor latencia, capacidad de trabajar en áreas con poca o ninguna conectividad y menor costo operativo”.
Acelerando la IA generativa en los teléfonos
El próximo chip de gama alta de MediaTek empleará tres tácticas clave para mejorar la experiencia de IA generativa en los teléfonos inteligentes. En primer lugar, contará con una pila de software dedicada optimizada para ejecutar Llama 2, un modelo de lenguaje grande de código abierto desarrollado por Meta que busca desafiar a los modelos GPT de OpenAI y PaLM 2 de Google.
- Apple Magic Mouse, Magic Trackpad acaban de volverse un poco más ba...
- Las mejores fundas protectoras para iPhone en 2023 las 30 mejores |...
- Este Android compacto es el mejor teléfono del que nunca has oído h...
Llama 2, que se lanzó en julio, es “gratuito para uso de investigación y comercial”. Hasta ahora, no han llegado muchas aplicaciones que dependan del modelo de lenguaje Llama 2, ya que las aplicaciones de IA basadas en GPT son actualmente el tema de conversación. Pero Meta ha estado buscando activamente jugadores en la industria de los teléfonos inteligentes, incluido el rival de MediaTek, Qualcomm.
Al igual que MediaTek, Qualcomm también firmó un acuerdo con Meta para mostrar el procesamiento en el dispositivo para aplicaciones basadas en Llama en teléfonos inteligentes con sus chips insignia a partir de 2024. Ambas compañías también están apuntando a otras áreas de aplicación, como vehículos, hardware de realidad extendida, dispositivos para el hogar inteligente y más, con sus esfuerzos de IA generativa local en el dispositivo facilitados por silicio de primera categoría.
En su próximo chip insignia compatible con IA, MediaTek también utilizará una APU (Unidad de Procesamiento de IA) mejorada que se basa en “aceleración de la columna vertebral del transformador”. Los transformadores son un tipo de arquitectura de red neuronal encargada de crear modelos de lenguaje grandes como GPT (Transformadores Generativos Preentrenados), que dieron origen a productos como ChatGPT y Bing Chat de Microsoft.
Por último, el nuevo chip de MediaTek también aprovechará el módulo DRAM para mejorar la experiencia del usuario de las aplicaciones de IA generativa basadas en Llama. DRAM, que significa Memoria Dinámica de Acceso Aleatorio, es el módulo de memoria de alta velocidad y baja latencia que almacena los datos de trabajo de una aplicación. Cuanta más DRAM tenga tu teléfono, más aplicaciones podrás ejecutar en segundo plano sin problemas. Hay una razón por la cual los fabricantes de teléfonos inteligentes como OnePlus han equipado sus teléfonos con hasta 24 GB de DRAM.
Qué significan estas mejoras de IA para ti
Con los ajustes mencionados, MediaTek dice que su próximo chip de IA mejorará la experiencia de LLM (Modelo de Lenguaje Grande) y AIGC (Contenido Generado por Inteligencia Artificial) al trasladar la mayor parte de los requisitos de procesamiento al hardware local.
En cuanto al tipo de tareas que puedes esperar que se aceleren, dependerá de las capacidades del modelo de lenguaje Llama 2 de Meta y del tipo de aplicaciones que se construyan sobre él. Llama 2 es un modelo de lenguaje basado en texto, por lo que puedes esperar que realice los mismos trucos que ChatGPT o Bard. Puede procesar consultas y proporcionar respuestas basadas en sus conjuntos de datos de entrenamiento, resumir o expandir texto y más.
En cuanto a MediaTek, este no será el primer acuerdo de IA de este tipo. En julio de este año, la compañía firmó un acuerdo con la filial china de Unity, que desarrolla el motor de desarrollo de juegos homónimo, para explorar aplicaciones de IA generativa en el segmento de los juegos.
MediaTek espera que su nuevo chip con aplicaciones Llama 2 llegue a los teléfonos inteligentes a finales de año, así que no tendremos que esperar mucho más para ver cómo se ve todo esto en un producto real.
