Los agentes de IA integrados en los dispositivos alcanzan un límite estricto de memoria. La nueva arquitectura de Apple lo sortea.

Los modelos AFM 3 de Apple buscan sortear las limitaciones de la memoria DRAM integrada almacenando los pesos de un modelo de 20 mil millones de parámetros en memoria flash NAND y cargando expertos seleccionados en la DRAM una vez por solicitud, activando entre 1 y 4 mil millones de parámetros por tarea. Apple no ha aclarado las reglas de descarga ni las métricas clave de rendimiento, y se espera que los resultados de las pruebas de rendimiento se publiquen en un informe este verano.