Apple está teniendo su pastel de IA generativa y comiéndoselo también. Apple Intelligence, que fue presentado hoy en la WWDC 2024, es en gran parte un producto de modelos generativos locales de diferentes tamaños, pero incluso el poder del chip A17 Pro no siempre es suficiente para manejar cada una de tus consultas sustanciales.
A veces, Apple tendrá que recurrir a la nube. No a cualquier nube, por supuesto, sino a su propia Nube de Cómputo Privada donde tus datos están protegidos de formas que, según Apple, podrían no estar en otros sistemas de IA generativa basados en la nube.
En una sesión en profundidad posterior a la presentación de la WWDC 2024, el Vicepresidente Senior de Ingeniería de Software de Apple, Craig Federighi, y el Vicepresidente Senior de Estrategia de Aprendizaje Automático e IA de Apple, John Giannandrea, explicaron exactamente cómo Apple Intelligence y los sistemas que apoyará, como el nuevo Siri, decidirán cuándo mantener tus consultas en el dispositivo, cuándo recurrir a la Nube de Cómputo Privada de Apple, y cómo Apple Intelligence decide qué compartir con esa nube.
“Estamos en las primeras etapas aquí”, dijo Federighi mientras explicaba el viaje de la IA, los desafíos que Apple enfrentó, cómo los resolvió y el camino por delante.
Lo que Apple está haciendo aquí no es algo pequeño, y se podría decir que Apple cavó el hoyo en el que se encuentra. Apple Intelligence es esencialmente una serie de modelos de IA generativa de diferentes tamaños que ven profundamente dentro de tu iPhone para conocerte. Conocerte significa que pueden ayudarte de formas que probablemente otros modelos LLM y IA generativas no pueden. Es como cuando tu pareja o padre puede tranquilizarte porque te conocen completamente, mientras que un desconocido solo puede adivinar qué podría reconfortarte pero es igual de probable que se equivoque. Conocerte a ti y a todos los datos en tu teléfono es el superpoder de Apple Intelligence y una debilidad potencial, especialmente en lo que respecta a la privacidad.
Federighi explicó que Apple creó una solución de dos partes para mitigar este problema y evitar un desastre.
Primero, la inteligencia a bordo decide qué partes de todos tus datos son cruciales para obtener la respuesta correcta. Luego envía solo esos datos (encriptados y anonimizados) a la Nube de Cómputo Privada.
La segunda parte de la solución es cómo está construida la nube y cómo gestiona los datos. Se trata de una nube que funciona con eficiente Apple Silicon pero no tiene almacenamiento permanente. Los investigadores de seguridad tienen acceso al servidor pero no a tus datos para realizar auditorías de privacidad. El iPhone no enviará estos fragmentos de datos a un servidor que no haya sido verificado públicamente. Federighi lo comparó con las claves y tokens que se encuentran en los servidores de criptomonedas.
“Nadie, ni Apple ni nadie más, tendría acceso a tus datos”, añadió Federighi.
Para ser claro, tus datos en el dispositivo son el corazón de lo que Apple está haciendo con Apple Intelligence y el nuevo Siri. Es una “comprensión profunda de lo que hay en tu dispositivo” y esa base de conocimiento es “una que solo se enriquecerá con el tiempo”, dijo Giannandrea.
También obtuvimos información sobre cómo el índice semántico de Siri, que puede examinar datos de todo el teléfono, incluida la información meta en fotos y videos, se potencia cuando se combina con los modelos de Apple Intelligence. Todo esto ayuda a reunir una comprensión de a qué te estás refiriendo, dijo Federighi.
Apple ha estado trabajando en el índice semántico durante años. “Así que realmente es una historia de nosotros construyendo durante muchos, muchos años hacia una capacidad realmente poderosa en el dispositivo”.
La pareja también aclaró cuáles modelos utilizarás y cuándo. Resulta que los locales, a menos que solicites, digamos, ChatGPT, son todos de Apple.
“Es importante reiterar que Apple Intelligence y las experiencias de las que hablamos se basan en los modelos construidos por Apple”, añadió Federighi.
Como es habitual, Apple entrenó estos modelos con datos. Algunos provienen de la web pública (basados en el proyecto continuo de búsqueda basada en la web de Apple), aunque Giannandrea dijo que los editores pueden optar por no incluir sus datos. Apple también licenció datos de archivos de noticias e incluso aplicó algunos datos internos a su modelo de difusión.
La pareja también confirmó que Apple Intelligence solo funcionará en iPhones que ejecuten el chip A17 Pro. Como explicación, Giannandrea dijo: “los modelos fundamentales requieren una gran cantidad de computación”. Federighi agregó que el motor neuronal A17 Pro más reciente es “el doble de potente que la generación anterior” y que tiene una arquitectura avanzada para admitir la IA de Apple. Todo esto probablemente sea un consuelo para los propietarios de iPhone 15 (A16 Bionic) y iPhone 14 (Pro y estándar).
En cuanto a cómo Apple Intelligence funcionará con modelos de terceros, Federighi señaló que algunos de ellos tienen experiencia que quizás no encuentres en sus modelos, como responder a la pregunta, “¿Qué puedo hacer con estos ingredientes?” Luego, Federighi agregó algo que podría poner en una luz no intencionada la plataforma de OpenAI, “Incluso las alucinaciones son útiles; terminas con una comida extraña”.