Para procesar algunas consultas del nuevo Siri, Apple no utilizará el Private Cloud Compute sino los chips NvidiaBlackwell B200 alojado en Google Cloud. el lo revela La información en un artículo que añade detalles técnicos precisos a lo ya anticipado la semana pasada.
En el primer reportaje el periódico reveló que algunas consultas a la nueva Siri pasarían por Google Cloud en una versión con licencia de Géminisy que Apple no pudo ejecutar el modelo completo en su Private Cloud Compute. Ahora viene la aclaración sobre el hardware: Apple utilizará la flota de Blackwell B200 ya está disponible en Google Cloud y ha aprobado el uso de la función computadora confidencial por Nvidia para proteger los datos durante el procesamiento.
La B200 es la GPU de centro de datos insignia de Nvidia para entrenamiento e inferencia de IA a escala, basada en la arquitectura Blackwell, sucesora de Hopper. Diseñado para modelos con billones de parámetros, con mejoras dramáticas en inferencia, memoria y escalado de múltiples GPU en comparación con la generación anterior.
El computadora confidencial cifra los datos a medida que los procesan las GPU. Nvidia lo describe como un sistema que garantiza la confidencialidad y la integridad de los modelos de IA en los chips Rubin, Blackwell y Hopper, incluso en entornos de nube compartidos, con un rendimiento casi nativo.
La lógica técnica de la elección es comprensible: el modelo Gemini completo tiene parámetros de billones y requiere potencia informática que la infraestructura actual de Apple no puede manejar de manera eficiente. Por este motivo, Apple también está utilizando Gemini para entrenar, mediante destilación, modelos más pequeños capaces de ejecutarse directamente en iPhone, iPad y Mac sin pasar por la nube.
Suponiendo que se trate de un hardware extremadamente potente y que los datos sigan siendo privados, todavía cabe preguntarse qué sucede con el Computación en la nube privadael sistema de servidor propietario presentado como la piedra angular de la privacidad en Apple Intelligence. Cómo encajará en el nuevo Siri que se anunciará en WWDCque se estrenará el 8 de junio, aún no está claro si The Information es correcta.
La impresión es que Apple, para dar rostro y función a su inteligencia artificial, tendrá que renunciar a la autonomía no sólo de los modelos lingüísticos sino también del hardware, con repercusiones potencialmente aún mayores. Cupertino siempre ha construido su identidad sobre la base de la integración vertical y ahora depende, para una de las funciones más cruciales del sistema operativo, de chips de un proveedor externo en la infraestructura de un socio que también es uno de los principales competidores.