Inteligencia de Apple, así es como funciona y cómo se entrena la IA de Apple

El futuro de la inteligencia artificial según Apple no juega todo en la nube, ni todo en chips ultra-port. Se juega más bien En el delicado equilibrio entre privacidad, eficiencia e integración profunda en el ecosistemauna tierra donde Cupertino tiene como objetivo destacar más que perseguir.

Después del anuncio de Apple Intelligence en el WWDC 2024, y después de los últimos problemas, Apple publicó el Informe técnico oficial en sus modelos ai. Un documento lleno de detalles sobre arquitectura, optimizaciones, capacitación, datos y privacidad, que ayuda a comprender cómo la inteligencia artificial pronto será parte de la vida diaria en iPhone, iPad y Mac. También un documento muy técnico que, sin embargo, contiene ideas interesantes también para una audiencia generalista y, en última instancia, para todos nosotros.

Ai ingresa a tu iPhone y sale solo cuando necesitas salir de él

Técnicamente, Apple ha alcanzado al menos un objetivo muy relevante. Durante años hemos escuchado que la inteligencia artificial requirió servidores remotos y poder ilimitado, pero en Cupertino creyeron y trabajaron para garantizar que esta declaración fuera menos cierta.

Un modelo de 3 mil millones de parámetros que corre directamente en el dispositivo. Están muy lejos de los utilizados también por el modelo más simple de IA basado en el servidor (el primer modelo GPT 3 tenía 175 mil millones de parámetros) pero un nivel que nadie ha alcanzado localmente.

Apple tiene éxito gracias a dos innovaciones técnicas: el modelo se divide en dos bloques (uno de los cuales sin proyecciones de valor clave), y está entrenado con un formato de 2 bits ultra comprimido. Resultando en Respuestas rápidas, memoria menos empleada y no es necesario enviar datos a la nube.

Apple Intelligence, lo que se puede hacer con Apple AI en italiano - Macitynet.it

Cuando necesitas la nube, todo permanece en casa (realmente)

Para operaciones más complejas, Apple USA, como se sabe, una plataforma de servidor Computación de llamadas de nube privada. Pero no es la nube habitual: todo está encriptado de tal manera que Ni siquiera Apple puede acceder a los datos. Los avisos no están asociados con la ayuda de Apple y no se almacenan.

En la base hay una arquitectura llamada PT-MOE (Mezcla de expertos en la pista paralela): Un sistema inteligente que activa solo las «habilidades» necesarias para responder, dejando el resto. Es modular, escalable y construido para funcionar bien sin renunciar a la confidencialidad.

Más idiomas, menos centrado en inglés

Uno de los límites iniciales de la manzana AI fue el apoyo lingüístico. Hoy, sin embargo, el nuevo modelo ha aumentado la participación de los datos multilingües del 8% al 30%, y ha ampliado los 100,000 a 150,000 token. Las pruebas se realizaron con hablantes nativos, para respuestas más naturales en contextos locales.

En la práctica, herramientas como yo Herramientas de escritura de iOS 18 también será mucho más efectivo en italiano. Un punto de inflexión concreto para aquellos que escriben correo electrónico, notas o mensajes.

¿Dónde aprendes la IA de Apple?

Apple también explicó las fuentes de capacitación en detalle, otro factor extremadamente crítico para la calidad de las respuestas:

  • Datos públicos de la web, seleccionado por AppleBot de conformidad con el archivo robots.txt
  • Contenido con licenciaprobablemente de editores como Condé Nast y NBC
  • Datos sintéticosgenerado por modelos más pequeños para entrenar la IA en matemáticas, código e instrucciones
  • Datos visuales: Más de 10 mil millones de parejas de imagen didascal

Apple afirma filtrar contenido innecesario o tóxico, y nunca se basa en datos personales o conversaciones de usuarios. Esta garantía significa buena calidad de respuestas y menos errores y alucinaciones.

En el punto de referencia, la IA de Apple no vence a las opus GPT-4O o Claude 3, sino que está diseñado para otro propósito: ser Rápido, eficiente y profundamente integrado en dispositivos Apple. Sin afectar la privacidad y sin la necesidad de una conexión constante.

Ai entiende texto, imágenes … y también escarabocci

Los nuevos modelos son multimodales: entienden el texto y las imágenes. Esto incluye captura de pantalla, OCRS, patrones, fotos e incluso notas escritas a mano. El modelo en dispositivo utiliza un codificador de parámetros dedicado de 300 millones, el servidor usa uno de mil millones.

El potencial es enorme: desde la organización automática de fotos hasta comprender el contenido visual en los documentos, hasta la posibilidad de recibir sugerencias inteligentes de elementos visuales.