Apple Intelligence: El desafío de crear una IA responsable y centrada en la privacidad

Apple ha revelado su esperada estrategia de inteligencia artificial (IA) en la Conferencia Mundial de Desarrolladores (WWDC), presentando la iniciativa Apple Intelligence que incorpora la tecnología en casi todos los dispositivos y aplicaciones de la compañía. Sin embargo, el mayor reto de Apple no es simplemente integrar la IA generativa en sus productos, sino hacerlo de una manera responsable y centrada en la privacidad del usuario.

A diferencia de muchos programas de IA generativa que se ejecutan en la nube, Apple Intelligence utilizará principalmente modelos de IA que se ejecutan localmente en sus dispositivos. Además, la compañía ha desarrollado una tecnología llamada Private Cloud Compute que, según afirma, mantendrá seguros los datos personales en caso de que se envíen fuera del dispositivo. Esto evitará que la información utilizada en una consulta sea retenida por un modelo o en cualquier otro lugar del dispositivo, y no permitirá que los desarrolladores o Apple accedan a información sensible.

Mantener la privacidad de los datos no debería comprometer las capacidades de Apple Intelligence, según John Giannandrea, vicepresidente sénior de aprendizaje automático y estrategia de IA. La compañía ha desarrollado sus propios modelos de IA utilizando un marco llamado AXLearn, que hizo de código abierto en 2023, y ha empleado varias técnicas para reducir la latencia y aumentar la eficiencia de sus modelos.

Otro desafío importante para Apple es reducir las alucinaciones y el contenido potencialmente ofensivo en sus modelos de IA. La compañía se ha centrado en entrenar estos modelos con datos cuidadosamente curados para minimizar estos problemas. Si funciona como promete, Apple Intelligence debería ser menos propensa a fabricar o sugerir algo inapropiado en comparación con otros modelos de IA generativa.

La alianza de Apple con OpenAI también mantendrá a ChatGPT a distancia, ya que Siri y un nuevo asistente de escritura llamado Writing Tools solamente recurrirán a él para determinadas consultas complicadas y con el permiso del usuario. Esto garantiza que el usuario tenga el control y la total transparencia de la experiencia al salir del ámbito de privacidad de Apple y utilizar otros modelos de IA.

Aunque Apple ha sido objeto de burlas por avanzar más lentamente que sus competidores en la creación de IA generativa, su enfoque en la privacidad y la seguridad de los datos no es sorprendente, dadas las preocupaciones que la gente tiene acerca de compartir datos con programas como ChatGPT. Algunos observadores argumentan que los anuncios de Apple equivalen a un esfuerzo por igualar a la competencia sin arriesgarse a cometer demasiadas meteduras de pata.

El mayor reto de Apple Intelligence no es simplemente incorporar la IA generativa en sus productos, sino hacerlo de una manera responsable y centrada en la privacidad del usuario. La compañía ha desarrollado tecnologías y estrategias para abordar estos desafíos, como la ejecución local de modelos de IA, Private Cloud Compute y el entrenamiento cuidadoso de los modelos para reducir las alucinaciones y el contenido inapropiado. Sin embargo, la IA generativa es impredecible por definición, y Apple tendrá que demostrar que puede hacer que su IA se porte bien una vez que se libere a millones de usuarios de iOS y macOS. Si lo logra, Apple Intelligence podría establecer un nuevo estándar para la integración responsable de la IA en la informática personal.