Sin embargo, es un problema grave cuando los resúmenes tergiversan los titulares de las noticias y, lamentablemente, los casos extremos en los que esto ocurre son inevitables. Apple no puede simplemente solucionar estos resúmenes con una actualización de software. Las únicas respuestas son ayudar a los usuarios a comprender los inconvenientes de la tecnología para que puedan emitir juicios mejor informados o eliminar o desactivar la función por completo. Apple aparentemente opta por lo primero.

Estamos simplificando un poco aquí, pero en general, los LLM como los que se usan para los resúmenes de notificaciones de Apple funcionan prediciendo porciones de palabras en función de lo que vino antes y no son capaces de comprender realmente el contenido que están resumiendo.

Además, se sabe que estas predicciones no son precisas todo el tiempo, y que se producen resultados incorrectos algunas veces por cada 100 o 1000 resultados. A medida que se entrenan los modelos y se realizan mejoras, el porcentaje de error puede reducirse, pero nunca llega a cero cuando se producen innumerables resúmenes todos los días.

Implementar esta tecnología a escala sin que los usuarios (o incluso la BBC, al parecer) comprendan realmente cómo funciona es, en el mejor de los casos, arriesgado, ya sea con los resúmenes de titulares de noticias del iPhone en las notificaciones o con los resúmenes de inteligencia artificial de Google en la parte superior de las páginas de resultados de los motores de búsqueda. Incluso si la gran mayoría de los resúmenes son perfectamente precisos, siempre habrá algunos usuarios que vean información inexacta.

Estos resúmenes son leídos por tantos millones de personas que la magnitud de los errores siempre será un problema, casi sin importar cuán comparativamente precisos sean los modelos.

Hace unas semanas escribimos extensamente sobre cómo el lanzamiento de Apple Intelligence pareció apresuradoen contra del enfoque habitual de Apple en la calidad y la experiencia del usuario. Sin embargo, con la tecnología actual, Apple no podría haber perfeccionado esta característica para alcanzar una tasa de error del cero por ciento con estos resúmenes de notificaciones.

Veremos qué tan bien hace Apple para que sus usuarios comprendan que los resúmenes pueden estar equivocados, pero hacer que todos los usuarios de iPhone realmente asimile cómo y por qué la función funciona de esta manera sería una tarea difícil.

Source link