Sage Group plc ha confirmado que suspendió temporalmente su Sage Copilot, un asistente de inteligencia artificial para las herramientas de contabilidad del fabricante de software empresarial con sede en el Reino Unido, este mes después de que revelara información del cliente a otros usuarios.
Una fuente familiarizada con el desarrollador dijo El Registro a finales de la semana pasada: «Un cliente encontró cuando preguntó (Copiloto sabio) para mostrar una lista de facturas recientes, la IA extrajo datos de otras cuentas de clientes, incluida la suya propia».
«Se informó a través de sus líneas de soporte, se verificó y se tomó la decisión de retirar el acceso a la IA», continuó la fuente.
La empresa describió el error como un «problema menor» para el El Registroy negó que el sistema de aprendizaje automático hubiera filtrado datos sensibles al RGPD como algunos temían.
«Después de descubrir un problema menor que involucraba a una pequeña cantidad de clientes con Sage Copilot en Sage Accounting, pausamos brevemente Sage Copilot», dijo un portavoz de la compañía. «El problema mostró información comercial no relacionada a un número muy pequeño de clientes. En ningún momento se expuso ninguna factura. La solución está completamente implementada y Sage Copilot está funcionando como se esperaba».
El portavoz de Sage indicó que Sage Copilot fue desconectado durante unas horas el lunes pasado para investigar el problema e implementar una solución.
¿Ha experimentado un sistema de inteligencia artificial que se ha descarrilado? Cuéntanos sobre esto con reserva.
Revelado en febrero de 2024Sus creadores describen a Sage Copilot como «un miembro confiable del equipo, que maneja tareas administrativas y repetitivas en ‘tiempo real’, al tiempo que recomienda formas para que los clientes creen más tiempo y espacio para concentrarse en hacer crecer y escalar sus negocios».
El chatbot está destinado a automatizar los flujos de trabajo, detectar errores y generar acciones sugeridas relevantes para la contabilidad empresarial.
«Se ha priorizado la precisión, la seguridad y la confianza de Sage Copilot en cada paso del camino, combinado con soporte experto, cifrado sólido, controles de acceso y cumplimiento de las normas de protección de datos», dice la empresa en su sitio web.
Sage Copilot está disponible actualmente mediante invitación como producto de acceso temprano y lo utilizan un pequeño número de clientes; El portavoz de la empresa no pudo proporcionar una cifra concreta.
Modelos de IA hacer la ciberseguridad más difícilsegún Microsoft. Y generalmente vienen con advertencias de que es necesario verificar su resultado, ya que a menudo son incorrectos. No obstante, las empresas insisten en implementar servicios de IA, en ocasiones para su disgusto.
manzana esta semana suspendido La capacidad de resumen de noticias de Apple Intelligence tras la preocupación de que los resúmenes de IA del servicio fueran inexactos.
El año pasado, Air Canada tuvo que pagarle a un viajero cientos de dólares después de que su chatbot informara erróneamente al pasajero sobre el descuento en la tarifa por duelo de la aerolínea. Y McDonald’s puso fin a su programa piloto de Tomador de pedidos automatizado después de que los clientes se quejaran de la IA. recibí órdenes equivocadas.
En 2023, se convenció a un chatbot de GM utilizado por un concesionario de automóviles de Watsonville, California, para que aceptara vender una Chevy Tahoe 2024. por $1 a través de una ingeniería rápida e inteligente. Dos años antes, Zillow asumió una amortización de inventario de 304 millones de dólares y eliminó 2.000 puestos de trabajo después de la apuesta de la empresa de bienes raíces por las valoraciones de propiedades basadas en inteligencia artificial. se hundió su negocio de compra de viviendas.
Los modelos de IA tienen inventado nombres de paquetes de software, citado casos judiciales inexistentes, y acusado gente de crímenes no se han comprometido.
Mientras tanto, varios grandes fabricantes de modelos de IA, incluidos Anthropic, Meta, Microsoft, OpenAI y Nvidia enfrentar demandas por derechos de autor sobre los datos utilizados para hacer estos modelos. ®
