Ya conoces esa sensación. Tu cuenta está suspendida, tu solicitud de reembolso ha sido rechazada o te siguen cobrando por una suscripción cancelada.
Entonces, vas al sitio web de la empresa en busca de ayuda y te encuentras con un chatbot. Ofrece un menú que no incluye tu situación. No hay opción para hablar con una persona. Al final, te rindes.
Desde principios de 2023, los australianos han presentado 1780 quejas ante el defensor del consumidor del sector de las telecomunicaciones contra minoristas en línea, plataformas de comercio electrónico, motores de búsqueda y redes sociales. En 2025, las quejas aumentaron un 20 % con respecto al año anterior.
Los problemas de acceso a la cuenta fueron los más frecuentes, seguidos de las disputas sobre cargos y comisiones. Más del 70% de los casos involucraron solo a cinco empresas: Meta, Google, Microsoft, Apple y Hubbl.
Lamentablemente, todas las quejas sobre servicios en línea presentadas ante el defensor del consumidor del sector de las telecomunicaciones quedan fuera de su jurisdicción. Ningún organismo defensor del consumidor existente puede tomar una decisión vinculante al respecto.
Necesitamos un sistema de resolución de conflictos que pueda gestionar estas quejas, y existen precedentes para ello.
Los problemas digitales le cuestan dinero a la economía
El Centro de Investigación de Políticas del Consumidor descubrió que cuatro de cada cinco australianos tuvieron algún problema con un servicio digital el año pasado, y que los problemas sin resolver cuestan aproximadamente 497 millones de dólares anuales. Dos de cada tres personas que se quejaron quedaron insatisfechas.
La mayor insatisfacción se refería a los reembolsos a los que la gente creía tener derecho (84%), seguida de la imposibilidad de contactar con alguien que pudiera ayudarles (83%).
Según el centro, cuando la gente se quejaba a las empresas y plataformas en línea, muchos tenían que lidiar con portales de atención al cliente virtuales y chatbots de IA que no eran útiles, no daban ninguna explicación u ofrecían consejos inexactos.
¿Quién puede atender estas quejas?
El marco gubernamental para la prevención de estafas ofrece un modelo a seguir. Exige que los bancos, las empresas de telecomunicaciones y las plataformas digitales globales se adhieran a un sistema externo de resolución de disputas administrado por la Autoridad Australiana de Quejas Financieras antes del 1 de septiembre.
Sin embargo, este sistema se limita a las estafas y no cubre los problemas de cuenta o plataforma descritos anteriormente.
Según la Ley de Servicios Digitales, las plataformas deben contar con un proceso de reclamaciones adecuado, y las decisiones no pueden ser tomadas únicamente por máquinas. Deben ser supervisadas por personal cualificado. Si la plataforma sigue cometiendo un error, los usuarios pueden presentar la reclamación ante un organismo independiente certificado por el gobierno, que deberá resolverla en un plazo de 90 días.
Por ejemplo, un organismo de resolución de disputas, el Centro de Apelaciones de Europa, ha dictaminado sobre 1.500 controversias y ha revocado más de tres cuartas partes de las decisiones originales de las plataformas.
Quizás la IA podría ser parte de la solución
Cualquier sistema de resolución de disputas que abarque plataformas en línea se enfrentaría a un gran número de casos con problemas similares. Es aquí donde los chatbots y la IA podrían convertirse en parte de la solución.
El Tribunal de Resolución Civil de la Columbia Británica guía a las personas a través de un Explorador de Soluciones, un chatbot basado en reglas que formula preguntas predefinidas y devuelve información personalizada según reglas establecidas, antes de que intervenga cualquier persona que decida sobre la marcha.
En una investigación que mis colegas y yo publicamos en la revista UNSW Law Journal, comparamos los chatbots basados en reglas con los chatbots de IA generativa para ver cómo pueden ayudar a las personas con reclamaciones de bajo valor.
La capacidad de la IA generativa para proporcionar respuestas personalizadas y específicas resulta realmente atractiva.
Pero la IA generativa también alucina, inventando con seguridad normas y casos legales que no existen. Incluso cuando no fabrica una fuente, puede ofrecer consejos muy convincentes que, sencillamente, son erróneos.
Ese riesgo recae principalmente sobre las personas a las que estos sistemas están destinados a ayudar. Un consumidor que no puede permitirse un abogado es también quien menos capacidad tiene para darse cuenta cuando una IA ha interpretado erróneamente la ley. Y el error es invisible: si le dicen incorrectamente que no tiene derecho a reclamar, simplemente se da por vencido y nadie se entera. El sistema que produjo el error no recibe ninguna retroalimentación.
Conseguir el diseño adecuado
La Comisión de Reforma Legislativa de Victoria expone principios sensatos en su informe sobre la IA en los tribunales de Victoria, incluyendo una recomendación clara: la IA no debe tomar la decisión final. Una persona debe decidir el resultado.
Antes de que cualquier nuevo sistema de resolución de conflictos integre herramientas de IA, debe decidir qué herramientas se utilizarán, para qué funciones y qué medidas de seguridad reducirán los riesgos potenciales.
Los chatbots con los que la gente se encuentra atrapada hoy en día no están rotos. Funcionan exactamente como fueron diseñados, para las empresas en línea que los crearon.
Australia rara vez tiene la oportunidad de diseñar un sistema de resolución de disputas desde cero, y actualmente está creando uno como parte de su marco de prevención de estafas.
Que la tecnología termine sirviendo a los consumidores o si, por el contrario, les resultará inaccesible, no es una cuestión de IA. Es una cuestión de para quién está diseñado el sistema y de si, al final, siempre habrá alguien a quien recurrir.
Vivi Tan, profesora de Derecho en la Universidad RMIT.
Este artículo se republica de The Conversation bajo una licencia Creative Commons. Lea el artículo original.
